新書推薦 ｜ 嵌入式人工智慧

《嵌入式人工智能》

李斌 编著

ISBN：978-7-302-62796-8

定价：69.00元

扫码优惠购书

ChatGPT的问世为人类揭示了通用人工智能（AGI）的雏形。人们发现，当人工神经网络达到一定规模，再加上拟人的学习方法（如RLHF），奇迹就突然产生了，智能开始摆脱人脑的束缚，在计算机上实现了！

然而，仍然有一个挑战亟待解决：我们能否在体积、功耗都与人类相当的机器，如人形机器人上实现以上的奇迹呢？

目前，ChatGPT需要使用超过3万张GPU进行训练和推理，总功率超过1000万瓦特，每天的电费约为5万美元。而人脑的体积不过1.5升左右，功率不到20瓦。如果想要将通用人工智能嵌入到机器人，甚至是更小的无人机、手机、智能家电或物联网设备中时，我们将不得不克服以上的挑战。这就是《嵌入式人工智能》一书想要探讨的话题。

在嵌入式人工智能的领域，我们将用更高的能量效率执行更加精简的算法，并把它们放置在一个体积和重量都更小的机器之内，在真实世界中完成实时推理任务。一句话，我们要将人工智能以最精简的方式来实现！

为了克服这个挑战，需要从各个层面着手解决问题。总结起来，要实现嵌入式人工智能，需要5个方面的组件。

嵌入式AI芯片。它是具有更高能量效率的AI加速器。

轻量级AI算法。它具有更低的计算复杂度和更少的参数，但其准确率与大型AI算法相比毫不逊色。

模型压缩。它进一步裁剪轻量级AI算法中冗余的参数，用更精简的方式表达。

编译优化。它将模型翻译为更适合AI加速器指令的编码。

多层级联的应用程序框架。它在更合适的时机使用更合适的算法，从而降低整个系统的成本和能耗。

这5个组件组合运用起来，通用人工智能就有望真正嵌入到机器中，让它能看、能听、能说、能思考，真正的“活”起来，成为另外一种形态的生命——人工生命。

当然，要实现以上的梦想任重而道远。这本书只是一个入门指南，它探讨了问题并概括了当前解决这些问题的方法和工具。它不是最终的答案，但它提供了获取答案的钥匙。

如果您有志于在机器人、无人机、手机、智能家电、物联网设备上实现通用人工智能，它无疑是一本有益的入门书籍。

本书特色

1. 国内 第一部全面介绍嵌入式人工智能的著作。

2. 内容丰富详实，涵盖 嵌入式人工智能的原理、平台和实践。

3. 对嵌入式人工智能的原理做出系统性归纳总结， 概念新颖，条理清晰。

4. 全面介绍实现 嵌入式人工智能平台，包括主流的嵌入式神经网络芯片和软件框架。

5. 概括嵌入式人工智能的 开发流程。

6. 原理与实践相结合， 结合代码展示嵌入式人工智能的实际应用案例。

应用样例

书中最后一章，我们尝试基于无人机实现一种飞行太阳伞，这种伞可以实时跟踪人的运动，随时为人遮挡阳光的照射，从而解放人的双手，让你在炎炎夏日可以开心的逛街、玩耍，并成为人们关注的焦点。

为了让无人飞行伞实现人体跟踪，我们将采用机器视觉的方法。由飞行伞前部的摄像头拍摄人体，通过轻量级人体姿态估计算法计算人体轮廓，获取人的头部五官、肢体关节所在的位置，进而分析人体产生的动作，预测人将会向哪个方向前进、后退、转向或上下坡，从而让无人飞行伞跟踪这种运动，随时调整无人飞行伞的空间位置，实现对人体的跟随和遮阳效果。

考慮到重量、耗電等原因，必須採用專用的嵌入式AI晶片。在書中以英偉達Jetson為例進行了開發。現在，基於ARM的SoC等每瓦推理性能更強的晶片已經被廣泛應用，以應對技術高速發展帶來的挑戰。但書中介紹的流程和方法仍然是適用的。

為了讓上面的輕量級演算法在嵌入式AI晶片上達到即時推理的要求，還需採用模型壓縮和優化技術，對模型進行剪枝、量化等操作，減小模型的參數，讓推理性能成倍增長，功耗成倍降低，並為專用的嵌入式AI晶片推理而優化。書中以TensorRT為例做了說明，如果採用基於ARM的SoC，則可以採用Tensorflow Lite等壓縮與最佳化技術。

最後，借助本書的知識，我們終於可以讓無人太陽傘飛起來了！

目錄

向上滑動閱覽

第一部 原理

第1章 人工智慧與人工神經網路

1.1 什麼是人工智慧

1.2 什麼是人工神經網路

1.3 人類大腦

1.4 人工神經網路的基本構成

1.4.1 人工神經元

1.4.2 人工神經網路的結構

1.5 人工神經網路的學習機制

1.6 人工神經網路的類型

1.7 人工神經網路的優勢

1.8 深度神經網路

1.8.1 什麼是深度神經網路

18.2 常見的深度神經網路

1.8.3 卷積神經網路

1.9 神經網路架構搜尋（NAS）

1.9.1 搜尋空間

1.9.2 強化學習搜尋

1.9.3 漸進式搜尋

1.9.4 離散搜尋

1.10 遷移學習

1.10.1 什麼是遷移學習

1.10.2 遷移學習的型別

1.10.3 遷移學習的優點

1.10.4 遷移學習的方式

1.10.5 遷移學習與嵌入式人工智慧

第2章 嵌入式人工智慧

2.1 什麼是嵌入式人工智慧

2.2 為什麼需要嵌入式人工智慧

2.3 最初的嘗試：雲端運算模式

2.4 從雲端到裝置：本機模式

2.5 嵌入式人工智慧的技術挑戰

2.5.1 模型規模

2.5.2 能量效率

2.5.3 記憶體存取

2.5.4 推理速度

2.5.5 尺寸與重量

2.6 內嵌式人工智慧的實現途徑

2.7 內嵌人工智慧的實作元件

第3章 嵌入式AI晶片原理

3.1 平行計算

3.2 脈動陣列

3.3 多層快取

3.4 資料流

第4章 輕量級神經網路

4.1 降低計算複雜度

4.1.1 分組卷積

4.1.2 深度方向卷積

4.1.3 點向卷積

4.1.4 深度可分離卷積

4.1.5 通道亂序混合

4.2 SqueezeNet

4.2.1 核心思想

4.2.2 網路結構

4.2.3 效能

4.3 Xception

4.3.1 核心思想

4.3.2 網路結構

4.3.3 效能

4.4 MobileNet v1

4.4.1 核心思想

4.4.2 網路結構

4.4.3 效能

4.5 MobileNet v2

4.5.1 核心思想

4.5.2 網路結構

4.5.3 效能

4.6 MnasNet

4.6.1 核心思想

4.6.2 網路結構

4.6.3 效能

4.7 MobileNet v3

4.7.1 核心思想

4.7.2 網路結構

4.7.3 效能

4.6 輕量級神經網路的應用

第5章 深度神經網路壓迫

5.1 神經網路壓迫的一般方法

5.1.1 剪枝

5.1.2 權重共享

5.1.3 量化

5.1.4 二值/三值化

5.1.5 Winograd卷積

5.2 壓縮-編譯協同設計

5.2.1 壓縮編譯協同設計的概念

5.2.2 壓縮器

5.2.5 編譯器

5.2.6 壓縮編譯協同設計的優勢

第6章 嵌入式神經網路應用程式框架

6.1 分層級聯繫統的構成

6.2 分層級聯繫統的效率

6.4 本地-雲端協同模式

第7章 終身深度學習

7.1 傳統深度學習的缺陷及原因

7.2 終身深度學習的目標

7.3 終身深度學習的特性

7.4 神經生物學的啟示

7.5 終生深度神經網路的實作

7.5.1 雙學習系統

7.5.2 即時更新

7.5.3 記憶合併

7.5.4 適應真實場景

7.6 終身深度學習與內嵌人工智慧

第二部 平台

第8章 嵌入式神經網路硬體加速器

8.1 概述

8.2 NVIDIA Jetson

8.2.1 Jetson模組簡介

8.2.1 Jetson模組內部結構

8.2.3 Jetson性能

8.3 Intel Movidius

8.3.1 Movidius Myriad X VPU晶片

8.3.2 Intel神經運算棒

8.4 Google Edge TPU

8.4.1 Google Edge TPU簡介

8.4.2 Google Edge TPU工作原理

8.5 XILINX DPU

8.6 ARM Ethos NPU

##

8.6.1 ARM機器學習處理器

8.6.2 Ethos-N系列

8.6.3 Ethos-U系列

小結

第9章 嵌入式神經網路軟體框架

9.1 Tensorflow Lite

9.1.1 TensoFlow Lite簡介

9.1.2 TensorFlow Lite 運作原理

9.2 TensorRT

9.3 OpenVINO

9.3.1 OpenVINO簡介

9.3.2 Open VINO的構成

9.3.3 Open VINO應用開發

9.4 XILINX Vitis

9.5 uTensor

9.6 Apache TVM

小結

第三部 實作

第10章 建構嵌入式神經網路開發環境

10.1 嵌入式AI開發流程

10.2 NVIDIA Jetson開發流程

第11章 最佳化內嵌神經網路模型

11.1 TensorFlow 模型最佳化

11.1.1 訓練後最佳化

11.1.2 訓練時最佳化

11.2 TensorRT模型最佳化

11.2.1 與主流深度學習架構整合

11.2.2 部署到嵌入式系統

11.2.3 TensorRT API

#11.2.4 TensorRT應用範例

11.2.5 模型轉換器

11.3 兩種模型最佳化技術的比較

第12章 在嵌入式裝置上執行推理

12.1 從原始碼建置專案

12.2 使用ImageNet實現影像分類

12.2.1 靜態影像分類

12.2.2 攝影機即時視訊分類

12.3 使用DetectNet實現目標偵測

13.3.1 靜態影像目標偵測

13.3.2 攝影機即時視訊目標偵測

12.4 使用SegNet實作語意分割

12.4.1 靜態影像語意分割

12.4.2 視訊語意分割

12.5 使用PyTorch實作遷移學習

12.6 使用轉換的模型

第13章 嵌入式神經網路應用範例

13.1 應用場景

13.2 硬體選項

13.3 模型開發### ###結束語：萬物智能###

以上是新書推薦 ｜ 嵌入式人工智慧的詳細內容。更多資訊請關注PHP中文網其他相關文章！