新一代技術：邊緣智慧實現即時數據處理與智慧決策

Labs 導讀

#邊緣智慧（Edge Intelligence）是一種將人工智慧（AI）和邊緣運算結合的新興技術。傳統的人工智慧應用通常依賴雲端運算中心進行資料處理和決策，但這種方式有延遲和網路頻寬的問題。

Part 01、  什麼是邊緣智慧 ##  

邊緣智慧（Edge Intelligence）是一種新興的技術概念，它指的是將人工智慧（AI）演算法和模型部署在接近資料來源的物聯網設備及其附近的網路節點上進行即時數據處理和分析的能力。在過去幾年中，AI的快速發展引發了許多創新應用和解決方案。然而，隨著AI模型的規模和複雜性不斷增加，傳統的雲端運算架構面臨一系列挑戰，如高延遲、網路擁塞和資料隱私等問題。為了克服這些挑戰，邊緣運算和人工智慧的結合應運而生，形成了邊緣智慧的概念。邊緣智慧不僅將AI模型的訓練和推理移動到離用戶更近的邊緣設備上，例如智慧型手機、感測器、路由器、監視攝影機等。透過在這些邊緣設備上進行即時數據處理，快速響應和分析數據，並在本地做出決策，從而避免了將所有數據發送到雲端進行處理的延遲和安全隱患，為AI應用帶來了許多新的機會。

關於邊緣智慧的範圍和評級，已有研究認為邊緣智慧是利用終端設備、邊緣節點和雲端資料中心層次結構中的可用資料和資源來優化深度神經網絡模型（DNN）的整體訓練和推理表現。這意味著邊緣智慧不一定要在邊緣進行訓練或推理，而是可以透過資料卸載實現雲端、邊、端的協同工作。根據資料卸載的數量和路徑長度，將邊緣智慧分為六個等級

#在運算延遲和能耗在增加的代價下，隨著邊緣智慧等級的提高，資料卸載的數量和路徑長度會減少，從而降低資料卸載的傳輸時延，增加資料隱私性，減少網路頻寬成本。

Part 02、邊緣智慧模型訓練 

邊緣分散式深度神經網路訓練架構可分為三種模式：集中式、分佈式、混合式（雲端端協同）

#➪ 集中式： DNN模型在雲端資料中心進行訓練，用於訓練的資料是從分散式終端設備（如手機、汽車和監視器）生成和收集的，一旦資料到達，雲端資料中心將使用這些資料進行DNN訓練。基於集中式架構的系統，可以根據系統所採用的具體推理方式，在邊緣智能中辨識為第1級、第2級或第3級。

➪ 分散式：每個計算節點使用本地數據在本地訓練各自的DNN模型，並將私有資訊保存在本地。透過共享本地訓練更新來獲得全域DNN模型。此模式下，無需雲端資料中心介入即可訓練全域DNN模型，對應邊緣智慧的第5級。

➪ 混合式（雲端端協同）：結合集中式和分散式，邊緣伺服器可以透過分散式更新來訓練DNN模型，或是使用雲端資料中心來集中式訓練。對應邊緣智能中的第4級和第5級。

目前，邊緣智慧模型訓練方法，主要透過來訓練損失、收斂性、隱私性、通訊成本、延遲 和能源效率這6個關鍵效能指標來評估。

邊緣智能模型訓練所支援的技術如下：

Part 03、 邊緣智能模型推理 

高品質的邊緣智慧服務部署，除了實現深度學習模型的分散式訓練，還需要在邊緣有效率地實現模型推理。 邊緣智慧的推理模型，分為基於邊緣、基於設備、邊緣-設備和邊緣-雲端四種模式。

#➪ 基於邊緣的推理模型：設備處於邊緣模式，接收輸入數據，然後將他們發送到邊緣伺服器。邊緣伺服器完成DNN模型推理，並將預測結果傳回給設備。推理效能依賴於設備與邊緣伺服器之間的網路頻寬。

➪ 基於設備的推理模型：設備處於裝置模式，行動裝置從邊緣伺服器取得DNN模型，並在本機完成模型推理，在推理過程中，行動裝置不斷與邊緣伺服器通信，因此需要行動裝置具有CPU、GPU和RAM等資源。

➪ 基於邊緣-裝置的推理模型：裝置處於邊緣-設備模式，設備首先根據網路頻寬、設備資源和邊緣伺服器負載等因素將DNN模型劃分為多個部分；然後將DNN模型執行到特定層，並將中間資料傳送給邊緣伺服器。邊緣伺服器將執行剩餘層，並將預測結果傳送到設備上。

➪ 基於邊緣-雲的推理模型：設備處於邊緣-雲模式，設備負責收集輸入數據，並通過雲邊協同執行DNN模型。

邊緣智慧模型推理的效能主要透過延遲、精確度、能量效率、隱私性、通訊成本和記憶體佔用這六個指標來進行評估。

邊緣智慧模型訓練所支援的技術如下所示：

#Part 04、  邊緣智能的研究方向  

#邊緣智能作為新興的技術領域，有著廣泛的研究方向和發展潛力，根據邊緣智能的技術特徵和應用場景，未來可從以下幾個面向進行研究：

#

• 程式設計和軟體平台。 隨著越來越多人工智慧驅動的運算密集型行動和物聯網應用的出現，邊緣智慧即服務（Edge Intelligence As a Service, EIaaS）將成為一種普適範式，具有強大邊緣人工智慧功能的EI平台將被開發和部署。
• 邊緣智慧演算法與模型設計。 在邊緣設備上開發高效的智慧演算法和模型，以實現更智慧的資料處理和決策能力。包括機器學習、深度學習、強化學習等演算法在邊緣設備上的最佳化與部署。
• 安全與隱私問題。 在邊緣智慧環境中保障資料的安全與隱私，包括資料傳輸的加密與認證、邊緣設備的安全防護、使用者隱私的保護等面向。
• 計算感知網路技術。 基於人工智慧的運算密集型應用通常運行在分散式邊緣運算環境中。因此，先進網路解決方案應該具有運算感知，在不同的邊緣節點之間有效共享計算結果和數據。建構高效可靠的邊緣智慧網路架構，包括網路拓撲結構、資料傳輸協定、通訊安全性等。同時，利用邊緣運算資源提供高速且低延遲的通訊服務。
• 應用場景與系統設計。 將邊緣智慧技術應用於各個領域，如智慧交通、智慧製造、智慧城市、健康醫療等，探索適應性強、高效可靠的邊緣智慧系統設計，以解決實際問題並推動產業發展。
• 邊緣運算與資料處理。 將邊緣設備中的運算能力和儲存能力充分利用起來，實現資料的即時處理和分析。同時，在資源有限的邊緣設備上優化運算和儲存資源的管理和調度，提高運算效率和資源利用率，以提高系統的效率和效能。
• 邊緣智慧的自適應學習與最佳化。 讓邊緣智慧系統能夠根據環境和需求的變化自主學習和最佳化，提供更智慧的服務和決策。
• 邊緣智慧與其他相關領域的結合。 邊緣智慧與物聯網、5G通訊、雲端運算等技術的結合，以實現更全面、更有效率的智慧化方案。

#

以上是新一代技術：邊緣智慧實現即時數據處理與智慧決策的詳細內容。更多資訊請關注PHP中文網其他相關文章！