在人工智慧基礎設施方面，您應該選擇邊緣或雲端？

如今，邊緣運算一直是熱門話題。被譽為近年來最令人興奮的技術轉變，關於其變革力量的討論很多！

隨著越來越強大的 AI/ML 演算法重新定義「智慧」以及更便宜、更強大的「邊緣」設備的可用性，這種炒作在很大程度上是真實的。但是，如果要考慮邊緣運算的歷史，它會比最近的興趣讓我們相信的更早。

事實上，運算和智慧最初始於邊緣，當時大多數應用程式幾乎不存在高頻寬網路連線。即使在 1990 年代後期，遠端部署在工廠或現場的關鍵測量設備通常也具有處理傳入感測器資料的專用運算能力。然而，這些設備中的演算法在「智慧」方面只是初級的：主要是訊號處理或資料轉換。

隨著網路能力的提高和連接性的提高，基於雲端的運算在 2000 年代後期開始受到關注。同時，強大的人工智慧演算法作為一種從大量結構化和非結構化資料中解鎖有意義訊息的手段而備受關注。在短短十年內，雲端 AI 已成為 AI 應用程式的首選。

但是，向雲端的轉變也帶來了幾個問題：資料上傳和下載成本、網路可靠性和資料安全等等。同時，隨著價格實惠但功能強大的邊緣設備的興起，邊緣運算在處理能力和成本或佔地面積之間的權衡正在減少。似乎我們現在又回到了考慮「邊緣運算」作為建立智慧應用程式的可行且有吸引力的選擇。

隨著關於邊緣人工智慧和雲端人工智慧哪個更好的辯論越來越激烈，任何熟悉這兩個框架的人都可能會回答「這要看情況了！」。原因是邊緣和雲端基礎設施不是競爭的，而是互補的框架。

在過去的幾年裡，兩者都經歷了巨大的發展和完善，特別是作為人工智慧開發和部署的基礎。與任何技術選擇一樣，選擇實際上可歸結為具體的應用:目標、價值驅動因素、經濟性以及對功耗、尺寸和連接性的任何限制。因此，在嘗試建立正確的基礎設施之前，必須先了解雲端和邊緣人工智慧的優缺點。

當尋求靈活性、可擴展性和易於部署時，基於雲端的人工智慧是一個有吸引力的選擇。如今，大多數雲端服務供應商為人工智慧模式的培訓和部署提供了強大的框架，並提供了按需付費的包，幾乎沒有前期承諾或投資。雲端提供了幾乎沒有限制的運算和儲存選項，使其特別適合大型人工智慧模型。

但對於需要連續評估感測器或影像數據的即時應用程式來說，這可能會成為一個笨拙的選擇，因為它們必須來回傳輸數據，從而導致巨大的成本。這種資料傳輸也使得雲端在很大程度上不適合需要閉環控製或即時行動的低延遲應用程式。

另一方面， 邊緣人工智慧是自動警報或閉環控制的即時資料分析的合理選擇。雖然邊緣基礎設施確實需要在邊緣硬體上進行前期投資，但營運成本與雲端相比要低得多。

今天，有各種各樣的邊緣人工智慧硬體選項可用，包括npu(神經處理單元)、TPU(張量處理單元)以及帶有專用人工智慧加速器的SOC(系統單晶片)和SoMs(模組上系統)。人工智慧的低成本和低功耗硬體是一個活躍的研究領域，並有可能提供更好的選擇。另一方面，基於人工智慧的消費應用必須處理相當多樣化的邊緣設備(手機、平板電腦、個人電腦等)，這使得邊緣部署成為一個潛在的令人生畏的前景。

因此，邊緣基礎設施可能不利於快速原型開發，也不容易擴展。雖然聯合學習，AI模型的分散式訓練的概念允許在邊緣進行訓練和部署，但雲端仍然是訓練需要足夠運算能力的大型模型的邏輯選擇。

但解決方案不一定是非此即彼的選擇。隨著應用程式過渡到更多基於微服務的架構，它們可以分解為具有自己特定部署框架的更小的功能或微服務。因此，不必在雲端和邊緣之間進行選擇，重點可以放在針對特定應用程式最佳化使用兩者。

例如，一個應用程式可能從雲端上的快速原型開始。隨著它的發展，需要低延遲和即時決策的功能可以轉移到邊緣，而那些需要規模和靈活性的功能可以保留在雲端。模型訓練或再訓練可以在雲端集中管理，而邊緣的一些聯邦學習可以在本地提高準確性。同樣，敏感資料可以在邊緣處理，更通用的資料可以轉移到雲端。

#

組織、開發人員和從業者最好不要將雲端和邊緣視為不同的替代方案，而是將其視為從邊緣到雲端的連續統一體，中間有許多不同的基礎設施選項。這包括不同類型的邊緣——營運邊緣、網路邊緣、行動端點等，以及網路上不同類型的分散式處理——私有雲、公有雲、小雲、霧運算等。

雖然複雜性可能是一個挑戰，但找到正確的技術組合開始為組織提供一個獨特的機會，以最大限度地提高人工智慧的價值，同時最大限度地降低成本和風險。

以上是在人工智慧基礎設施方面，您應該選擇邊緣或雲端？的詳細內容。更多資訊請關注PHP中文網其他相關文章！