五年後AI所需算力超100萬倍！十二家機構聯合發表88頁長文：「智慧運算」是解藥

人工智慧就是一個「拼財力」的產業，如果沒有高效能運算設備，別說開發基礎模型，就連微調模型都做不到。

但如果只靠拼硬件，單靠當前運算效能的發展速度，遲早有一天無法滿足日益膨脹的需求，所以還需要配套的軟體來協調統籌運算能力，這時候就需要用到「智慧運算」技術。

最近，來自之江實驗室、中國工程院、國防科技大學、浙江大學等多達十二個國內外研究機構共同發表了一篇論文，首次對智慧運算領域進行了全面的研究，涵蓋了理論基礎、智慧與運算的技術融合、重要應用、挑戰與未來前景。

論文連結：https://spj.science.org/doi/10.34133/icomputing.0006

這也是第一篇正式提出智慧運算的定義及其統一理論架構的評論文章，全文結構如下。

AI開啟大規模算力時代

#人類社會正在從資訊社會進入智慧社會，運算已經成為規範和推動社會發展的關鍵因素。在萬物互聯的數位文明新時代，傳統的數據計算遠遠無法滿足人類對更高智慧水準的日益增長的需求。

人們對智慧運算的興趣日益濃厚，加上運算科學的發展，對物理世界的智慧感知，以及對人類意識認知機制的理解，共同提升了運算的智能水平，加速了知識的發現與創造。

近年來，計算和資訊科技快速發展，由於深度學習的空前普及和成功，人工智慧（AI）已被確立為人類探索機器智慧的前沿領域，並在此基礎上取得了一系列突破性的研究成果，包括：

Yann LeCun提出的捲積神經網路（CNN）；Yoshua Bengio在深度學習的因果推理領域的貢獻；Geoffrey Hinton，人工智慧的先驅之一，在2006年提出了深度置信網路（Deep Brief Network）模型和反向傳播優化演算法。

J̈urgen Schmidhuber提出了廣為使用的循環神經網路（RNN）和長短期記憶（LSTM），並成功用於處理序列數據，如語音、視訊和時序資料。

2016年3月，DeepMind推出的人工智慧圍棋程式AlphaGo與世界頂級人類圍棋大師李世石展開對戰，引起了全世界前所未有的關注，這場劃時代的人機大戰以人工智慧的壓倒性勝利而告終，並成為將人工智慧的浪潮推向一個全新的高度的催化劑。

人工智慧的另一個重要推動者是大型預訓練模型的出現，這些模型已經開始廣泛用於自然語言和圖像處理，在遷移學習的幫助下處理各種各樣的應用。

例如，GPT-3已經證明，一個具有高度結構複雜性和大量參數的大型模型可以提高深度學習的效能，在GPT-3的啟發下，湧現了大量的大規模深度學習模型。

智慧與運算

運算能力是支撐智慧運算的重要因素之一。

鑑於資訊社會中天文數字般的資料來源、異質的硬體配置和不斷變化的運算需求，智慧運算主要透過垂直和水平架構來滿足智慧任務的運算能力要求。

#垂直架構（vertical architectures）的特點是同質化的運算基礎設施，主要透過應用智慧方法提高資源利用效率來提升運算能力。

相較之下，水平架構（horizo​​ntal architecture）協調和安排異質和廣域（wide-area）計算資源以最大限度地提高協作計算的效率。

例如，2020年4月，為了因應全球COVID-19研究的運算需求，Folding@home在三週內聯合40萬名運算志工實現了2.5Exaflops的計算量，比世界上任何一台超級電腦的運算能力都要強。

儘管在智慧和運算方面已經取得了巨大的成功，但這兩個領域仍然面臨著一些難題。

智能的挑戰

#使用深度學習的人工智慧目前在可解釋性、通用性、可進化性和自主性方面仍沒有解決。

目前大多數的人工智慧技術與人類智慧相比，只能發揮微弱的作用，而且只在特定的領域或任務中發揮作用，實現強大且通用的人工智能仍有很長的路要走。

最後，從基於數據的智慧升級到更多樣化的智慧形式，包括感知智慧、認知智慧、自主智慧和人機融合智慧等，也存在著重大的理論和技術挑戰。

運算的挑戰

#數位化浪潮帶來了前所未有的應用、連線、終端機和使用者的成長，以及產生的資料量，都需要龐大的運算能力。

例如，人工智慧所需的運算能力每100天翻一番，也就是說，預計在未來五年內將增加超過100萬倍。

隨著摩爾定律逐漸失效，要跟上如此快速成長的運算能力要求變得很有挑戰性。

##智慧社會中的大規模任務的處理依賴於各種具體計算資源的有效組合，傳統的硬體模式不能很好地適應智慧演算法，極大地限制了軟體的發展。

何為智慧運算？

時至今日，仍然沒有一個被廣泛接受的智慧運算定義。

有些研究人員將智慧運算視為人工智慧和運算技術的結合，但這種觀點將智慧運算的定義限制在人工智慧領域內，同時忽略了人工智慧固有的限制以及人類、機器和事物之間三元互動的重要角色。

另一個學派將智慧計算（intelligent computing）視為計算智慧（computational intelligence），模仿人類或生物智慧來實現解決特定問題的最佳演算法，並將智慧計算主要視為一種演算法創新。

在這篇論文中，研究人員從解決複雜的科學和社會問題的角度提出了智慧運算的新定義，同時考慮到世界的三個基本空間，即人類社會空間、物理空間和資訊空間的日益緊密融合。 

#

Intelligent Computing的定義

智慧運算是指在支援世界互聯的數位文明時代，包含了新的運算理論方法、架構系統和技術能力的領域。智慧計算根據具體的實際需要，以最小的成本完成計算任務，匹配足夠的計算能力，調用最好的演算法，並能獲得最佳的結果。

智慧運算的新定義是針對人類社會、物理世界和資訊空間三者融合中快速成長的運算需求而提出的。智慧運算以人為本，追求高運算能力、高能源效率、高智慧、高安全。

其目標是提供普遍、高效、安全、自主、可靠和透明的運算服務，以支援大規模複雜的運算任務。  圖1顯示了智慧運算的整體理論框架，它體現了支持人類-物理-資訊整合的各種計算範例。

首先，智慧運算既不是現有電腦、雲端運算、邊緣運算以及其他運算技術（如神經形態運算、光電運算與量子計算）的替代品，也並非簡單整合。相反，它是一種計算形式，透過根據任務要求系統地、全面地優化現有的計算方法和資源來解決實際問題。

相較之下，現有的主要運算學科，如超級運算、雲端運算和邊緣運算，屬於不同的領域：超級運算旨在實現高運算能力，雲端運算強調跨平台/裝置的便利，而邊緣運算則追求服務品質和傳輸效率。

智慧運算動態地協調邊緣運算、雲端運算和超級運算領域之間的資料儲存、通訊與運算，建構了各種跨領域的智慧型運算系統，支援端到端的雲端協作、雲端協作和超級運算互聯。

智慧運算應充分利用現有的運算技術，更重要的是促進新的智慧運算理論、架構、演算法和系統的形成。

其次，智慧運算概念的提出是為了解決未來人類-物理-資訊空間融合發展中的問題。

隨著大數據時代資訊科技應用的發展，實體空間、數位空間和人類社會之間的界線變得越來越模糊。

人類世界已經演變成一個新的空間，其特徵是人類、機器和事物的緊密融合，社會系統、資訊系統和物理環境構成了一個動態耦合的大系統，在這個系統中，人、機器和事物以高度複雜的方式整合和互動，這促進了未來新計算技術和應用場景的發展和創新。

以上是五年後AI所需算力超100萬倍！十二家機構聯合發表88頁長文：「智慧運算」是解藥的詳細內容。更多資訊請關注PHP中文網其他相關文章！