目前的人工智慧世界耗電且計算有限。模型開發的軌跡很快,但隨著這種進步,需要大幅增加運算能力。現有的基於電晶體的計算正在接近其物理極限,並且已經難以滿足這些不斷增長的計算需求。
大型企業已經嘗試透過開發自己的客製化晶片解決方案來解決這個問題。然而,硬體瓶頸可能過於嚴重,無法用傳統的電子處理器來克服。那麼,技術如何才能充分滿足對運算能力呈指數級增長的需求呢?
矩陣乘法
在大型語言模型中,超過90%的計算任務都使用矩陣乘法。透過以結構化的方式執行乘法和加法的基本運算,矩陣乘法能夠支援人工智慧的各種功能模組。這不僅適用於語言模型,而且幾乎適用於所有神經網路的基礎:它可以實現大規模神經元之間的連接,進行影像分類和物體檢測的捲積運算,處理順序資料等。雖然這是一個簡單的概念,但對於有效地操作和轉換支援人工智慧和其他無數應用的資料來說至關重要,因此矩陣乘法的重要性無法高估
隨著人工智慧模型變得越來越龐大,我們必須進行更多的矩陣運算,這意味著我們需要更強大的運算能力。為了滿足這種需求,即便是目前,電子產品也已經達到極限了。還有其他解決方案嗎?
光學矩陣乘法
光纖已經以多種方式用於改變我們的生活,最引人注目的是光纖網路中的光通訊。光學計算自然是下一步。數位電子學需要大量電晶體來執行最簡單的算術運算,而光學計算則利用物理定律進行計算。輸入資訊被編碼為光束,並利用光學的自然特性(例如乾涉和繞射)執行矩陣乘法。資訊可以以多種波長、偏振和空間模式進行編碼,從而允許無限量的並行處理,並且計算實際上以光速進行。
透過3D光學加入新維度
隨著登納德縮放定律和摩爾定律的結束,是時候重新審視計算的基礎知識了。數位電子產品本質上局限於「2D」的佈局——電晶體閘極和電路製造在晶圓上,計算是透過2D平面上不同單元之間的資訊流動進行。這種2D運算架構需要不斷增加的電晶體密度,導致嚴重的互連問題,並遭受臭名昭著的記憶體瓶頸。隨著3D堆疊記憶體的發展,2D設計的變革現已開始,但整個產業的適應還有很長的路要走。
現在,光學可以透過在3D空間中自然地執行計算來徹底改變遊戲規則。添加新維度可以放鬆傳統計算中的許多限制。互連組件更容易,能源效率更高,並且它允許不斷增加的吞吐量(在給定時間內可以執行多少計算),而不影響延遲(每次計算執行的速度)。這對3D光學來說是完全獨特的:無論是將10個數字相乘還是10,000個數字相乘,這一切都會以光速同時發生。這對光學處理器的可擴展性產生了巨大的影響,使其能夠達到目前數位處理器速度的1000倍。
除了3D光學固有的可擴展性之外,光學器件的時脈速度可以提供比傳統電子裝置快100倍的速度,並且波長復用的能力為進一步提高100倍打開了大門。將這一切結合在一起,能夠以指數方式擴展計算速度,並具有更高的吞吐量、更低的延遲和更高的可靠性,而這些只有3D光學矩陣乘法才能提供
這對人工智慧意味著什麼?
無論應用如何,矩陣乘法構成了所有人工智慧運算的支柱。值得注意的是,3D光學帶來的高吞吐量和低延遲對於資料中心的人工智慧推理任務特別有價值,這是一個由即時回應能力和效率推動的應用程式。
3D光學運算相較於傳統的電子或整合光子學,在頻寬、延遲、速度和可擴展性方面有了顯著的提升。此外,它還與現有機器學習演算法相容,因此有望徹底改變所有人工智慧應用
以上是人工智慧的未來:光學矩陣乘法的革命性影響的詳細內容。更多資訊請關注PHP中文網其他相關文章!

經常使用“ AI-Ready勞動力”一詞,但是在供應鏈行業中確實意味著什麼? 供應鏈管理協會(ASCM)首席執行官安倍·埃什肯納齊(Abe Eshkenazi)表示,它表示能夠評論家的專業人員

分散的AI革命正在悄悄地獲得動力。 本週五在德克薩斯州奧斯汀,Bittensor最終遊戲峰會標誌著一個關鍵時刻,將分散的AI(DEAI)從理論轉變為實際應用。 與閃閃發光的廣告不同

企業AI面臨數據集成挑戰 企業AI的應用面臨一項重大挑戰:構建能夠通過持續學習業務數據來保持準確性和實用性的系統。 NeMo微服務通過創建Nvidia所描述的“數據飛輪”來解決這個問題,允許AI系統通過持續接觸企業信息和用戶互動來保持相關性。 這個新推出的工具包包含五個關鍵微服務: NeMo Customizer 處理大型語言模型的微調,具有更高的訓練吞吐量。 NeMo Evaluator 提供針對自定義基準的AI模型簡化評估。 NeMo Guardrails 實施安全控制,以保持合規性和適當的

AI:藝術與設計的未來畫卷 人工智能(AI)正以前所未有的方式改變藝術與設計領域,其影響已不僅限於業餘愛好者,更深刻地波及專業人士。 AI生成的藝術作品和設計方案正在迅速取代傳統的素材圖片和許多交易性設計活動中的設計師,例如廣告、社交媒體圖片生成和網頁設計。 然而,專業藝術家和設計師也發現AI的實用價值。他們將AI作為輔助工具,探索新的美學可能性,融合不同的風格,創造新穎的視覺效果。 AI幫助藝術家和設計師自動化重複性任務,提出不同的設計元素並提供創意輸入。 AI支持風格遷移,即將一種圖像的風格應用

Zoom最初以其視頻會議平台而聞名,它通過創新使用Agentic AI來引領工作場所革命。 最近與Zoom的CTO XD黃的對話揭示了該公司雄心勃勃的願景。 定義代理AI 黃d

AI會徹底改變教育嗎? 這個問題是促使教育者和利益相關者的認真反思。 AI融入教育既提出了機遇和挑戰。 正如科技Edvocate的馬修·林奇(Matthew Lynch)所指出的那樣

美國科學研究和技術發展或將面臨挑戰,這或許是由於預算削減導致的。據《自然》雜誌報導,2025年1月至3月期間,美國科學家申請海外工作的數量比2024年同期增加了32%。此前一項民意調查顯示,75%的受訪研究人員正在考慮前往歐洲和加拿大尋找工作。 過去幾個月,數百項NIH和NSF的撥款被終止,NIH今年的新撥款減少了約23億美元,下降幅度接近三分之一。洩露的預算提案顯示,特朗普政府正在考慮大幅削減科學機構的預算,削減幅度可能高達50%。 基礎研究領域的動盪也影響了美國的一大優勢:吸引海外人才。 35

Openai推出了強大的GPT-4.1系列:一個專為現實世界應用設計的三種高級語言模型家族。 這種巨大的飛躍提供了更快的響應時間,增強的理解和大幅降低了成本


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

EditPlus 中文破解版
體積小,語法高亮,不支援程式碼提示功能

MantisBT
Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

SAP NetWeaver Server Adapter for Eclipse
將Eclipse與SAP NetWeaver應用伺服器整合。

mPDF
mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),

MinGW - Minimalist GNU for Windows
這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。