全球AI推理用電量成長需求可透過新增兩座核電廠滿足

IT之家 11 月 14 日消息，Meta 生成式人工智慧工程總監謝爾蓋・埃杜諾夫近日在矽谷數位工人論壇上分享了他對人工智慧推理需求的預測。他認為，明年全球新增的人工智慧應用推理需求，如果使用合理規模的語言模型，只要兩座核電廠的發電量就可以滿足。

圖表來源: Pexels

人工智慧推理是指利用已經訓練好的人工智慧模型，在實際場景中進行各種任務，如生成文字、回答問題、辨識圖像等。埃杜諾夫表示，他透過簡單的數學計算，估計了明年全球推理需求的用電量。他假設，明年全球將新增100萬到200萬個Nvidia H100圖形處理器，每個處理器的功率約為1千瓦。如果每個處理器每天運作24小時，每人每天可產生10萬個「token」。他認為以人類規模來看，這用電量尚屬合理。全球只要新增兩座核電廠，就可以提供足夠電力

然而，IT之家注意到，埃杜諾夫也指出，人工智慧的發展面臨一些挑戰和限制。其中之一是數據量的問題。目前，訓練人工智慧模型需要大量的數據，但公開的網路數據已經不足以支援下一代模型的訓練。下一代模型可能需要10倍的數據量，這意味著需要更多的專業領域數據，或更多的多模態數據，如視訊、音訊等。另一個挑戰是供應鏈問題。由於全球晶片產能緊張，人工智慧模型的改進速度也會受到影響。因此，研究人員正在努力提高模型效率，減少對數據和硬體的依賴。例如，Salesforce公司開發了一項名為Blib-2的技術，它可以自動調整模型大小，根據不同的任務和資源需求，動態地縮小或擴大模型

根據業內專家的普遍觀點，語言模型在未來兩年內將為企業帶來巨大的價值。埃杜諾夫預測，三到四年內我們將會知道目前的技術是否能夠實現通用人工智慧

以上是全球AI推理用電量成長需求可透過新增兩座核電廠滿足的詳細內容。更多資訊請關注PHP中文網其他相關文章！