首頁  >  文章  >  科技週邊  >  祖克柏大力支持開源AGI:全力培訓Llama 3,預計年底達到35萬H100

祖克柏大力支持開源AGI:全力培訓Llama 3,預計年底達到35萬H100

WBOY
WBOY轉載
2024-01-19 17:48:17913瀏覽

小扎宣布新目標:All in 開源AGI。

不錯,小札又All in了,正是OpenAIGoogle必爭之地。

不過在AGI之前,著重強調了是Open Sourse(開源)的。

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

此舉受到不少好評,一如此前LIama系列大模型開源之時。

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

不過這次又一波All in,不禁讓網友想起上一波All in了:元宇宙去哪了? ? ?

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

但必須要說的是,此次列的Flag確實更具體一些,甚至也透露了一些關鍵資料。

例如,

  • 年底將有35萬塊H100,而包括其他GPU在內,總算力將相當於60萬塊H100。
  • FAIR團隊的工作將與GenAI團隊更為緊密。
  • LIama 3即將到來。

最後他還打了個小廣告。他們正在打造以AI為中心的新型運算設備,例如Ray Ban Meta 智慧眼鏡。

看來元宇宙還在繼續。

小札又All in了

現在,小札正式宣布加入AGI之爭。

雖然沒有明確的時間表,但作為長期願景,明確表示兩個關鍵點:

負責任地開源,並廣泛提供,讓每個人都能從中獲益。

而為了實現這個目標,主要有兩件事:

第一,將現有兩大AI研究工作團隊(FAIR 和 GenAI)緊密結合在一起。

依照LeCun的話說,就是兩個成為兄弟部門。

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

並表示,Llama-3 is coming!

第二,建造大規模的運算基礎設施:今年底將擁有35萬塊H100,總算力相當於60萬個H100。

以2.5萬美元至3萬美元出售價來計算,總算力價值將達到150億美元至180億美元。

先前曾有機構預計,2023年英偉達朝Meta的H100出貨量能達到15萬塊,同微軟持平,並且至少是其他公司的三倍。

為此小札表示,我們已經建立了這樣的能力,其規模可能比任何其他單獨的公司都大。

有網友算了算運算能力直呼:大腦大小的模型即將到來。

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

不過也有人質疑,英偉達應該生產不了那麼多。

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

但有Meta領導現身說法:H100是包含現有在內,總共35萬塊。

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

除此之外,也強調了硬體裝置上的進展。

大佬們對於AGI的評價

在小札宣布這一消息之前,不少大佬在達沃斯世界經濟論壇上發表了不少關於AGI的評論。

像LeCun則在The Expanding Universe of Generative Models這一論壇上強調了AGI實作路徑中開源的重要性。

我們之所以能在人工智慧領域看到如此快速的進步,是因為人們進行了​​開放研究。

即使他經常對AGI很快到來(當然不是在未來五年內)表示懷疑,但AGI還是到來了。

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100圖片

而Transformer主創Aidan Gomez則表示:

目前我們還沒有完成擴展,我們還需要繼續努力。

至於像OpenAI CEO奧特曼表示,人類等級的人工智慧很快到來,但對世界的改變遠比我們想像的要小。

通用人工智慧(AGI)可能會在「相當接近的未來」得到開發。

對於AGI的發展,你們怎麼看?

以上是祖克柏大力支持開源AGI:全力培訓Llama 3,預計年底達到35萬H100的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除