首頁  >  文章  >  科技週邊  >  挑戰英偉達! AMD推出能運行更大模式的AI晶片 也能寫詩

挑戰英偉達! AMD推出能運行更大模式的AI晶片 也能寫詩

WBOY
WBOY轉載
2023-06-15 11:47:45547瀏覽

挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗

AI算力市場的二號玩家、晶片廠商AMD推出全新人工智慧GPU MI300系列晶片,與英偉達在人工智慧算力市場展開競爭。

北京時間6月14日凌晨,AMD如期舉辦了“AMD資料中心與人工智慧技術首映會”,並在會上推出的AI處理器MI300系列。 MI300X,專門為大型語言模型進行最佳化,將在今年稍後向一部分客戶發貨。

AMD CEO蘇姿豐先介紹MI300A,這是全球首款針對AI和高效能運算(HPC)的加速處理器(APU)加速器。在13個小晶片中遍布1460億個電晶體。相較於前代MI250,MI300的效能提升八倍,效率提升五倍。

隨後,蘇姿豐公佈了本場發表會最受關注的產品-MI300X,這是一款為大語言模型進行了最佳化的版本。

「我喜歡這個晶片,」蘇姿豐說,MI300X晶片及其CDNA架構是為大型語言模型和其他尖端人工智慧模型設計的。

生成式人工智慧應用程式的大型語言模型使用大量內存,因為它們運行越來越多的計算。 AMD示範了MI300X運行400億參數的Falcon模型。 OpenAI的GPT-3模型有1750億個參數。

她也用Hugging Face基於MI300X的大模型寫了一首關於活動舉辦地舊金山的一首詩。

蘇姿豐表示,MI300X提供的HBM(高頻寬記憶體)密度是英偉達H100的2.4倍,HBM頻寬是競品的1.6倍。這意味著AMD可以運行比英偉達H100更大的車型。

「模型尺寸越來越大,你實際上需要多個GPU來運行最新的大型語言模型,」蘇姿豐指出,隨著AMD晶片上記憶體的增加,開發人員將不需要那麼多GPU,可為用戶節省成本。

AMD也表示,將推出一款Infinity Architecture,在一個系統中整合8個M1300X加速器。類似的系統也被英偉達和谷歌開發,它們將8個或更多GPU整合到一個盒子中,以供人工智慧應用使用。

好的晶片不僅是產品本身,還需要有一個好的生態。人工智慧開發人員歷來偏愛英偉達晶片的一個原因是,它有一個開發完善的軟體包,稱為CUDA,使他們能夠存取晶片的核心硬體功能。

為了對標英偉達的CUDA,AMD推出了自己的晶片軟體“ROCm”,打造自己的軟體生態。

蘇姿豐也對投資者和分析師表示,人工智慧是該公司“最大、最具戰略意義的長期成長機會”,“我們認為,資料中心人工智慧加速器(市場)將以超過50%的複合年增長率,從今年的300億美元左右增長到2027年的1500億美元以上。

以ChatGPT等為首的大語言模型需要最頂尖性能的GPU來進行運算,如今這一市場英偉達處於絕對優勢,擁有80%的市場,而AMD則被視為一個有力的挑戰者。

雖然AMD未揭露價格,但此舉可能會給英偉達GPU帶來價格壓力,如後者的H100,其價格能夠達到3萬美元以上。 GPU價格的下降可能有助於降低產生人工智慧應用程式的高成本。

不過,AMD這場發表會眾多產品在性能上都處於「領導」地位,但資本市場並未拉抬AMD的股價,反而收跌3.61%,而同業英偉達則收漲3.90%,市值首次收在1兆美元關卡上方。

【來源:澎湃新聞】

以上是挑戰英偉達! AMD推出能運行更大模式的AI晶片 也能寫詩的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:sohu.com。如有侵權,請聯絡admin@php.cn刪除