驚人跑分曝光，比H100更強！ NVIDIA最強AI晶片GH200是什麼？

生成式AI運算需求不斷成長，助推GPU大廠輝達（NVIDIA）股價大漲再創新高。 8月中輝達執行長黃仁勳展覽時再次力推DGXGH200，是採用GraceHopper加速運算卡打造的新一代生成式AI超級晶片，也是輝達首款Exaflop等級的DGX超級電腦產品

性能輾壓H100達17%

#根據9月11日跑分數據，NVIDIA宣布旗下GH200、H100、L4 GPU與Jetson Orin同類產品都獲得領先表現。

GH200首次提交單一晶片，與單張H100配合英特爾CPU比較後，GH200組合各測試都至少有15%左右提升。 NVIDIA人工智慧總監Dave Salvator新聞發表會表示：Grace Hopper首次表現非常強勁，與提交H100GPU相比，性能提高17%，而我們已全面領先。

GH200是什麼？

官方說明，NVIDIA GH200是首個將H100 GPU和Grace CPU整合在一起的超級晶片，這兩者之間再透過頻寬高達900GB/s的NVLink-C2C連互連接，擴充性更佳，以超快速度訓練深度學習。

NVIDIA表示GH200有三大特點：

l適用大型模型的龐大記憶體：為開發人員提供超過500倍記憶體打造大型模型。

l超節能運算：頻寬提升7倍，互連功耗降低逾5倍。

已整合且立即執行：數週內即可打造大型模型。 重寫後的內容：已經進行了整合並立即開始執行：在幾週內就可以建立一個大型模型

多數選手錶現比上一代提升至20%

#5月COMPUTEX期間，NVIDIA CEO黃仁勳提到GH200晶片預定2024年第二季量產。 MLPerfv3.1基準檢驗超過13,500個結果，不少提交者效能比3.0基準提高20%以上。

MLPerf是讓客戶評估AI晶片效能的常用工具。

提交者的名單包括華碩、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特爾、英特爾HabanaLabs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA和xFusion等

以上是驚人跑分曝光，比H100更強！ NVIDIA最強AI晶片GH200是什麼？的詳細內容。更多資訊請關注PHP中文網其他相關文章！