駕馭萬億參數 AI 模型，英偉達推出基於 Blackwell 的 DGX SuperPOD 超算

本站3 月19 日消息，英偉達在今天召開的GTC 開發者大會上，推出了用於處理萬億參數AI 模型的DGX SuperPOD，為超大規模的生成式AI 訓練和推理工作負載提供穩定的性能輸出。

本站從報道中獲悉，全新的DGX SuperPOD 採用全新的高效能水冷機架式架構，搭載英偉達DGX GB200 系統，在FP4 精度下提供11.5 exaflops 的人工智慧超級運算能力和240 terabytes 的快速內存，客戶可透過增加機架進一步擴展。

每組 DGX GB200 系統擁有 36 個英偉達 GB200 加速卡，其中包括 36 個英偉達 Grace CPU 和 72 個英偉達 Blackwell GPU，透過第五代英偉達 NVLink 連接成一台超級電腦。

與英偉達™（NVIDIA®）H100 Tensor Core GPU 相比，GB200 加速卡在大型語言模型推理工作負載的效能可提升高達 30 倍。

DGX SuperPOD 包含 8 套以上 DGX GB200 系統，透過英偉達 Quantum InfiniBand 連接，可擴充至數萬片 GB200 加速卡。

英偉達目前為客戶提供的預設配置包含 576 個 Blackwell GPU，透過 NVLink 連接 8 套 DGX GB200 系統。

英偉達公司創辦人兼執行長黃仁勳表示：

英偉達 DGX 人工智慧超級電腦是人工智慧產業革命的工廠。全新的 DGX SuperPOD 結合了英偉達加速運算、網路和軟體的最新進展，讓每個公司、產業和國家都能完善和產生自己的人工智慧。

以上是駕馭萬億參數 AI 模型，英偉達推出基於 Blackwell 的 DGX SuperPOD 超算的詳細內容。更多資訊請關注PHP中文網其他相關文章！