首页  >  文章  >  硬件教程  >  驾驭万亿参数 AI 模型,英伟达推出基于 Blackwell 的 DGX SuperPOD 超算

驾驭万亿参数 AI 模型,英伟达推出基于 Blackwell 的 DGX SuperPOD 超算

WBOY
WBOY转载
2024-03-20 09:10:021184浏览

本站 3 月 19 日消息,英伟达在今天召开的 GTC 开发者大会上,推出了用于处理万亿参数 AI 模型的 DGX SuperPOD,为超大规模的生成式 AI 训练和推理工作负载提供稳定的性能输出。

驾驭万亿参数 AI 模型,英伟达推出基于 Blackwell 的 DGX SuperPOD 超算

本站从报道中获悉,全新的 DGX SuperPOD 采用全新的高效水冷机架式架构,搭载英伟达 DGX GB200 系统,在 FP4 精度下提供 11.5 exaflops 的人工智能超级计算能力和 240 terabytes 的快速内存,客户可通过增加机架进一步扩展。

每套 DGX GB200 系统拥有 36 个英伟达 GB200 加速卡,其中包括 36 个英伟达 Grace CPU 和 72 个英伟达 Blackwell GPU,通过第五代英伟达 NVLink 连接成一台超级计算机。

与英伟达™(NVIDIA®)H100 Tensor Core GPU 相比,GB200 加速卡在大型语言模型推理工作负载方面的性能最多可提升 30 倍。

DGX SuperPOD 包含 8 套及以上 DGX GB200 系统,通过英伟达 Quantum InfiniBand 连接,可扩展至数万片 GB200 加速卡。

英伟达目前为客户提供的默认配置包含 576 个 Blackwell GPU,通过 NVLink 连接 8 套 DGX GB200 系统。

英伟达公司创始人兼首席执行官黄仁勋表示:

英伟达 DGX 人工智能超级计算机是人工智能产业革命的工厂。全新的 DGX SuperPOD 结合了英伟达加速计算、网络和软件方面的最新进展,让每个公司、行业和国家都能完善和生成自己的人工智能。

以上是驾驭万亿参数 AI 模型,英伟达推出基于 Blackwell 的 DGX SuperPOD 超算的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文转载于:ithome.com。如有侵权,请联系admin@php.cn删除