生成式AI运算需求不断增长,助推GPU大厂辉达(NVIDIA)股价大涨再创新高。8月中辉达执行长黄仁勋展览时再次力推DGXGH200,是采用GraceHopper加速运算卡打造的新一代生成式AI超级芯片,也是辉达首款Exaflop等级的DGX超级计算机产品
性能辗压H100达17%
根据9月11日跑分数据,NVIDIA宣布旗下GH200、H100、L4 GPU与Jetson Orin同类产品都获得领先表现。
GH200首次提交单一芯片,与单张H100配合英特尔CPU比较后,GH200组合各测试都至少有15%左右提升。NVIDIA人工智能总监Dave Salvator新闻发表会表示:Grace Hopper首次表现非常强劲,与提交H100GPU相比,性能提高17%,而我们已全面领先。
GH200是什么?
官方说明,NVIDIA GH200是首个将H100 GPU和Grace CPU整合在一起的超级芯片,这两者之间再通过带宽高达900GB/s的NVLink-C2C连互连接,扩充性更佳,以超快速度训练深度学习。
NVIDIA表示GH200有三大特点:
l适用大型模型的庞大内存:为开发人员提供超过500倍内存打造大型模型。
l超节能运算:带宽提升7倍,互连功耗降低逾5倍。
已整合且立即执行:数周内即可打造大型模型。 重写后的内容:已经进行了整合并立即开始执行:在几周内就可以建立一个大型模型
多数选手性能比上一代提升至20%
5月COMPUTEX期间,NVIDIA CEO黄仁勋提到GH200芯片预定2024年第二季量产。MLPerfv3.1基准检验超过13,500个结果,不少提交者性能比3.0基准提高20%以上。
MLPerf是让客户评估AI芯片效能的常用工具。
提交者的名单包括华硕、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特尔、英特尔HabanaLabs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA和xFusion等
以上是惊人跑分曝光,比H100更强!NVIDIA最强AI芯片GH200是什么?的详细内容。更多信息请关注PHP中文网其他相关文章!