首页  >  文章  >  科技周边  >  谷歌云宣布下月上线A3虚拟机实例,配备英伟达GPU满足AI需求

谷歌云宣布下月上线A3虚拟机实例,配备英伟达GPU满足AI需求

王林
王林转载
2023-09-23 20:17:01711浏览

8月31日消息,谷歌云在今天召开的云Next大会上宣布,将于下个月推出A3虚拟机实例。这款新虚拟机实例的最大亮点是配备了英伟达H100 Tensor Core GPU,可以满足生成式人工智能和大语言模型等需求。

谷歌云宣布下月上线A3虚拟机实例,配备英伟达GPU满足AI需求

据介绍,A3实例采用了第4代英特尔至强可扩展处理器、2TB DDR5-4800内存,以及8张英伟达H100“Hopper”GPU。通过NVlink 4.0和NVSwitch,该实例实现了3.6 TBps的对分带宽。新的A3超级计算机专门用于训练和服务要求最苛刻的人工智能模型,并为生成人工智能和大型语言模型创新提供支持。据称,该超级计算机可以提供26 exaFlops的人工智能性能。

此外,谷歌云在发布会上还介绍了全新的TPU v5e。这款云TPU是迄今为止成本效益和可访问性最高的。这些TPU或定制ASIC的目标是加速人工智能和机器学习工作负载。根据SDxCentral的报道,与前代相比,TPU v5e的每美元训练性能提高了一倍,每美元推理性能提高了2.5倍

以上是谷歌云宣布下月上线A3虚拟机实例,配备英伟达GPU满足AI需求的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文转载于:itbear.com。如有侵权,请联系admin@php.cn删除