8月31日消息,Google雲端在今天舉行的雲端Next大會上宣布,將於下個月推出A3虛擬機器實例。這款新虛擬機器實例的最大亮點是配備了英偉達H100 Tensor Core GPU,可滿足生成式人工智慧和大語言模型等需求。
據介紹,A3實例採用了第4代英特爾至強可擴展處理器、2TB DDR5-4800內存,以及8張英偉達H100 “Hopper”GPU。通過NVlink 4.0和NVSwitch,該實例實現了3.6 TBps的對分頻寬。新的A3超級電腦專門用於訓練和服務要求最苛刻的人工智慧模型,並為產生人工智慧和大型語言模型創新提供支援。據稱,該超級電腦可以提供26 exaFlops的人工智慧效能。
此外,Google雲端在發表會上也介紹了全新的TPU v5e。這款雲端TPU是迄今為止成本效益和可訪問性最高的。這些TPU或客製化ASIC的目標是加速人工智慧和機器學習工作負載。根據SDxCentral的報告,與前代相比,TPU v5e的每美元訓練性能提高了一倍,每美元推理性能提高了2.5倍
以上是谷歌雲端宣布下個月上線A3虛擬機器實例,配備英偉達GPU滿足AI需求的詳細內容。更多資訊請關注PHP中文網其他相關文章!