英偉達推出 L40S GPU，AI 推理效能超過 A100 約 1.2 倍

根據IT之家8月10日消息，英偉達最近推出了全新的NVIDIA L40S GPU和配備該GPU的OVX伺服器系統，有關該技術的文檔可以在這裡找到

▲ 圖片來源：英偉達官網

據悉，這款L40S GPU 搭配最新發布的OVX 伺服器，可適用於AI 大模型訓練和推理、三維設計、視覺化、視訊處理、工業數位化等多種用途，相比A100 GPU，這套「相得益彰」的L40S 系統能夠「增強生成式AI、圖形和視訊處理能力，並滿足不斷增長的算力需求」。

根據IT之家的調查，我們了解到L40S GPU是英偉達之前L40 GPU的升級版，具備48GB GDDR6 ECC記憶體。該GPU基於Ada Lovelace架構，搭載第四代Tensor Core和FP8轉換引擎，其運算速度是上一代的5倍。然而，仍不支援NVLink

根據英偉達的說法，L40S 在生成式 AI 推理性能上比 A100 高出 1.2 倍，並且在訓練性能上高出 1.7 倍。英偉達認為，對於“複雜的 AI 工作，具有數十億個參數和多種數據模式”，L40S 的效能更加顯著

英偉達宣布，他們將在今年秋季推出英偉達 L40S GPU。每台英偉達 OVX 伺服器系統最多可支援8個L40S加速卡，但英偉達尚未公佈該GPU的價格

英偉達宣布華碩、戴爾、技嘉、HPE、聯想、QCT和美超微等廠商很快就會推出搭載L40S GPU的OVX伺服器系統

以上是英偉達推出 L40S GPU，AI 推理效能超過 A100 約 1.2 倍的詳細內容。更多資訊請關注PHP中文網其他相關文章！