NVIDIAがL40S GPUを発売、AI推論性能はA100を約1.2倍上回る

8 月 10 日の IT House ニュースによると、NVIDIA は最近、新しい NVIDIA L40S GPU と、その GPU を搭載した OVX サーバー システムを発売しました。このテクノロジーに関するドキュメントはここでご覧いただけます

▲ 画像出典: NVIDIA 公式ウェブサイト

この L40S GPU を最新の OVX サーバーと組み合わせると、AI の大規模モデルのトレーニングと推論、3D 設計、視覚化、ビデオ処理、産業デジタル化などの目的に使用できることが報告されています。 L40S システムは、「生成 AI、グラフィックス、およびビデオ処理能力を強化し、増大するコンピューティング能力の需要に応える」ことができます。

IT House の調査によると、L40S GPU は Nvidia の以前の L40 GPU のアップグレード バージョンで、48 GB GDDR6 ECC ビデオ メモリを搭載していることがわかりました。 Ada Lovelace アーキテクチャをベースとした GPU には、第 4 世代 Tensor Core と FP8 変換エンジンが搭載されており、前世代に比べて 5 倍の演算速度を実現しています。ただし、NVLink

はまだサポートされていません

NVIDIA によると、L40S は A100 よりも生成 AI 推論パフォーマンスで 1.2 倍、トレーニング パフォーマンスで 1.7 倍優れています。 NVIDIA は、「数十億のパラメータと複数のデータ パターンを伴う複雑な AI 作業」では、L40S のパフォーマンスがさらに重要であると考えています

NVIDIA は、NVIDIA L40S GPU をこの秋に発売すると発表しました。各 NVIDIA OVX サーバー システムは最大 8 枚の L40S アクセラレータ カードをサポートできますが、NVIDIA はこの GPU の価格を発表していません

NVIDIA は、ASUS、Dell、Gigabyte、HPE、Lenovo、QCT、Supermicro が L40S GPU を搭載した OVX サーバー システムを間もなく発売すると発表しました。

以上がNVIDIAがL40S GPUを発売、AI推論性能はA100を約1.2倍上回るの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。