H100を超える驚異的なランニングスコアが明らかに！ NVIDIA の最も強力な AI チップ GH200 とは何ですか?

生成 AI コンピューティングに対する需要の高まりにより、大手 GPU メーカーである NVIDIA の株価が新たな高値に急騰しました。 8月中旬、HuidaのCEO、Huang Renxun氏は展示会でDGXGH200を再度宣伝しました。これは、GraceHopperアクセラレーション・コンピューティング・カードで構築された新世代の生成AIスーパーチップであり、Huida初のExaflopレベルのDGXスーパーコンピュータ製品でもあります。

ローリングH100のパフォーマンスは17%に達します

9 月 11 日のランニング スコア データによると、NVIDIA は、GH200、H100、L4 GPU、および Jetson Orin の類似製品が最高のパフォーマンスを達成したと発表しました。

GH200 は、単一のチップを初めて提出したものであり、Intel CPU を搭載した単一の H100 と比較した結果、GH200 の組み合わせは各テストで少なくとも 15% の改善が見られました。 NVIDIA の人工知能担当ディレクターである Dave Salvator 氏は記者会見で次のように述べました。「Grace Hopper は初めて非常に好調なパフォーマンスを示し、提出された H100 GPU と比較してパフォーマンスが 17% 向上しました。我々はすでに全体的に先を行っています。」

GH200とは何ですか?

公式説明: NVIDIA GH200 は、H100 GPU と Grace CPU を統合した最初のスーパー チップであり、この 2 つは最大 900 GB/秒の帯域幅で NVLink-C2C を通じて相互接続されており、より優れた拡張性と超高速のディープ ラーニング トレーニングを実現します。 。

NVIDIA は、GH200 には 3 つの主要な機能があると述べています:

l 大規模なモデル用の巨大なメモリ: 開発者に大規模なモデルを構築するための 500 倍を超えるメモリを提供します。

l超省エネコンピューティング: 帯域幅が 7 倍に増加し、相互接続の消費電力が 5 倍以上削減されました。

統合されており、すぐに実行可能: 数週間で大規模なモデルを作成します。 書き直された内容: すでに統合されており、すぐに使用できます: 大規模なモデルは数週間で構築できます

ほとんどのプレーヤーのパフォーマンスは、前世代と比較して 20% に向上しました

5 月の COMPUTEX 中に、NVIDIA CEO の Jen-Hsun Huang 氏は、GH200 チップが 2024 年の第 2 四半期に量産される予定であると述べました。 MLPerfv3.1 ベンチマークでは 13,500 を超える結果がテストされ、多くの提出者のパフォーマンスが 3.0 ベンチマークと比較して 20% 以上向上しました。

MLPerf は、顧客が AI チップのパフォーマンスを評価するための一般的なツールです。

提出者のリストには、ASUS、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、Intel、Intel HabanaLabs、Nutanix、Oracle、Qualcomm、Quanta Cloud Technology、SiMA、Supermicro、TTA、xFusion が含まれます待ってください

以上がH100を超える驚異的なランニングスコアが明らかに！ NVIDIA の最も強力な AI チップ GH200 とは何ですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。