Google、第5世代AIチップをリリース：AIモデルのトレーニングと実行速度を5倍に高速化

Google は、大規模モデルのトレーニングと推論用に、第 5 世代のカスタム テンソル プロセッサ (TPU) チップ TPU v5e を発売しました。新しいチップにより、AI モデルのトレーニングと実行が 5 倍速くなりました。前世代のチップと比較して、TPU v5e はトレーニング パフォーマンスを 1 ドルあたり 2 倍、推論パフォーマンスを 1 ドルあたり 2.5 倍向上させます

Google の第 5 世代カスタム テンソル プロセッサ (TPU) チップである TPU v5e は、大規模モデルのトレーニングと推論に使用され、AI モデルのトレーニングと実行が最大 5 倍高速になります

サンフランシスコで開催される年次 Google Cloud カンファレンスである Google Cloud Next で、Google は新しい人工知能チップ、つまり大規模モデルのトレーニングと推論に使用される第 5 世代カスタム テンソル プロセッサ (TPU) チップ TPU v5e を発表しました。前世代のチップと比較して、TPU v5e はトレーニング パフォーマンスを 1 ドルあたり 2 倍、推論パフォーマンスを 1 ドルあたり 2.5 倍向上させます

Google は、最適化を通じて機械学習モデルのトレーニングと推論を高速化できる、ニューラル ネットワーク用の専用チップ TPU を設計しました。第 1 世代の TPU は 2016 年に発売され、第 4 世代のカスタム プロセッサ TPU は 2021 年にリリースされ、2022 年に開発者に提供される予定です。 Cloud TPU は Google Cloud サービスの機能であり、大規模な言語モデル、タンパク質フォールディング モデリング、医薬品開発など、大量の行列計算を必要とする大規模で複雑な深層学習モデルに適しています。クラウド TPU を使用すると、企業は AI ワークロードを実装する際にお金と時間を節約できます

Google Cloud は、中規模および大規模モデルのトレーニングと推論のニーズに合わせて設計された TPU v5e をリリースしました。このバージョンのチップは、前世代の TPU v4 と比較して、1 ドルあたりのトレーニング パフォーマンスが 2 倍、1 ドルあたりの推論パフォーマンスが 2.5 倍向上し、コストは TPU v4 の半分以下です。 。これにより、より多くの組織が、パフォーマンスや柔軟性を犠牲にすることなく、より大規模で複雑な AI モデルをトレーニングおよびデプロイできるようになります。 Google Cloud は、TPU v5e を、総帯域幅 400 Tb/s 以上で最大 256 個のチップの相互接続をサポートし、さまざまな大規模な言語モデルや生成に対応する 8 つの異なる仮想マシン構成を提供する「スーパーコンピュータ」と説明しています。人工知能 インテリジェント モデルの要件。速度ベンチマークによると、TPU v5e を使用すると、AI モデルのトレーニングと実行が 5 倍高速になります

テクノロジー メディア TechCrunch によると、Google Cloud コンピューティングおよび機械学習インフラストラクチャ担当副社長兼ゼネラル マネージャーの Mark Lohmeyer 氏は、「これはこれまでで最も費用対効果が高く、アクセスしやすいクラウド TPU である」と述べ、Google Cloud はユーザーに確実なサービスを提供すると強調しました。 TPU クラスターを以前は到達できなかったレベルまで拡張できるため、顧客は単一の TPU クラスターの物理的な境界を超えて人工知能モデルを簡単に拡張できます。つまり、単一の大規模な AI ワークロードが複数の物理 TPU クラスターにまたがり、コスト効率よく数万チップまで拡張できます。 「クラウド GPU とクラウド TPU に関しては、AI ワークロードに対する幅広い需要を満たすための多くの選択肢と柔軟性をお客様に提供します。」

新世代の TPU の発売に加えて、Google Cloud は来月、NVIDIA H100 GPU をベースにした A3 シリーズ仮想マシンを発売することも発表しました。これは、大規模な人工知能に強力なコンピューティング パワーを提供する GPU スーパーコンピューターの形で提供されます。インテリジェンスモデル

以上がGoogle、第5世代AIチップをリリース：AIモデルのトレーニングと実行速度を5倍に高速化の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。