ホームページ  >  記事  >  テクノロジー周辺機器  >  Azure AIインフラが大幅アップグレード!人工知能の機能をさらに拡大

Azure AIインフラが大幅アップグレード!人工知能の機能をさらに拡大

王林
王林転載
2023-11-23 15:01:291120ブラウズ

Azure AI 基础设施强势升级!进一步扩展人工智能能力

Microsoft Azure AI インフラストラクチャは、Microsoft の拡張された製品とサービスの中核的な柱であり、Azure プラットフォーム上で次世代の AI を活用したアプリケーションを構築するために必要なシステム、ツール、リソースを開発者に提供します。

Microsoft のハードウェアと AI インフラストラクチャへの初期投資は、お客様が AI の効率とイノベーションをビジネス価値に変えるのに役立っています。 AI を活用することで、ユーザーはより豊かなユーザー エクスペリエンスを創造し、イノベーションを推進し、ビジネスの生産性を向上させることができます

Microsoft Azure AI インフラストラクチャはグローバルなスケーラビリティをサポートでき、Microsoft は今後も投資と拡張を継続します。今回、Microsoft は、NVIDIA H100 Tensor Core グラフィックス プロセッシング ユニット (GPU) と低遅延ネットワークを備えた ND H100 v5 仮想マシン シリーズを発売し、企業を AI アプリケーションの新時代に推進します。

AI の処理レベルと規模は前例のないものです。 ND H100 v5 仮想マシン シリーズをリリース

Microsoft の新しい Azure ND H100 v5 仮想マシン

(VM) シリーズが、米国東部、米国中部および南部の Azure リージョンで利用できるようになりました。このシリーズは、最新の NVIDIA H100 Tensor コア GPU と NVIDIA Quantum-2 InfiniBand ネットワーキングを備えています。スーパーコンピューティングのパフォーマンスと規模に関する広範な経験を活用して、マイクロソフトは、高度な AI ワークロードのますます複雑化に対処できるように、仮想マシンの ND H100 v5 シリーズを設計しました。

Microsoft の AI への継続的な大規模な投資の一環として、Microsoft は AI に最適化された 4K GPU クラスターを活用しており、今後 1 年間でそれを数十万の新しい GPU に拡張する予定です。 ND H100 v5 VM 仮想マシン シリーズには、次の機能があります。 - 高性能: ND H100 v5 VM 仮想マシン シリーズは、強力なコンピューティング能力と処理速度を備えており、複雑なコンピューティング タスクを迅速に処理できます。 - 柔軟性: このシリーズの仮想マシンは柔軟な構成オプションをサポートしており、実際のニーズに応じて調整およびカスタマイズできます。 - 信頼性: ND H100 v5 VM 仮想マシン シリーズは、信頼性の高いハードウェアおよびソフトウェア コンポーネントを使用して、システムの安定性と信頼性を確保します。 - セキュリティ: この一連の仮想マシンは安全な分離環境を提供し、ユーザーのデータとアプリケーションを効果的に保護できます。 - 使いやすさ: ND H100 v5 VM 仮想マシン シリーズは、シンプルで使いやすいインターフェイスとツールを提供し、ユーザーが仮想マシンを簡単に管理および操作できるようにします。

AI スーパーコンピューティング GPU:

NVIDIA H100 Tensor Core GPU を 8 基搭載。このシリーズは、前世代の仮想マシンと比較して AI モデルを大幅に高速化し、企業に比類のないコンピューティング能力を提供します。

  • 新世代のコンピューター処理装置 (CPU): CPU パフォーマンスは AI のトレーニングと推論にとって重要です。マイクロソフトは、仮想マシンの最高の処理速度を確保するために、第 4 世代インテル Xeon スケーラブル プロセッサーを選択しました。
  • 低遅延ネットワーク: NVIDIA Quantum-2 ConnectX-7 InfiniBand を使用すると、各 GPU は 400 Gb/s、各 VM は 3.2 Tb/s のクロスノード帯域幅を備え、GPU 間のシームレスな接続パフォーマンスを確保します。まさに世界最高峰のスーパーコンピューターと言えるでしょう。
  • 最適化されたホストから GPU までのパフォーマンス: PCIe Gen5 経由で GPU ごとに 64 GB/秒の帯域幅を実現する Azure は、CPU と GPU の間で大きなパフォーマンス上の利点をもたらします。
  • 大規模な RAM およびメモリ帯域幅: DDR5 メモリは、このシリーズの仮想マシンの中心であり、より高いデータ転送速度と効率を実現し、大規模なデータ セットを処理するワークロードに最適です。
  • このシリーズの仮想マシンは、行列乗算演算に新しい 8 ビット FP8 浮動小数点データ型を使用しており、前世代の FP16 よりも 6 倍高速なパフォーマンスの利点を証明しています。 ND H100 v5 VM は、BLOOM 175B エンドツーエンド モデルなどの大規模な言語モデルが最大 2 倍の推論速度を達成するのに役立ち、AI アプリケーションをさらに最適化する可能性を検証します。 Azure AI インフラストラクチャを活用した人工知能は、製造業から小売業、金融サービスからヘルスケアに至るまで、さまざまな業界を強化する可能性を秘めています。

以上がAzure AIインフラが大幅アップグレード!人工知能の機能をさらに拡大の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事はsohu.comで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。