Gartner: ジェネレーティブ AI が中国企業のデータセンター設計の変革を推進

2024 年 4 月 15 日のニュースによると、ガートナーが最近発表した 2024 年の CIO およびテクノロジー幹部を対象とした調査では、中国企業の 60% 以上が生成型人工知能の導入を計画していることが示されました。 (GenAI) 24 か月以内。中国企業はパブリック クラウド経由ではなくローカルに GenAI を導入する傾向があるため、現在のインフラストラクチャ環境では GenAI プロジェクトをサポートできません。これにより、中国企業のデータセンターの設計変革が促進されます。

Gartner のリサーチ ディレクター、Zhang Lukeng 氏は次のように述べています。「セキュリティとデータ プライバシーに関する懸念と規制要件のため、一部の企業は GenAl ソリューションを導入したり、大規模言語モデル (LLM) をオンプレミスで導入したりすることを好みます。オンプレミスの GenAl は、データ センターの単純なホスティング要件ではなく、モデルのトレーニングには大規模な GPU クラスターが必要となるため、エンタープライズ データ センターの戦略を変える可能性があります。」

Gartner は、5 種類の GenAI 導入を定義しています。 (図 1 を参照)。企業が選択した GenAI 導入方法に応じて、中国の最高情報責任者 (CIO) およびインフラストラクチャおよび運用 (I&O) のリーダーは、GenAI 導入の影響と対策を理解する必要があります。

図 1: 生成型人工知能の導入のための 5 つの方法

Gartner: 生成型 AI は中国の企業データセンターの設計変革を推進します

中国の CIO と I&O リーダーは、このテクノロジーがデータセンターに与える影響に備える必要があります。

GenAI をオンプレミスに導入すると、I&O リーダーはホスティング環境の設計方法を変更する必要があります。

一部の GenAI ワークロードでは高負荷が必要となるため、データセンターに GenAI を導入することの影響によって、実行されるワークロードの種類が決まります。 - グラフィックス プロセッシング ユニット (GPU) を終了します。中国市場ではハイエンド GPU の供給が限られているため、GenAI をオンプレミスに導入したい I&O リーダーは、ホスティング環境の設計方法を変更する必要があります。

I&O リーダーは単独で供給不足を解決することはできず、ビジネス、AI エンジニア、機能チームと協力してこの課題に対処する必要があります。

Zhang Yingling 氏は次のように述べています。「一般導入に向けてインフラストラクチャ リソースを準備する中国の CIO および I&O リーダーは、ビジネスおよび関連チームと積極的に連携して、さまざまなワークロードがデータ センターのコストとスケジュールに与える影響を予測し、データを作成する必要があります。 GenAl 導入のセンター マクロ戦略。トレーニング モデルにハイエンド GPU クラスターが必要な場合は、コスト、リスク、機会 (代替ハードウェアの購入や GPU リソースのリースなど) のバランスを考慮して、さまざまなホスティング オプションを完全に理解する必要があります。」 ##大規模な GPU クラスターの導入には、データセンターのインフラストラクチャと機器の変換とアップグレードが必要です

基本モデルを最初から構築するか、モデルを微調整するには、大規模な GPU クラスターの導入が必要となり、既存のデータに影響を及ぼします転覆を中心とする。 GenAI モデルのトレーニングには、高スループット、低遅延、ロスレスのインフラストラクチャが必要であるためです。このような高性能コンピューティング クラスターをサポートするには、ネットワーク、ストレージ、電源、冷却システムをアップグレードする必要があります。場合によっては、アップグレードされたインフラストラクチャをホストするために既存の施設を改修する必要があります (図 2 を参照)。

図 2: 大規模 GPU クラスターがデータセンターに与える影響

Gartner: ジェネレーティブ AI が中国の企業データを推進センターの設計変革Zhang Yingling氏は次のように述べています:「中国のCIOおよびI&Oリーダーは、データサイエンティストやエンジニアと協力して、GPUクラスターのサイズとGenAIのパフォーマンス要件を明確にして、ネットワークやストレージなどのインフラストラクチャを決定する必要があります。要件同時に、電力要件、冷却効率、ラック、スペースなどを分析して、大規模な GPU クラスターを導入する際の既存のデータセンター環境のギャップを判断し、最適なデータセンター変革を選択することも必要です。解決。 ＃＃＃＃＃＃＃＃＃

以上がGartner: ジェネレーティブ AI が中国企業のデータセンター設計の変革を推進の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。