トレンド テクノロジー: リソース プーリングにより AI コンピューティング能力の価値が解放されます

「統計によると、GPU の平均使用率は 30% を超えません。これは、コンピューティング リソースの多大な浪費の原因となります。当社では、ソフトウェア定義の方法を使用して、通常、ユーザーの GPU の使用率を 3 ～ 8 倍に高めます。または 10 倍まで。」

これは、コンピューティング パワー プーリング ソフトウェア会社である Trend Technology が提供する最新データであり、業界レポート データを引用し、企業独自のベスト プラクティスの経験を組み合わせたものです。トレンド テクノロジーは、自社開発した OrionX AI コンピューティング リソース プール ソフトウェアを通じて、顧客がデータ センター レベルの AI コンピューティング リソース プールを構築するのを支援し、アプリケーションを変更することなく、データ センター内の任意のサーバーの AI コンピューティング能力を使用できます。アプリケーションの展開を大幅に最適化し、ユーザー リソースの使用率を向上させることで、AI 業界に新しいコンピューティング電源モデルをもたらします。

AI コンピューティング リソースを再定義する

第 2 回光合成組織 AI ソリューション コンペティションで、トレンド テクノロジーは、海光ハードウェア製品ベース (以下、「AI コンピューティング」と呼びます) の適応と最適化に基づいて、「新荘フルスタックの独立した制御可能な異種 AI コンピューティング パワー リソース プール」を作成しました。 Resource Pool」) ソリューションがこのコンテストで最優秀賞を受賞しました。

Trend Technology のエコロジカル オペレーション ディレクターである Wen Yuxiang 氏は、AI コンピューティング パワー リソース プール ソリューションは主に、現在の異種コンピューティング パワーの広範な使用と、メーカー間での異種コンピューティング パワー リソースの統一管理とスケジューリングの難しさに対処していると紹介しました。このソリューションは、物理的な異種コンピューティング リソースをプールして管理し、異種コンピューティング リソースのオンデマンド スケジューリングと、ベンダー間の異種コンピューティング リソースの洗練された管理を実現します。

プロジェクト アーキテクチャ図

ソリューションのインフラストラクチャ層は、Haiguang サーバーのパフォーマンス上の利点に基づいて 2 つの大きな飛躍を達成できます。オペレーティング システム層では、AI コンピューティング リソース プールは、Galaxy Kirin サーバー オペレーティング システムに基づいており、 Haiguang CPU および DCU プラットフォームの利点. カーネル セキュリティ、RAS 機能、I/O パフォーマンス、仮想化および国内ハードウェア、ドライバー サポートなどがさらに最適化および強化され、仮想化レイヤーでは、OrionX が AI コンピューティング リソースを仮想リソースに抽象化し、そして最終的には AI コンピューティング リソースのソフトウェア定義を実現します。

「現在、リソースはアプリケーションの展開において直接接続され、排他的であるため、コンピューティング リソースの無駄や柔軟性のない使用などの問題が生じています。コンピューティング パワー ユーザーのコスト負担は増加し続けており、これが AI テクノロジーのさらなる開発を妨げています。私たちは、かつては朝飯前のように思われたコンピューティングパワーが、水や電気と同じように、必要に応じて柔軟に、便利に、安価に利用できる真の意味で国民に利益をもたらす資源となることを願っています。効率的です」と温玉祥氏は語った。

環境に優しいフライホイールをスピードアップさせましょう

最近、華夏銀行の CIO が署名した「人工知能 GPU コンピューティング リソース プーリングの応用に関する研究」と題する記事が、中国人民銀行が管理する雑誌「金融電子化」に掲載されました。この記事では、情報イノベーション分野におけるヘテロジニアス コンピューティング パワー リソース プーリング ソフトウェアの応用価値を詳細に説明し、OrionX のヘテロジニアス コンピューティング パワー リソース プーリング ソフトウェア ソリューションの実現可能性をさらに検証し、Haiguang アクセラレータなどの国内ハードウェアのパフォーマンスも評価します。カードは肯定されました。

「情報イノベーション分野におけるコンピューティングリソースプールの構築は、国内のソフトウェアメーカーとハードウェアメーカーが共同で推進する必要がある。海光は国内チップ業界の主導層にあり、我々に多大な支援を提供してくれる。」と温玉祥氏は語った。トレンドテクノロジーは、海光との協力を通じて、プールされたソフトウェアの異種コンピューティング能力の多様化を実現し、新荘市場のアプリケーションニーズをさらに満たしました。

実際、トレンドテクノロジーは光合成組織に参加して以来、海光などの業界チェーンの上流および下流のパートナーと一連の生態学的協力を実施してきました。トレンドテクノロジーの見解では、ユーザーが必要としているのは完全なソリューションであり、単一のメーカーが基礎となるアーキテクチャからフロントエンドアプリケーションに至るまでの完全な製品セットを提供することは困難であり、この文脈において、エコロジカルな力の統合は非常に重要です。 。

「光合成組織は、AI 業界の生態学的ドッキングに優れたプラットフォームを提供します。」 ウェン・ユーシャン氏は、光合成組織コンペティションに基づいて、トレンドテクノロジーはパートナーとの製品技術協力を深め、プログラムの成果を実証しただけでなく、より多くの産業勢力との広範な連携により、生態学的「フライホイール」が徐々に形成され、市場権限付与やプロジェクト導入などの分野で徐々に加速しています。

「フライホイールの速度が加速し続けるにつれて、将来的には、コンピューティング パワー プーリング ソリューションがより多くのビジネス アプリケーション シナリオに適用され、AI コンピューティング パワーがより大きな価値を解放すると信じています。」と Wen Yuxiang 氏は述べています。

以上がトレンド テクノロジー: リソース プーリングにより AI コンピューティング能力の価値が解放されますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。