ホームページ >テクノロジー周辺機器 >AI >Sangfor と TrendForce が提携し、高性能ストレージを使用して大規模な AI モデルの開発をサポート

Sangfor と TrendForce が提携し、高性能ストレージを使用して大規模な AI モデルの開発をサポート

WBOY
WBOY転載
2023-08-28 18:53:09826ブラウズ

最近、Beijing Trendong Technology Co., Ltd. (以下、「Trendong Technology」という) と Sangfor は共同ソリューションを正式に開始しました。このソリューションは、Sangfor EDS の高性能ストレージと、OrionX AI コンピューティング リソース プーリング ソフトウェアおよび Gemini AI トレーニング プラットフォームを有機的に組み合わせたもので、ストレージとコンピューティング リソースを統合して、ユーザーが効率的な人工知能プラットフォームを構築し、それらを効果的に管理できるようにすることを目的としています。

Sangfor と TrendForce が提携し、高性能ストレージを使用して大規模な AI モデルの開発をサポート

## 具体的には、共同ソリューションの提供開始により、人工知能分野におけるユーザーインフラの構築に以下のような変化がもたらされます

高性能の共同ソリューションにより、より効率的なトレーニング プラットフォームを作成する準備が整いました。

大規模な人工知能モデルの構築が加速するにつれて、人工知能モデルのトレーニングの効率に対するユーザーの要求がますます高まっています。ただし、GPU コンピューティング リソースの不足や、基盤となるストレージ内の小さなファイルの読み取りおよび書き込みパフォーマンスの不足などの問題により、トレーニング プラットフォーム内の多数のトレーニング タスクをキューに入れる必要があります。コンピューティング能力とストレージ容量が不十分であると、人工知能トレーニング プラットフォーム全体のトレーニング効率が低下します

この問題を解決するために、ジョイント ソリューションは完全に最適化されました。上位層のトレーニング プラットフォームの効率の問題に対応して、Trend Technology の OrionX AI コンピューティング リソース プーリング ソフトウェアは、コンピューティング リソース プールを作成してリソースの分割、集約、リモート呼び出し、およびスーパースコアリング、タスクキューイング、動的マウントとリリース、国内チップ異種プーリングなどの機能により、さまざまなトレーニングタスクのコンピューティングパワー要件を完全に満たし、タスクの進行を加速します。同時に、Gemini AI トレーニング プラットフォームが提供するスケジューリング機能により、トレーニング プラットフォームの管理メカニズムが最適化され、統合されたスケジューリングの下で​​ AI モデルのトレーニングがより効率的になります

EDS が独自に開発したヒューリスティック先読みメカニズムとマルチライブ メタデータ サービスを通じて、基盤となるストレージのパフォーマンスの問題を効果的に解決できます。数百億のデータセットがあっても、高速な読み取りおよび書き込み機能を提供できます。これにより、GPU の待ち時間が短縮されるだけでなく、短期ループ トレーニングのスループットとトレーニング効率も向上します。

2. 容量とパフォーマンスを同時に拡張して、コスト効率の高いストレージ ソリューションを作成できます。 Sangfor と TrendForce が提携し、高性能ストレージを使用して大規模な AI モデルの開発をサポート毎日の AI データセットのトレーニング プロセスでは、モデルをより正確にするために、大量の画像、テキスト、その他のデータを使用して AI モデルをトレーニングする必要があることがよくあります。データの急速な増加により、基盤となるストレージの容量とパフォーマンスに大きな圧力がかかり、従来のストレージの高コストで非効率な拡張モデルでは、パフォーマンスと容量のニーズを満たすことがますます困難になっています。

EDS は、マトリックス ストレージ アルゴリズムなどの完全に自社開発されたテクノロジに依存して、画像、テキスト、ビデオなどの小さなファイルを保存する過程で小さなファイルの書き込み増幅によって引き起こされるスペースの無駄の問題を効果的に解決し、使用率を最大化します。 3 つのノードで構成され、クラスターは中規模の AI トレーニング チームのストレージ ニーズを満たすことができます。パフォーマンスの拡張に関しても、ソフトウェア デファインド ストレージのアーキテクチャ上の利点の恩恵を受け、EDS は拡張中に容量とパフォーマンスの同時拡張を実現し、AI ビジネスの急速に成長するパフォーマンス要件に柔軟に対応します。

3. データの価値の統合管理と詳細なマイニング

ソリューションをリリースする前に、EDS は NFS CSI や S3 などのプロトコルを通じて、トレンドマイクロの Gemini AI トレーニング プラットフォームとのシームレスな統合を成功させていました。深い適応により、Kubernetes コンテナ オーケストレーション プラットフォームはストレージ リソースの動的割り当てをより速く完了でき、ユーザーは展開中のソリューションの実現可能性検討を直接スキップし、AI トレーニング タスクを迅速に開始できます。同時に、EDS は複数のプロトコル間のデータの相互運用性もサポートしています。複数の種類のクライアントがストレージ システムを共有できます。各段階の結果データをストレージ間でコピーする必要がないため、効率的なフローが実現され、ユーザーは効果的に使用できます。データの価値をより便利にマイニングするためのデータ結果

将来的には、両社は技術分野での協力を強化し、より多くのユーザーが路上でより大きな成果を達成できるよう、より高いストレージ性能を備えた共同ソリューションを提供することで、ユーザーによる AI トレーニング プラットフォームのアップグレードと構築の加速を支援します。 AIトレーニングへの移行をより速く、より安定的に進めます

Trend Technology について: Trend Technology は、世界をリードするデータセンター レベルの AI コンピューティング能力仮想化およびリソース プーリング ソリューションをユーザーに提供することに取り組んでいます。現在、人工知能、インターネット、オペレーター、金融、自動車と自動運転、教育、その他の業界の多くの大手企業とユーザーが OrionX AI コンピューティング リソース プーリング ソリューションを使用しています

以上がSangfor と TrendForce が提携し、高性能ストレージを使用して大規模な AI モデルの開発をサポートの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事はsohu.comで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。