Trend Technology : la mutualisation des ressources libère la valeur de la puissance de calcul de l'IA

"Selon les statistiques, l'utilisation moyenne du GPU ne dépasse pas 30 %, ce qui entraînera un énorme gaspillage de ressources informatiques. Nous utilisons des méthodes définies par logiciel pour augmenter généralement l'utilisation du GPU des utilisateurs de 3 à 8 fois, voire même 10 fois »

Il s'agit des dernières données fournies par TrendForce, une société de logiciels de mutualisation de puissance de calcul, citant les données de rapports de l'industrie et combinant sa propre expérience des meilleures pratiques d'entreprise. Grâce au logiciel de pooling de ressources informatiques OrionX AI auto-développé, Trend Technology peut aider les clients à créer un pool de ressources informatiques IA au niveau du centre de données. Les clients peuvent utiliser la puissance de calcul IA de n'importe quel serveur du centre de données sans modifier l'application. En optimisant considérablement le déploiement des applications et en améliorant l'utilisation des ressources utilisateur, il apporte un nouveau modèle d'alimentation en puissance de calcul à l'industrie de l'IA.

Redéfinir les ressources informatiques de l'IA

Lors du 2e concours de solutions d'IA d'organisation photosynthétique, Xinchuang Technology a créé le plan « Pool de ressources de puissance de calcul d'IA hétérogène contrôlable indépendant et contrôlable complet de Xinchuang » (ci-après dénommé « Pool de ressources de calcul d'IA ») qui a remporté le premier prix de ce concours.

Wen Yuxiang, directeur des opérations écologiques de Trend Technology, a présenté que la solution de pool de ressources de puissance de calcul IA répond principalement à l'utilisation intensive actuelle de puissance de calcul hétérogène et à la difficulté de gestion et de planification unifiées des ressources de puissance de calcul hétérogènes entre les fournisseurs. La solution regroupe et gère des ressources informatiques physiques hétérogènes pour réaliser une planification à la demande des ressources informatiques hétérogènes et une gestion raffinée des ressources informatiques hétérogènes entre fournisseurs.

Schéma d'architecture du projet

La couche d'infrastructure de la solution s'appuie sur les avantages en termes de performances des serveurs Haiguang pour réaliser deux avancées majeures : au niveau de la couche du système d'exploitation, le pool de ressources informatiques IA est basé sur le système d'exploitation du serveur Galaxy Kirin, tirant parti des avantages du processeur Haiguang. et les plates-formes DCU pour garantir la sécurité du noyau, les fonctionnalités RAS, les performances d'E/S, la virtualisation et le matériel domestique, la prise en charge des pilotes et d'autres aspects sont encore optimisés et améliorés au niveau de la couche de virtualisation, OrionX résume les ressources de puissance de calcul de l'IA en ressources virtuelles ; réalise le logiciel de définition des ressources de puissance de calcul de l'IA.

"Actuellement, les ressources sont directement connectées et exclusives dans le déploiement d'applications, ce qui entraîne des problèmes tels que le gaspillage des ressources informatiques et une utilisation inflexible. La charge des coûts pour les utilisateurs de puissance de calcul continue d'augmenter, ce qui a entravé le développement ultérieur de la technologie de l'IA jusqu'à un certain point. Dans une certaine mesure, nous espérons que dans le passé, la puissance de calcul, qui semblait « brillante et blanche », pourra véritablement devenir une ressource qui profite au public, au même titre que l'eau et l'électricité, qui peuvent être utilisées selon les besoins, de manière flexible, pratique, bon marché et efficace", a déclaré Wen Yuxiang.

Laissons le volant écologique s'accélérer

Récemment, un article intitulé « Recherche sur l'application de l'intelligence artificielle GPU Computing Resource Pooling » signé par le CIO de la banque Hua Xia a été publié dans « Financial Electronicization », une revue gérée par la Banque populaire de Chine. Cet article examine en détail la valeur d'application du logiciel de mutualisation de ressources de puissance de calcul hétérogène dans le domaine de l'innovation de l'information, vérifie en outre la faisabilité de la solution logicielle de mutualisation de puissance de calcul hétérogène OrionX d'OrionX et teste également les performances du matériel domestique tel que les cartes accélératrices Haiguang. .affirmé.

"La construction d'un pool de ressources informatiques dans le domaine de l'innovation de l'information doit être promue conjointement par les fabricants nationaux de logiciels et de matériel. Haiguang est à l'échelon leader de l'industrie nationale des puces et nous apporte un grand soutien, a déclaré Wen Yuxiang." En coopération avec Haiguang, la tendance de Dong Technology a réalisé la diversification de la puissance de calcul hétérogène des logiciels mutualisés, répondant ainsi davantage aux besoins d'application du marché de Xinchuang.

En fait, depuis qu'elle a rejoint l'Organisation Photosynthétique, Trend Technology a mené une série de coopération écologique avec des partenaires en amont et en aval de la chaîne industrielle tels que Haiguang. Selon Trend Technology, les utilisateurs ont besoin d'une solution complète, et il est difficile pour un seul fabricant de fournir un ensemble complet de produits depuis l'architecture sous-jacente jusqu'aux applications frontales. Dans ce contexte, l'intégration des forces écologiques est très critique. .

"L'organisation photosynthétique fournit une bonne plate-forme pour l'ancrage écologique de l'industrie de l'IA." Wen Yuxiang a souligné que, sur la base du concours d'organisation photosynthétique, Trend Technology a non seulement approfondi la coopération technologique en matière de produits avec des partenaires et démontré les résultats du programme, mais a également largement approfondi liés De plus en plus de forces industrielles ont progressivement formé un « volant d'inertie » écologique et se sont progressivement accélérées dans des domaines tels que l'autonomisation du marché et l'introduction de projets.

"Je pense qu'à mesure que la vitesse du volant d'inertie continue de s'accélérer, à l'avenir, la solution de mise en commun de la puissance de calcul atteindra davantage de scénarios d'applications commerciales et la puissance de calcul de l'IA générera une plus grande valeur."

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!