L'infrastructure Azure AI est considérablement améliorée ! Extension des capacités de l'intelligence artificielle

Microsoft Azure AI Infrastructure est un pilier essentiel de l’offre et des services élargis de Microsoft, fournissant aux développeurs les systèmes, les outils et les ressources dont ils ont besoin pour créer la prochaine génération d’applications basées sur l’IA sur la plateforme Azure.

Les premiers investissements de Microsoft dans le matériel et l’infrastructure d’IA aident les clients à transformer l’efficacité et l’innovation de l’IA en valeur commerciale. En tirant parti de l'IA, les utilisateurs peuvent créer des expériences utilisateur plus riches, stimuler l'innovation et améliorer la productivité de l'entreprise

L'infrastructure Microsoft Azure AI peut prendre en charge l'évolutivité mondiale, et Microsoft continuera à investir et à l'étendre à l'avenir. Aujourd'hui, Microsoft a lancé la série de machines virtuelles ND H100 v5, qui est équipée d'une unité de traitement graphique (GPU) NVIDIA H100 Tensor Core et d'un réseau à faible latence pour propulser les entreprises dans une nouvelle ère d'applications d'IA.

Le niveau de traitement et d'échelle de l'IA est sans précédent

Sortie de la série de machines virtuelles ND H100 v5 La nouvelle série de machines virtuelles (VM)

Azure ND H100 v5 de Microsoft est désormais disponible dans les régions Azure USA Est et Centre Sud des États-Unis. La série comprend le dernier GPU NVIDIA H100 Tensor Core et le réseau NVIDIA Quantum-2 InfiniBand. Fort d'une vaste expérience en matière de performances et d'évolutivité du calcul intensif, Microsoft a conçu la série de machines virtuelles ND H100 v5 pour gérer la complexité croissante des charges de travail d'IA avancées.

Dans le cadre de l’investissement profond et continu de Microsoft dans l’IA, Microsoft exploite un cluster GPU 4K optimisé pour l’IA et l’étendra à des centaines de milliers de nouveaux GPU au cours de l’année prochaine. La série de machines virtuelles ND H100 v5 VM présente les fonctionnalités suivantes : - Hautes performances : la série de machines virtuelles ND H100 v5 VM dispose d'une puissance de calcul et d'une vitesse de traitement puissantes, et peut gérer rapidement des tâches informatiques complexes. - Flexibilité : cette série de machines virtuelles prend en charge des options de configuration flexibles et peut être ajustée et personnalisée en fonction des besoins réels. - Fiabilité : la série de machines virtuelles ND H100 v5 VM utilise des composants matériels et logiciels fiables pour garantir la stabilité et la fiabilité du système. - Sécurité : cette série de machines virtuelles fournit un environnement d'isolation sécurisé et peut protéger efficacement les données et les applications des utilisateurs. - Facilité d'utilisation : la série de machines virtuelles ND H100 v5 VM fournit des interfaces et des outils simples et faciles à utiliser, permettant aux utilisateurs de gérer et d'exploiter facilement les machines virtuelles

GPU AI Super Computing :

Équipé de huit GPU NVIDIA H100 Tensor Core. Cette série peut accélérer considérablement les modèles d'IA par rapport aux machines virtuelles de la génération précédente, offrant ainsi aux entreprises une puissance de calcul inégalée.

• Unité de traitement informatique (CPU) de nouvelle génération : Les performances du processeur sont cruciales pour la formation et l'inférence de l'IA. Microsoft a choisi le processeur Intel Xeon Scalable de quatrième génération pour garantir que la machine virtuelle atteint la meilleure vitesse de traitement.
• Réseau à faible latence : Grâce à NVIDIA Quantum-2 ConnectX-7 InfiniBand, chaque GPU dispose de 400 Gb/s et chaque VM dispose d'une bande passante entre nœuds de 3,2 Tb/s pour garantir des performances transparentes entre les GPU, ce qui est le meilleur supercalculateur au monde.
• Performances optimisées de l'hôte vers le GPU : Fournissant 64 Go/s de bande passante par GPU via PCIe Gen5, Azure présente un avantage significatif en termes de performances entre le CPU et le GPU.
• MÉMOIRE MASSIVE ET BANDE PASSANTE MÉMOIRE : La mémoire DDR5 est au cœur de cette série de machines virtuelles, offrant des vitesses et une efficacité de transfert de données plus élevées, ce qui les rend idéales pour gérer des charges de travail avec des ensembles de données massifs.
• Cette série de machines virtuelles a prouvé ses avantages en termes de performances, en utilisant le nouveau type de données à virgule flottante FP8 8 bits pour effectuer des opérations de multiplication matricielle jusqu'à six fois plus rapides que la génération précédente FP16. La ND H100 v5 VM aide les grands modèles de langage (tels que le modèle de bout en bout BLOOM 175B) à atteindre une vitesse d'inférence jusqu'à deux fois supérieure, validant ainsi leur potentiel pour optimiser davantage les applications d'IA.
L'intelligence artificielle, optimisée par l'infrastructure Azure AI, a le potentiel de dynamiser des secteurs allant de la fabrication à la vente au détail, des services financiers aux soins de santé, et bien plus encore.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!