Exploitant des modèles d'IA comportant des milliards de paramètres, NVIDIA lance le supercalculateur DGX SuperPOD basé à Blackwell

Selon les informations de ce site le 19 mars, lors de la conférence des développeurs GTC qui s'est tenue aujourd'hui, NVIDIA a lancé le DGX SuperPOD pour traiter des modèles d'IA comportant des milliards de paramètres, offrant des performances stables pour la formation d'IA générative et les charges de travail d'inférence à très grande échelle.

Ce site a appris d'après des rapports que le nouveau DGX SuperPOD adopte une nouvelle architecture montée en rack refroidie par eau à haut rendement et est équipé du système NVIDIA DGX GB200. Il fournit 11,5 exaflops de super puissance de calcul d'intelligence artificielle et 240. téraoctets de vitesse avec une mémoire de précision FP4, les clients peuvent encore étendre leur capacité en ajoutant des racks.

Chaque système DGX GB200 dispose de 36 cartes accélératrices NVIDIA GB200, dont 36 processeurs NVIDIA Grace et 72 GPU NVIDIA Blackwell, connectés à un superordinateur via NVIDIA NVLink de cinquième génération.

La carte accélératrice GB200 offre des performances jusqu'à 30 fois supérieures sur les charges de travail d'inférence de modèles de langage volumineux par rapport au GPU NVIDIA H100 Tensor Core.

DGX SuperPOD contient 8 systèmes DGX GB200 ou plus, connectés via NVIDIA Quantum InfiniBand, et peut être étendu à des dizaines de milliers de cartes accélératrices GB200.

La configuration par défaut actuellement fournie par NVIDIA aux clients comprend 576 GPU Blackwell connectés à 8 systèmes DGX GB200 via NVLink.

Jensen Huang, fondateur et PDG de NVIDIA, a déclaré :

Le supercalculateur d'intelligence artificielle NVIDIA DGX est l'usine de la révolution de l'industrie de l'intelligence artificielle. Le nouveau DGX SuperPOD combine les dernières avancées en matière de calcul accéléré, de mise en réseau et de logiciels NVIDIA pour permettre à chaque entreprise, industrie et pays d'affiner et de générer sa propre intelligence artificielle.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!