Rumah  >  Artikel  >  Tutorial Perkakasan  >  Memanfaatkan model AI trilion parameter, NVIDIA melancarkan superkomputer DGX SuperPOD berasaskan Blackwell

Memanfaatkan model AI trilion parameter, NVIDIA melancarkan superkomputer DGX SuperPOD berasaskan Blackwell

WBOY
WBOYke hadapan
2024-03-20 09:10:021140semak imbas

Menurut berita dari laman web ini pada 19 Mac, pada Persidangan Pembangun GTC yang diadakan hari ini, NVIDIA melancarkan DGX SuperPOD untuk memproses model AI berparameter trilion, memberikan prestasi yang stabil untuk latihan AI generatif berskala ultra besar dan beban kerja inferens.

驾驭万亿参数 AI 模型,英伟达推出基于 Blackwell 的 DGX SuperPOD 超算

Tapak ini mengetahui daripada laporan bahawa DGX SuperPOD baharu menggunakan seni bina dipasang pada rak penyejukan air kecekapan tinggi dan dilengkapi dengan sistem NVIDIA DGX GB200 Ia menyediakan 11.5 exaflop kuasa pengkomputeran super kecerdasan buatan dan 240 terabait kelajuan pada memori FP4, pelanggan boleh mengembangkan lagi dengan menambah rak.

Setiap sistem DGX GB200 mempunyai 36 kad pemecut NVIDIA GB200, termasuk 36 CPU NVIDIA Grace dan 72 GPU NVIDIA Blackwell, disambungkan ke superkomputer melalui NVIDIA NVLink generasi kelima.

Kad pemecut GB200 memberikan prestasi sehingga 30x lebih baik pada beban kerja inferens model bahasa yang besar berbanding GPU Tensor Core NVIDIA H100.

DGX SuperPOD mengandungi 8 atau lebih sistem DGX GB200, disambungkan melalui NVIDIA Quantum InfiniBand, dan boleh dikembangkan kepada puluhan ribu kad pemecut GB200.

Konfigurasi lalai yang disediakan oleh NVIDIA kepada pelanggan pada masa ini termasuk 576 GPU Blackwell yang disambungkan kepada 8 sistem DGX GB200 melalui NVLink.

Jensen Huang, pengasas dan Ketua Pegawai Eksekutif NVIDIA, berkata:

NVIDIA DGX superkomputer kecerdasan buatan ialah kilang revolusi industri kecerdasan buatan. DGX SuperPOD baharu menggabungkan kemajuan terkini dalam pengkomputeran, rangkaian dan perisian dipercepatkan NVIDIA untuk membolehkan setiap syarikat, industri dan negara memperhalusi dan menjana kecerdasan buatan mereka sendiri.

Atas ialah kandungan terperinci Memanfaatkan model AI trilion parameter, NVIDIA melancarkan superkomputer DGX SuperPOD berasaskan Blackwell. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan:
Artikel ini dikembalikan pada:ithome.com. Jika ada pelanggaran, sila hubungi admin@php.cn Padam