Infrastruktur AI Azure telah dinaik taraf dengan hebat! Memperluas lagi keupayaan kecerdasan buatan

Microsoft Azure AI Infrastructure ialah tonggak teras penawaran dan perkhidmatan Microsoft yang diperluaskan, menyediakan pembangun dengan sistem, alatan dan sumber yang mereka perlukan untuk membina aplikasi berkuasa AI generasi seterusnya pada platform Azure.

Pelaburan awal Microsoft dalam perkakasan dan infrastruktur AI membantu pelanggan menukar kecekapan dan inovasi AI kepada nilai perniagaan. Dengan memanfaatkan AI, pengguna boleh mencipta pengalaman pengguna yang lebih kaya, memacu inovasi dan meningkatkan produktiviti perniagaan

Infrastruktur AI Microsoft Azure boleh menyokong kebolehskalaan global, dan Microsoft akan terus melabur dan mengembangkannya pada masa hadapan. Kini, Microsoft telah melancarkan siri mesin maya ND H100 v5, yang dilengkapi dengan unit pemprosesan grafik (GPU) NVIDIA H100 Tensor Core dan rangkaian kependaman rendah untuk mendorong perusahaan ke era baharu aplikasi AI.

Tahap pemprosesan dan skala AI tidak pernah berlaku sebelum ini

Siri mesin maya ND H100 v5 yang dikeluarkan

Siri

Mesin maya Azure ND H100 v5 (VM) baharu Microsoft kini tersedia di wilayah Azure Timur dan Selatan AS. Siri ini menampilkan GPU Tensor Core NVIDIA H100 terkini dan rangkaian InfiniBand NVIDIA Quantum-2. Dengan pengalaman luas dalam prestasi dan skala pengkomputeran super, Microsoft telah merekayasa siri mesin maya ND H100 v5 untuk mengendalikan peningkatan kerumitan beban kerja AI lanjutan. Sebagai sebahagian daripada pelaburan Microsoft yang mendalam dan berterusan dalam AI, Microsoft memanfaatkan kluster GPU 4K yang dioptimumkan AI dan akan meningkatkannya kepada ratusan ribu GPU baharu sepanjang tahun hadapan. Siri mesin maya ND H100 v5 VM mempunyai ciri berikut: - Prestasi tinggi: Siri mesin maya ND H100 v5 VM mempunyai kuasa pengkomputeran yang berkuasa dan kelajuan pemprosesan, serta boleh mengendalikan tugas pengkomputeran yang kompleks dengan cepat. - Fleksibiliti: Siri mesin maya ini menyokong pilihan konfigurasi yang fleksibel dan boleh dilaraskan dan disesuaikan mengikut keperluan sebenar. - Kebolehpercayaan: Siri mesin maya ND H100 v5 VM menggunakan komponen perkakasan dan perisian yang boleh dipercayai untuk memastikan kestabilan dan kebolehpercayaan sistem. - Keselamatan: Siri mesin maya ini menyediakan persekitaran pengasingan yang selamat dan boleh melindungi data dan aplikasi pengguna dengan berkesan. - Kemudahan penggunaan: Siri mesin maya ND H100 v5 VM menyediakan antara muka dan alatan yang ringkas dan mudah digunakan, membolehkan pengguna mengurus dan mengendalikan mesin maya dengan mudah

AI Super Computing GPU:
• Dilengkapi dengan lapan NVIDIA H100 Tensor Core GPU. Siri ini boleh mempercepatkan model AI dengan ketara berbanding mesin maya generasi sebelumnya, memberikan perusahaan dengan kuasa pengkomputeran yang tiada tandingannya.
Unit pemprosesan komputer (CPU) generasi baharu:
• Prestasi CPU adalah penting untuk latihan AI dan inferens Microsoft memilih pemproses Intel Xeon Scalable generasi keempat untuk memastikan mesin maya mencapai kelajuan pemprosesan terbaik.
Rangkaian kependaman rendah:
• Menggunakan NVIDIA Quantum-2 ConnectX-7 InfiniBand, setiap GPU mempunyai 400Gb/s dan setiap VM mempunyai lebar jalur silang nod 3.2 Tb/s untuk memastikan prestasi lancar antara GPU, yang merupakan superkomputer terbaik dunia.
Dioptimumkan Hos kepada Prestasi GPU:
• Menyediakan 64GB/s lebar jalur bagi setiap GPU melalui PCIe Gen5, Azure mempunyai kelebihan prestasi yang ketara antara CPU dan GPU.
JALUR JALUR INGATAN DAN INGATAN BESAR-BESARAN:
• Memori DDR5 adalah teras kepada siri mesin maya ini, memberikan kelajuan dan kecekapan pemindahan data yang lebih tinggi, menjadikannya ideal untuk mengendalikan beban kerja dengan set data yang besar.
Siri mesin maya ini telah membuktikan kelebihan prestasinya, menggunakan jenis data titik terapung 8-bit FP8 baharu untuk melaksanakan operasi pendaraban matriks sehingga enam kali lebih pantas daripada FP16 generasi sebelumnya. ND H100 v5 VM membantu model bahasa yang besar, seperti model hujung ke hujung BLOOM 175B, mencapai sehingga dua kali ganda kelajuan inferens, mengesahkan potensinya untuk mengoptimumkan lagi aplikasi AI.

Kecerdasan buatan, dikuasakan oleh infrastruktur AI Azure, mempunyai potensi untuk menggerakkan industri daripada pembuatan kepada runcit, daripada perkhidmatan kewangan kepada penjagaan kesihatan.

Atas ialah kandungan terperinci Infrastruktur AI Azure telah dinaik taraf dengan hebat! Memperluas lagi keupayaan kecerdasan buatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!