NVIDIA melancarkan GPU L40S, prestasi inferens AI melebihi A100 sebanyak kira-kira 1.2 kali

Menurut berita IT House pada 10 Ogos, NVIDIA melancarkan GPU NVIDIA L40S baharu dan sistem pelayan OVX yang dilengkapi dengan GPU Dokumen mengenai teknologi ini boleh didapati di sini

▲ Sumber gambar: laman web rasmi NVIDIA

Dilaporkan bahawa GPU L40S ini, dipasangkan dengan pelayan OVX yang baru dikeluarkan, boleh digunakan untuk latihan dan inferens model besar AI, reka bentuk 3D, visualisasi, pemprosesan video, pendigitalan industri dan tujuan lain Berbanding dengan GPU A100, set ini daripada "melengkapi satu sama lain" Sistem L40S boleh "meningkatkan AI generatif, keupayaan pemprosesan grafik dan video serta memenuhi permintaan yang semakin meningkat untuk kuasa pengkomputeran."

Menurut penyiasatan IT House, kami mengetahui bahawa GPU L40S ialah versi dinaik taraf bagi GPU L40 NVIDIA sebelumnya, dengan memori video ECC GDDR6 48GB. GPU adalah berdasarkan seni bina Ada Lovelace dan dilengkapi dengan enjin penukaran Tensor Core dan FP8 generasi keempat Kelajuan pengkomputerannya adalah 5 kali ganda daripada generasi sebelumnya. Walau bagaimanapun, NVLink masih tidak disokong

Menurut NVIDIA, L40S adalah 1.2x lebih baik daripada A100 dalam prestasi inferens AI generatif dan 1.7x lebih baik dalam prestasi latihan. NVIDIA percaya bahawa untuk "kerja AI yang kompleks, dengan berbilion parameter dan berbilang corak data", prestasi L40S adalah lebih ketara

NVIDIA mengumumkan bahawa mereka akan melancarkan GPU NVIDIA L40S pada musim luruh ini. Setiap sistem pelayan NVIDIA OVX boleh menyokong sehingga 8 kad pemecut L40S, tetapi NVIDIA masih belum mengumumkan harga GPU ini

NVIDIA mengumumkan bahawa ASUS, Dell, Gigabyte, HPE, Lenovo, QCT dan Supermicro akan melancarkan sistem pelayan OVX yang dilengkapi dengan GPU L40S tidak lama lagi

Atas ialah kandungan terperinci NVIDIA melancarkan GPU L40S, prestasi inferens AI melebihi A100 sebanyak kira-kira 1.2 kali. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!