Tencent mengeluarkan Xingmai Network 2.0: kecekapan latihan model besar meningkat sebanyak 20% berbanding generasi sebelumnya

Terima kasih kepada netizen En. Aviation kerana menghantar petunjuk! Menurut berita pada 2 Julai, Tencent semalam mengeluarkan versi 2.0 rangkaian Xingmai yang dibangunkan sendiri Rangkaian Xingmai yang dinaik taraf menyokong satu kelompok 100,000 kad Kecekapan komunikasi rangkaian adalah 60% lebih tinggi daripada generasi sebelumnya, dan latihan model besar kecekapan meningkat sebanyak 20%. , lokasi kerosakan dikurangkan dari hari ke minit. Difahamkan bahawa suis yang dibangunkan sendiri oleh Tencent telah dinaik taraf daripada 25.6T kepada 51.2T, menggandakan kapasiti modul optik silikon yang dibangunkan sendiri telah dinaik taraf daripada 200G kepada 400G, menggandakan kelajuan yang dilengkapi dengan kad rangkaian kuasa pengkomputeran yang dibangunkan sendiri; ; lebar jalur komunikasi keseluruhan mesin ialah 3.2T, yang tertinggi dalam industri. Lokasi penempatan protokol komunikasi baharu Tencent TiTa2.0 yang dibangunkan sendiri telah dialihkan daripada suis kepada kad rangkaian, dan algoritma kesesakan telah dinaik taraf daripada algoritma kesesakan pasif kepada algoritma kawalan kesesakan aktif, meningkatkan kecekapan komunikasi rangkaian Xingmai sebanyak 30% dan meningkatkan kecekapan latihan model besar Ditingkatkan sebanyak 10%. Perpustakaan komunikasi kolektif berprestasi tinggi baru Tencent TCCL2.0 menggunakan komunikasi selari heterogen NVLINK+NET untuk mencapai penghantaran data selari. Algoritma penyesuaian Pakar Rangkaian Auto-Tune boleh melaraskan parameter secara automatik seperti saiz pembahagian paket dan algoritma pemadanan berdasarkan perbezaan dalam model, saiz rangkaian, algoritma model, dsb. Prestasi komunikasi rangkaian Xingmai dipertingkatkan sebanyak 30%, yang meningkatkan kecekapan latihan model besar sebanyak 10% lagi.

▲ Penghantaran data selari (Tencent Cloud) Kesan tumpang tindih peningkatan TiTa dan TCCL telah meningkatkan kecekapan komunikasi rangkaian Xingmai sebanyak 60%, dan kecekapan latihan model besar sebanyak 20%.

Atas ialah kandungan terperinci Tencent mengeluarkan Xingmai Network 2.0: kecekapan latihan model besar meningkat sebanyak 20% berbanding generasi sebelumnya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!