Rumah  >  Artikel  >  Peranti teknologi  >  Zuckerberg sangat menyokong AGI sumber terbuka: melatih sepenuhnya Llama 3, dijangka mencapai 350,000 H100 menjelang akhir tahun

Zuckerberg sangat menyokong AGI sumber terbuka: melatih sepenuhnya Llama 3, dijangka mencapai 350,000 H100 menjelang akhir tahun

WBOY
WBOYke hadapan
2024-01-19 17:48:17913semak imbas

Xiao Zha mengumumkan matlamat baharu: Semua dalam AGI sumber terbuka.

Ya, Xiao Zha All in sekali lagi, di mana OpenAI dan Google mesti bersaing.

Tetapi sebelum AGI, ia ditekankan bahawa ia adalah Sumber Terbuka.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Pictures

Pergerakan ini mendapat pujian ramai, sama seperti ketika model besar siri LIama adalah sumber terbuka.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

Tetapi kali ini terdapat satu lagi gelombang All-in, dan netizen tidak dapat mengelak daripada memikirkan gelombang All-in sebelum ini: Ke mana pergi Metaverse? ? ?

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

Tetapi harus dikatakan bahawa Bendera yang disenaraikan kali ini memang lebih spesifik malah mendedahkan beberapa data penting.

Sebagai contoh,

  • Akan ada 350,000 H100 menjelang akhir tahun, dan termasuk GPU lain, jumlah kuasa pengkomputeran akan bersamaan dengan 600,000 H100.
  • Pasukan FAIR akan bekerjasama dengan lebih rapat dengan pasukan GenAI.
  • LIama 3 akan datang tidak lama lagi.

Akhirnya, dia pun pasang iklan kecil. Mereka sedang membina peranti pengkomputeran AI-centric baharu, seperti cermin mata pintar Ray Ban Meta.

Nampaknya Metaverse masih diteruskan.

Xiao Zha hadir semula

Kini, Xiao Zha secara rasmi mengumumkan penyertaannya dalam pertempuran AGI.

Walaupun tiada jadual waktu yang jelas, sebagai visi jangka panjang, dua perkara penting dinyatakan dengan jelas:

Sumber terbuka secara bertanggungjawab dan sediakannya secara meluas supaya semua orang boleh mendapat manfaat daripadanya.

Untuk mencapai matlamat ini, terdapat dua perkara utama:

Pertama, integrasikan rapat dua pasukan kerja penyelidikan AI sedia ada (FAIR dan GenAI).

Menurut LeCun, mereka berdua menjadi adik beradik.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

dan berkata, Llama-3 akan datang!

Kedua, bina infrastruktur pengkomputeran berskala besar: menjelang akhir tahun ini, akan ada 350,000 H100, dengan jumlah kuasa pengkomputeran bersamaan dengan 600,000 H100.

Dikira berdasarkan harga jualan AS$25,000 hingga AS$30,000, jumlah nilai kuasa pengkomputeran akan mencecah AS$15 bilion hingga AS$18 bilion.

Sesetengah organisasi sebelum ini meramalkan penghantaran H100 Nvidia ke Meta akan mencecah 150,000 unit pada 2023, iaitu sama seperti Microsoft dan sekurang-kurangnya tiga kali ganda berbanding syarikat lain.

Atas sebab ini, Xiao Zha berkata bahawa kami telah mewujudkan keupayaan sedemikian yang mungkin lebih besar daripada mana-mana syarikat individu lain.

Sesetengah netizen mengira kuasa pengkomputeran dan berkata: Model bersaiz otak akan datang tidak lama lagi.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

Namun, sesetengah orang mempersoalkan bahawa Nvidia tidak sepatutnya dapat menghasilkan sebanyak itu.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

Tetapi seorang pemimpin Meta tampil ke hadapan dan berkata: H100 ialah 350,000 yuan secara keseluruhan termasuk yang sekarang.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

Selain itu, kemajuan pada peralatan perkakasan juga diserlahkan.

Apa yang orang besar katakan tentang AGI

Sebelum Xiao Zha mengumumkan berita itu, ramai orang besar membuat banyak komen tentang AGI di Forum Ekonomi Dunia di Davos.

LeCun, sebagai contoh, menekankan kepentingan sumber terbuka dalam laluan pelaksanaan AGI di forum The Expanding Universe of Generative Models.

Sebab kita melihat kemajuan pesat dalam bidang kecerdasan buatan adalah kerana penyelidikan terbuka.

Walaupun dia sering menyuarakan keraguan bahawa AGI akan datang tidak lama lagi (pastinya tidak dalam tempoh lima tahun akan datang), AGI tiba.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Gambar

Dan pencipta Transformer Aidan Gomez berkata:

Pada masa ini kami belum menyelesaikan pengembangan, kami masih perlu terus bekerja keras.

Bagi Ketua Pegawai Eksekutif OpenAI Altman, beliau berkata bahawa kecerdasan buatan peringkat manusia akan tiba tidak lama lagi, tetapi perubahan kepada dunia akan jauh lebih kecil daripada yang kita bayangkan.

Kecerdasan Am Buatan (AGI) mungkin dibangunkan dalam "masa hadapan yang agak dekat."

Apa pendapat anda tentang perkembangan AGI?

Atas ialah kandungan terperinci Zuckerberg sangat menyokong AGI sumber terbuka: melatih sepenuhnya Llama 3, dijangka mencapai 350,000 H100 menjelang akhir tahun. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan:
Artikel ini dikembalikan pada:51cto.com. Jika ada pelanggaran, sila hubungi admin@php.cn Padam