LeCun meramalkan AGI: Model besar dan pembelajaran pengukuhan kedua-duanya berleluasa! "model dunia" saya ialah cara baharu

Yann LeCun, salah satu gergasi kontemporari paling terkenal dalam industri AI dan jiwa makmal AI Meta, telah lama komited untuk memberi mesin pemahaman asas tentang cara dunia berfungsi, iaitu, membenarkan AI untuk memperoleh akal sehat. Apa yang LeCun lakukan pada masa lalu ialah menggunakan petikan video untuk melatih rangkaian saraf dan membiarkan AI meramalkan, piksel demi piksel, perkara yang akan muncul dalam bingkai video aktiviti harian seterusnya. Tidak mengejutkan, dia mengakui bahawa pendekatan ini mencecah dinding bata. Selepas memikirkannya selama beberapa bulan hingga satu setengah tahun, LeCun mempunyai idea baharu untuk generasi AI yang akan datang.

Laluan baharu untuk AI

Dalam temu bual dengan MIT Technology Review, LeCun menggariskan laluan penyelidikan baharunya, mengatakan Ini akan memberi mesin asas akal untuk meneroka dunia. Bagi LeCun, ini adalah langkah pertama dalam membina AGI (Kecerdasan Am Buatan). Mesin yang boleh berfikir seperti manusia telah menjadi visi panduan sejak lahirnya industri AI, dan ia juga merupakan salah satu konsep yang paling kontroversi.

Walau bagaimanapun, laluan baharu LeCun mungkin masih tidak lengkap, menimbulkan lebih banyak soalan daripada jawapan. Persoalan terbesar ialah LeCun sendiri mengakui bahawa dia belum tahu bagaimana untuk membina jenis AI yang diterangkannya. Teras pendekatan ini adalah rangkaian saraf yang boleh melihat dan belajar dari dunia nyata dengan cara yang berbeza daripada sebelumnya. LeCun akhirnya berputus asa untuk membiarkan AI meneka bingkai seterusnya piksel video mengikut piksel, dan hanya membiarkan rangkaian saraf baharu mempelajari pengetahuan utama yang diperlukan untuk menyelesaikan tugasan itu.

LeCun kemudian merancang untuk memasangkan rangkaian saraf ini dengan rangkaian saraf lain yang dipanggil "konfigurasi". "Konfigurator" bertanggungjawab untuk memutuskan butiran mana yang perlu dipelajari oleh rangkaian saraf utama dan secara automatik menyesuaikan sistem utama dengan sewajarnya. Bagi LeCun, AGI adalah sebahagian daripada interaksi manusia dengan teknologi masa depan. Sudah tentu, pandangan ini bertepatan dengan majikannya Meta Company, yang telah melaburkan semua kekayaannya dalam membangunkan metaverse.

LeCun berkata dalam tempoh 10-15 tahun, cermin mata AR akan menggantikan status telefon pintar semasa. Cermin mata AR mesti mempunyai pembantu pintar maya yang boleh membantu aktiviti harian manusia. Jika pembantu ini ingin menjadi yang paling berkesan, mereka mesti lebih kurang mengikuti kecerdasan otak manusia.

"Model Dunia" ialah teras AGI

Keghairahan LeCun baru-baru ini untuk "Model Dunia", menurutnya, adalah mod operasi asas kebanyakan otak haiwan: untuk dunia sebenar Jalankan simulasi. Sejak bayi, haiwan menggunakan kaedah ramalan-percubaan-dan-kesilapan untuk mengembangkan kecerdasan. Kanak-kanak kecil mengembangkan asas kecerdasan dalam beberapa bulan pertama kehidupan dengan memerhati pergerakan dan kemunduran dunia sebenar.

Memerhatikan bola kecil yang jatuh ratusan kali, bayi biasa mempunyai pemahaman asas tentang kewujudan dan operasi graviti walaupun mereka tidak pernah mengikuti kelas fizik asas atau mempelajari tiga undang-undang Newton. Oleh itu, penaakulan intuitif/tersenyap ini dipanggil "akal sehat" oleh orang biasa. Manusia menggunakan akal untuk memahami kebanyakan masa depan yang mungkin dan fantasi yang mustahil di dunia nyata, untuk meramalkan akibat daripada tindakan mereka dan membuat keputusan yang sewajarnya. Kecerdasan manusia sedemikian tidak memerlukan butiran tepat piksel mahupun perpustakaan parameter fizik yang komprehensif. Walaupun seseorang tidak mempunyai penglihatan atau buta huruf, mereka masih boleh menggunakan kecerdasan mereka secara normal.

Tetapi sukar untuk mengajar mesin belajar akal. Rangkaian saraf hari ini perlu ditunjukkan beribu-ribu contoh sebelum mereka mula menemui corak asas secara samar-samar. LeCun berkata bahawa asas kecerdasan adalah keupayaan akal untuk meramalkan masa depan yang terdekat. Walau bagaimanapun, selepas berputus asa untuk membiarkan AI meramalkan piksel demi piksel, LeCun berkata dia mahu mengubah fikirannya. LeCun memberikan analogi: Bayangkan anda memegang pen di udara dan melepaskannya Akal sehat memberitahu anda bahawa pen itu pasti akan jatuh, tetapi lokasi tepat jatuh tidak berada dalam julat ramalan kecerdasan manusia. Menurut model pembangunan AI yang lalu, AI perlu menjalankan model fizik yang kompleks untuk meramalkan sama ada pen akan jatuh dan pada masa yang sama mencari lokasi tepat jatuh.

Kini LeCun sedang berusaha keras untuk menjadikan AI ​​hanya meramalkan kesimpulan akal bahawa pen akan jatuh, dan kedudukan tepat tidak berada dalam skop penyelesaian. LeCun berkata ini adalah corak asas "model dunia".

LeCun berkata bahawa dia telah membina versi awal "model dunia" yang boleh melengkapkan pengecaman objek asas, dan kini sedang berusaha untuk melatihnya untuk mempelajari ramalan akal sehat yang disebutkan di atas.

Walau bagaimanapun, LeCun berkata bahawa dia masih belum memahami fungsi "konfigurasi". AI "konfigurasi" dalam imaginasi LeCun adalah komponen kawalan keseluruhan sistem AGI. Ia akan menentukan ramalan akal yang perlu dibuat oleh Model Dunia pada bila-bila masa dan melaraskan butiran data yang harus dikendalikan oleh Model Dunia untuk berbuat demikian. LeCun kini yakin bahawa "konfigurator" adalah penting, tetapi dia tidak tahu bagaimana untuk melatih rangkaian saraf untuk mencapai kesan ini.

"Kita perlu meneroka senarai teknologi yang boleh dilaksanakan, dan senarai ini belum wujud lagi." Dalam visi LeCun, "konfigurasi" dan "model dunia" ialah AGI Keduanya bahagian teras seni bina kognitif asas adalah berdasarkan model kognitif untuk memahami dunia, model insentif yang mendorong AI untuk menyesuaikan tingkah laku, dll. boleh dibangunkan. LeCun berkata bahawa dengan cara ini rangkaian saraf boleh berjaya mensimulasikan setiap bahagian otak manusia. Sebagai contoh, "konfigurasi" dan "model dunia" memainkan peranan lobus prefrontal, model motivasi ialah amigdala AI, dan sebagainya.

Seni bina kognitif dan model ramalan pada tahap perincian yang berbeza adalah semua pandangan yang telah ditubuhkan dalam industri selama bertahun-tahun. Walau bagaimanapun, apabila pembelajaran mendalam menjadi arus perdana dalam industri AI, banyak idea lama ini menjadi lapuk. Kini LeCun kembali kepada kebijaksanaan tradisional: "Komuniti penyelidikan AI telah banyak melupakan perkara ini

Model besar dan pembelajaran pengukuhan adalah jalan buntu

The sebab untuk kembali ke jalan lama kerana LeCun yakin bahawa laluan arus perdana dalam industri telah menemui jalan buntu. Mengenai cara membina AGI, kini terdapat dua pandangan arus perdana dalam industri AI.

Pertama, ramai penyelidik yakin dengan jalan yang membawa kepada kesilapan mereka sendiri: sama seperti siri GPT OpenAI dan siri DALL-E, lebih besar model, lebih baik, begitu besar sehingga ia melebihi titik kritikal, AI telah membangkitkan kecerdasan manusia.

Yang kedua ialah pembelajaran pengukuhan: percubaan dan kesilapan berterusan, dan memberi ganjaran dan menghukum AI mengikut keputusan percubaan dan kesilapan. Ini adalah kaedah DeepMind untuk membuat AI pelbagai catur dan kad dan AI permainan. Penganut pendekatan ini percaya bahawa selagi ganjaran dan insentif ditetapkan dengan betul, pembelajaran pengukuhan akhirnya akan mewujudkan AGI yang sebenar.

Lecun berkata bahawa dua jenis orang di sini adalah sampah: "Memperluaskan magnitud model bahasa besar yang sedia ada, adakah kita akhirnya dapat mencipta AI peringkat manusia? Sungguh tidak masuk akal hujah, saya tidak mempercayainya untuk satu saat Model ini hanya boleh memproses pelbagai data teks dan imej, tanpa sebarang pengalaman langsung dalam dunia nyata "Pembelajaran pengukuhan memerlukan sejumlah besar data untuk melatih model untuk melaksanakan tugas yang paling mudah ." Saya tidak fikir terdapat sebarang peluang untuk mencipta AGI dengan pendekatan ini." pandangan. Jika visi LeCun direalisasikan, AI akan menjadi generasi akan datang teknologi asas berprestasi tinggi tidak kurang daripada Internet. Tetapi pengumumannya tidak termasuk prestasi, mekanisme insentif, mekanisme kawalan, dll. modelnya sendiri. Walau bagaimanapun, kelemahan ini adalah perkara kecil, kerana tanpa mengira pujian atau kritikan, orang dalam industri bersetuju bahawa menghadapi kekurangan ini akan menjadi masa yang lama. Sebab LeCun pun tak boleh buat AGI sekarang.

Lecun sendiri mengakui keadaan ini bahawa dia hanya berharap untuk menyemai benih untuk laluan teori baru dan membiarkan mereka yang lewat membina hasil berdasarkan ini. "Mencapai matlamat ini memerlukan terlalu ramai orang dan terlalu banyak usaha. Saya mengutarakan perkara ini sekarang hanya kerana saya fikir jalan ini adalah jalan terakhir yang betul Walaupun ini tidak mungkin, LeCun berharap untuk memujuk rakan-rakannya supaya tidak hanya menumpukan padanya." . Dengan model besar dan pembelajaran pengukuhan, adalah lebih baik untuk membuka minda anda. "Saya benci melihat orang membuang masa."

Reaksi industri: positif dan negatif

Yoshua Bengio, seorang lagi pemimpin industri AI dan rakan baik LeCun, meluahkan perasaannya kegembiraan Melihat kawan lama menjadi kenyataan. "Yann sudah lama bercakap tentang perkara ini, tetapi saya agak gembira melihatnya meringkaskan secara menyeluruh semua kenyataannya di satu tempat. Bagaimanapun, ini hanyalah permohonan untuk arahan penyelidikan dan bukannya laporan keputusan. Kami biasanya hanya membincangkannya secara peribadi . Berkongsi perkara ini di bawah sangat berisiko dalam sembang awam.”

David Silver, yang mengetuai pembangunan permainan AI AlphaZero di DeepMind, tidak bersetuju Komen LeCun mengenai kritikannya, tetapi selamat datang ke visinya.

“Model dunia yang diterangkan oleh LeCun sememangnya merupakan idea baharu yang menarik.” Melanie Mitchell dari Institut Santa Fe di California bersetuju dengan LeCun: “Industri benar-benar tidak melihat perkara seperti ini dalam pembelajaran mendalam. sudut pandangan masyarakat. Tetapi model bahasa besar benar-benar kekurangan ingatan dan tidak mempunyai tulang belakang model dunia dalaman yang boleh memainkan peranan." model sangat cekap dan menggabungkan banyak pengetahuan manusia Tanpa model bahasa, bagaimana saya boleh menaik taraf model dunia yang dicadangkan oleh LeCun Walaupun manusia mempelajarinya, ia memerlukan bukan sahaja pengalaman peribadi, tetapi juga dari mulut ke mulut.”

Atas ialah kandungan terperinci LeCun meramalkan AGI: Model besar dan pembelajaran pengukuhan kedua-duanya berleluasa! "model dunia" saya ialah cara baharu. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!