Gary Marcus secara terbuka menjerit kepada Hinton dan Musk: Pembelajaran mendalam melanda dinding, saya bertaruh $100,000

​“Jika seseorang berkata (pembelajaran mendalam) telah melanda, apa yang mereka perlu lakukan ialah membuat senarai perkara yang tidak boleh dilakukan oleh pembelajaran mendalam dalam masa 5 tahun, kami akan dapat membuktikan bahawa pembelajaran mendalam melakukannya itu.”

Pada 1 Jun, Geoffrey Hinton yang tertutup menjadi tetamu di podcast profesor UC Berkeley, Pieter Abbeel, mereka berdua berbual selama 90 minit, daripada pengekod auto bertopeng, AlexNet hingga rangkaian neural spiking. dan lain-lain tunggu.

Dalam rancangan itu, Hinton jelas mempersoalkan pandangan bahawa "pembelajaran mendalam telah melanda dinding."

Pernyataan "Pembelajaran mendalam telah melanda dinding" berasal dari artikel pada bulan Mac oleh sarjana AI terkenal Gary Marcus. Tepatnya, dia percaya bahawa "pembelajaran mendalam dari hujung ke hujung tulen" telah hampir berakhir, dan seluruh medan AI mesti mencari jalan keluar baharu.

Di manakah jalan keluar? Menurut Gary Marcus, pemprosesan simbol mempunyai masa depan yang hebat. Walau bagaimanapun, pandangan ini tidak pernah dipandang serius oleh masyarakat malah Hinton berkata sebelum ini: "Sebarang pelaburan dalam kaedah pemprosesan simbol adalah satu kesilapan besar

"bantahan" umum Hinton dalam podcast jelas menimbulkan kegemparan. Gary Marcus.

Hanya sedozen jam yang lalu, Gary Marcus menghantar surat terbuka kepada Geoffrey Hinton di Twitter:

Inilah yang tertulis dalam surat itu: "Saya perasan bahawa Geoffrey Hinton sedang mencari beberapa sasaran yang mencabar Dengan bantuan Ernie Davis, saya sebenarnya menulis senarai sedemikian, dan minggu lepas saya mengeluarkan pertaruhan $100,000 kepada Musk."

Apa yang berlaku dengan Musk di sini? Sebabnya bermula dengan tweet pada akhir Mei.

Pertaruhan seratus ribu dolar dengan Musk

Sejak sekian lama, orang telah memahami AGI sebagai jenis AI yang diterangkan dalam filem seperti A Space Odyssey (HAL) dan Iron Man (JARVIS ). Tidak seperti AI semasa, yang dilatih untuk tugas tertentu, AGI, lebih seperti otak manusia, boleh belajar cara menyelesaikan tugas.

Kebanyakan pakar percaya AGI akan mengambil masa beberapa dekad untuk dicapai, malah ada yang percaya matlamat itu tidak akan tercapai. Dalam tinjauan pakar dalam bidang itu, dianggarkan terdapat 50% peluang untuk mencapai AGI menjelang 2099.

Sebaliknya, Musk kelihatan lebih optimistik, malah secara terbuka menyatakan di Twitter: "2029 adalah tahun kritikal, jika kita belum mencapai AGI pada masa itu, saya akan terkejut. Harap Marikh Begitu juga untuk rakyat di Internet."

Gary Marcus, yang tidak bersetuju, segera bertanya: "Berapa banyak yang anda sanggup bertaruh?"

Walaupun Musk tidak menjawab soalan ini, Gary Marcus terus mengatakan bahawa dia boleh menyediakan permainan dalam Long Bets dengan jumlah AS$100,000.

Pada pandangan Gary Marcus, pandangan Musk yang relevan tidak boleh dipercayai: “Sebagai contoh, anda berkata pada 2015 bahawa ia akan mengambil masa dua tahun untuk mencapai kereta autonomi sepenuhnya Sejak itu, anda telah mengatakan bahawa hampir setiap tahun Mereka semua mengatakan perkara yang sama, tetapi pemanduan autonomi sepenuhnya belum direalisasikan lagi.”

Dia juga menulis lima standard untuk menguji sama ada AGI boleh direalisasikan sebagai pertaruhan:

• Pada 2029 , AI tidak boleh membaca filem dan memberitahu anda dengan tepat apa yang sedang berlaku (siapa wataknya, apakah konflik dan motivasi mereka, dll.);
• Pada tahun 2029, AI tidak boleh membaca novel dan boleh dipercayai memberitahu anda Jawab soalan tentang plot, watak, konflik, motivasi dan banyak lagi
• Pada tahun 2029, AI tidak akan dapat berkhidmat sebagai tukang masak yang cekap di mana-mana dapur; tidak akan dapat menggunakan spesifikasi bahasa semula jadi atau Interaksi oleh pengguna bukan pakar untuk membina lebih 10,000 baris kod bebas pepijat (menggabungkan kod daripada perpustakaan sedia ada tidak dikira
• Pada 2029, AI tidak boleh bermula daripada kesusasteraan matematik yang ditulis dalam bahasa semula jadi Dapatkan sebarang bukti daripadanya dan tukarkannya kepada bentuk simbolik yang sesuai untuk pengesahan simbolik.

"Inilah nasihat saya jika anda (atau sesiapa sahaja) berjaya melakukannya pada 2029 Sekurang-kurangnya tiga , walaupun anda menang. Bagaimana dengan $100,000?"

Dengan lebih ramai orang mengejarnya, jumlah pertaruhan telah dinaikkan kepada $500,000. Walau bagaimanapun, setakat ini, Musk masih belum memberi respons.

Gary Marcus: AGI bukanlah "dekat" seperti yang anda fikirkan

Pada 6 Jun, Gary Marcus menerbitkan artikel dalam Scientific American, mengulangi pandangannya: AGI tidak "dekat" Di hadapan awak.

Bagi orang biasa, nampaknya kemajuan besar sedang dicapai dalam bidang kecerdasan buatan. Antara laporan media: DALL-E 2 OpenAI nampaknya boleh menukar mana-mana teks kepada imej, GPT-3 maha mengetahui, dan sistem Gato DeepMind, dikeluarkan pada bulan Mei, berfungsi dengan baik pada setiap tugas... Seorang eksekutif kanan DeepMind malah bermegah untuk memulakan usaha untuk kecerdasan am buatan (AGI), AI dengan tahap kecerdasan seperti manusia...

Jangan tertipu. Mesin mungkin satu hari menjadi pintar seperti manusia, mungkin lebih pintar, tetapi itu jauh dari itu hari ini. Masih banyak kerja yang perlu dilakukan untuk mencipta mesin yang benar-benar memahami dan menaakul tentang dunia sebenar. Apa yang kita perlukan sekarang ialah kurang postur dan penyelidikan yang lebih asas.

Yang pasti, AI sememangnya membuat kemajuan dalam beberapa kawasan—imej sintetik kelihatan semakin realistik, pengecaman pertuturan boleh berfungsi dalam persekitaran yang bising—tetapi kami tidak berada di mana-mana dekat AI peringkat manusia sejagat Masih jauh untuk pergi, sebagai contoh, kecerdasan buatan belum dapat memahami maksud sebenar artikel dan video, dan juga tidak dapat menangani halangan dan gangguan yang tidak dijangka. Kami masih menghadapi cabaran yang telah dilalui AI selama bertahun-tahun - menjadikan AI boleh dipercayai.

Mengambil Gato sebagai contoh, memandangkan tugas menambah tajuk pada imej tukang kendi yang membaling besbol, sistem mengembalikan tiga jawapan yang berbeza: "Seorang pemain besbol bermain di padang besbol", "Seorang lelaki baling besbol kepada A pitcher throws a baseball on a baseball field" dan "A baseball player bat and a catcher in a baseball game." Jawapan pertama adalah betul, manakala dua yang lain nampaknya mengandungi pemain tambahan yang tidak kelihatan dalam imej. Ini menunjukkan bahawa sistem Gato tidak mengetahui apa yang sebenarnya dalam imej, sebaliknya apa yang tipikal bagi imej yang hampir serupa. Mana-mana peminat besbol boleh memberitahu bahawa ini ialah pitcher yang baru sahaja membaling bola - sementara kami menjangkakan penangkap dan pemukul yang berdekatan, mereka jelas tidak hadir dalam imej.

Begitu juga, DALL-E 2 akan mengelirukan dua hubungan kedudukan ini: "kubus merah di atas kubus biru" dan "kubus merah di atas Biru kiub". Begitu juga, model Imagen yang dikeluarkan oleh Google pada bulan Mei tidak dapat membezakan antara "angkasawan menunggang kuda" dan "angkasawan menunggang kuda."

Anda mungkin masih merasa agak kelakar apabila sistem seperti DALL-E menjadi salah, tetapi terdapat beberapa sistem AI yang boleh menyebabkan masalah yang sangat serius jika ia salah. Sebagai contoh, Tesla memandu sendiri baru-baru ini memandu terus ke arah pekerja yang memegang tanda berhenti di tengah jalan, memerlukan campur tangan pemandu manusia untuk memperlahankan kenderaan. Sistem pandu kendiri boleh mengecam manusia dan papan tanda berhenti sendiri, tetapi gagal untuk memperlahankan apabila menghadapi kombinasi luar biasa kedua-duanya.

Jadi, malangnya, sistem AI masih tidak boleh dipercayai dan menghadapi masalah menyesuaikan diri dengan cepat kepada persekitaran baharu.

Gato berfungsi dengan baik pada semua tugas yang dilaporkan oleh DeepMind, tetapi jarang seperti sistem kontemporari yang lain. GPT-3 sering menulis prosa yang fasih, tetapi ia masih menghadapi kesukaran untuk menguasai aritmetik asas, dan ia mempunyai pemahaman yang terlalu sedikit tentang realiti Ia adalah mudah untuk menghasilkan ayat yang luar biasa seperti "Sesetengah pakar percaya bahawa makan stokin boleh membantu otak mengubah keadaannya. " .

Masalah di sebalik ini ialah pasukan penyelidik terbesar dalam bidang kecerdasan buatan bukan lagi institusi akademik, tetapi syarikat teknologi yang besar. Tidak seperti universiti, perniagaan tidak mempunyai insentif untuk bersaing secara adil. Kertas baharu mereka dikeluarkan melalui akhbar tanpa semakan akademik, membawa kepada liputan media dan mengetepikan semakan rakan sebaya. Maklumat yang kami dapat hanyalah apa yang syarikat itu sendiri mahu kami ketahui.

Dalam industri perisian, terdapat perkataan khas yang mewakili strategi perniagaan ini "demoware", yang bermaksud bahawa reka bentuk perisian sesuai untuk paparan, tetapi ia tidak semestinya sesuai untuk dunia sebenar.

Produk AI yang dipasarkan dengan cara ini sama ada tidak boleh dikeluarkan dengan lancar, atau ia adalah kucar-kacir dalam realiti.

Pembelajaran mendalam meningkatkan keupayaan mesin untuk mengenal pasti corak data, tetapi ia mempunyai tiga kelemahan utama: corak yang dipelajari adalah cetek dan bukannya konseptual, keputusan yang dihasilkan sukar untuk ditafsirkan; Seperti yang dinyatakan oleh saintis komputer Harvard, Les Valiant: "Cabaran utama masa depan adalah untuk menyatukan bentuk pembelajaran dan penaakulan AI

Pada masa ini, syarikat sedang mengejar penanda aras daripada mencipta idea baharu untuk penambahbaikan kecil dan bukannya berhenti memikirkan isu yang lebih asas.

Kami memerlukan lebih ramai orang untuk bertanya soalan asas seperti "Bagaimana untuk membina sistem yang boleh belajar dan menaakul pada masa yang sama" dan bukannya meneruskan paparan produk yang cantik.

Perdebatan tentang AGI masih belum sampai ke penghujungnya, dan penyelidik lain turut serta. Penyelidik Scott Alexander menegaskan dalam blognya bahawa Gary Marcus adalah legenda, dan apa yang telah ditulisnya dalam beberapa tahun kebelakangan ini adalah lebih kurang tepat, tetapi ia masih mempunyai nilainya.

Sebagai contoh, Gary Marcus sebelum ini telah mengkritik beberapa masalah GPT-2 Lapan bulan kemudian, apabila GPT-3 dilahirkan, masalah ini telah diselesaikan. Tetapi Gary Marcus tidak menunjukkan belas kasihan kepada GPT-3, malah menulis artikel: "Penjana bahasa OpenAI tidak tahu apa yang diperkatakan

Pada asasnya, satu sudut pandangan adalah betul pada masa ini. : "Gary Marcus mempersendakan model bahasa besar sebagai gimik, tetapi kemudian model ini akan menjadi lebih baik dan lebih baik, dan jika aliran ini berterusan, AGI akan direalisasikan tidak lama lagi."​

Atas ialah kandungan terperinci Gary Marcus secara terbuka menjerit kepada Hinton dan Musk: Pembelajaran mendalam melanda dinding, saya bertaruh $100,000. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!