Bekas pengarah Tesla dan pakar OpenAI Karpathy: Saya terganggu oleh pemanduan autonomi, ejen AI adalah masa depan!

Baru-baru ini, Andrej Karpathy, pengasas bersama OpenAI, bekas pengarah TeslaAI, dan kini kembali ke OpenAI, berkongsi pandangannya tentang ejen AI pada acara pembangun.

Tujuh tahun yang lalu, masa untuk belajar ejen AI masih belum matang

Dia mula-mula bercakap tentang hari-hari awal bekerja di OpenAI (sekitar 2016). Trend industri pada masa itu ialah mengkaji cara menggunakan tetulang kaedah pembelajaran.

Banyak projek membuat pemain AI berdasarkan permainan Atari yang serupa.

Gambar

Apa yang dia mahu lakukan pada masa itu adalah produk dengan rangkaian aplikasi yang lebih luas.

Namun, disebabkan keterbatasan teknologi pada masa itu, hasilnya tidak baik, jadi dia dan OpenAI menukar arah dan mula membina model bahasa yang lebih besar.

Sudah tentu dalam tempoh ini saya terganggu dengan pemanduan automatik.

Tetapi kini, 5 tahun kemudian, ejen AI telah menjadi hala tuju yang sangat menjanjikan sekali lagi.

Oleh kerana kini terdapat kaedah teknikal baru untuk mengkaji ejen AI, keadaannya berbeza sama sekali daripada 2016.

Contoh paling mudah ialah tiada siapa yang menggunakan kaedah pembelajaran pengukuhan untuk mengkaji ejen AI lagi seperti yang mereka lakukan pada tahun 2016.

Kaedah dan hala tuju penyelidikan semasa tidak dapat dibayangkan ketika itu.

Agen AI mewakili masa depan yang gila, walaupun mungkin agak jauh

Sebab pada masa hadapan, jika AGI boleh muncul, keupayaan ejen AI akan digunakan sepenuhnya.

Pada masa hadapan, ejen AI mungkin bukan individu bujang, tetapi akan ada banyak organisasi ejen AI atau juga tamadun ejen AI.

Gambar

Ini boleh menjadi masa depan yang sangat mengujakan, malah gila.

Tetapi pada masa yang sama, setiap orang mesti berjaga dan tenang.

Oleh kerana sesetengah arah aliran teknologi mungkin mudah untuk dibayangkan dan dibayangkan, tetapi sukar untuk melaksanakan produk.

Banyak teknologi termasuk dalam kategori ini, seperti pemanduan autonomi.

Penglihatan teknologi mudah dibayangkan, dan demonstrasi kereta memandu di sekitar blok mudah dibuat, tetapi mungkin mengambil masa 10 tahun untuk menghasilkan produk.

Begitu juga, VR juga situasi yang sama.

Gambar

Ejen AI juga mungkin tergolong dalam kategori teknologi ini Senario aplikasi mudah dibayangkan dan prospeknya menarik, tetapi ia memerlukan pembangunan dan pengumpulan teknologi jangka panjang.

Ejen AI perlu mendapatkan inspirasi daripada neurosains

Sama seperti perkembangan awal pembelajaran mendalam, perkembangan ejen AI mungkin diilhamkan oleh neurosains.

Sangat menarik untuk memikirkan hubungan antara ejen AI dan neurosains.

Terutamanya kini ramai orang menganggap model bahasa besar sebagai sebahagian daripada penyelesaian ejen AI mereka.

Tetapi bagaimana untuk membina entiti digital lengkap yang memiliki semua kebolehan kognitif manusia?

Jelas sekali, kita semua bersetuju bahawa perlu ada beberapa sistem asas untuk merancang, berfikir dan merenung apa yang kita lakukan.

Mungkin di sinilah neurosains berperanan.

Sebagai contoh, hippocampus adalah bahagian otak yang sangat penting.

Tetapi apakah dalam ejen AI yang memainkan peranan hippocampus untuk menyimpan ingatan, melaksanakan penandaan dan pengambilan semula, dsb.?

Kami secara amnya memahami cara membina korteks visual dan auditori, tetapi masih banyak perkara yang kami tidak tahu apa sebenarnya yang dimaksudkan dalam ejen AI.

Sebagai contoh, apakah yang sepadan dengan talamus, tempat duduk bawah sedar, dalam Agen AI?

Ini soalan yang sangat menarik.

Saya bawakan khas buku tentang neurosains, "Brain and Behavior" oleh David Eagleman Saya dapati buku ini sangat menarik dan mencerahkan.

Sama seperti penyelidikan AI awal yang dilakukan semasa mereka bentuk neuron, menarik inspirasi menarik daripada neurosains mungkin merupakan arah yang patut kita cuba lagi.

Semua orang di sini berada di barisan hadapan dalam industri

Anda mungkin tidak semestinya mengetahuinya, tetapi ejen AI yang dibina oleh semua orang di sini hari ini sudah berada di barisan hadapan keupayaan ejen AI.

Saya tidak fikir mana-mana institusi yang sedang mengusahakan model bahasa berskala besar, seperti OpenAI, berada di barisan hadapan dalam bidang ini.

Yang paling depan adalah semua orang di sini.

Sebagai contoh, OpenAI sangat baik dalam melatih model bahasa Transformer.

Jika kertas kerja mencadangkan kaedah latihan yang berbeza, maka semua orang dalam kumpulan Slack dalaman OpenAI kami akan membincangkannya dan berkata:

"Saya mencuba kaedah ini dua setengah tahun lalu, dan ia tidak berjaya. "

Kami sangat jelas tentang selok belok kaedah melatih model.

Tetapi apabila kertas ejen AI keluar, kita semua akan sangat berminat dan fikir ia adalah menakjubkan.

Sebab pasukan kami menghabiskan 5 tahun terakhir di tempat lain.

Gambar

Kami tidak tahu lebih daripada anda dalam bidang ini, dan kami berada pada tahap persaingan yang sama seperti orang lain.

Inilah sebabnya saya rasa semua orang di sini berada di barisan hadapan ejen AI Ini sangat penting untuk pembangunan ejen AI.

Atas ialah kandungan terperinci Bekas pengarah Tesla dan pakar OpenAI Karpathy: Saya terganggu oleh pemanduan autonomi, ejen AI adalah masa depan!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!