Pengklonan pemikiran! Bekas penyelidik OpenAI membenarkan AI meniru pemikiran manusia, dan versi sebenar "Ex Machina" tiba

Apakah yang akan berlaku apabila AI mempunyai kesedaran autonomi?

Dalam "Ex Machina", Ava menggunakan simpati manusia untuk memperdaya manusia supaya mendapat kebebasan, dan akhirnya membunuh "pencipta" Nathan.

Baru-baru ini, selepas cadangan ramai netizen, Sam Altman akhirnya menonton filem ini.

Dan berkata, "Ia filem yang bagus, tetapi saya tidak faham mengapa semua orang membuatkan saya menontonnya."

Ramai orang mungkin ingin memberi amaran bahawa ini adalah hasil daripada menjadikan kecerdasan buatan sedar dan lulus ujian Turing.

Tetapi kita masih jauh dari tempat "Ex Machina" dikeluarkan mungkin berada di bawah pembangunan rahsia perkara kekuatan mereka.

Tidak, dua penyelidik dari Universiti British Columbia mendapati terdapat banyak kelebihan kepada ejen pintar yang boleh berfikir seperti manusia.

Dalam kertas terbaharu, mereka mengkaji "pengklonan pemikiran" (TC) ejen pintar.

Di sini, kecerdasan buatan belajar untuk "berfikir" dan "bertindak" seperti manusia dengan meniru manusia.

Apabila AI mempunyai pemikiran

Anda mesti tahu bahawa bahasa adalah kunci untuk membezakan manusia daripada makhluk lain.

Oleh itu, pengkaji membayangkan jika ejen boleh memahami bahasa, banyak faedah yang akan diperoleh.

Sebagai contoh, untuk membantu manusia membuat generalisasi, membuat kesimpulan, menyesuaikan diri dengan situasi baharu dan menggabungkan kaedah baharu dengan pengetahuan sedia ada, Terokai, rancang dan rancang semula apabila perlu.

Walaupun manfaat ini, ejen AI jarang berfikir, sekurang-kurangnya tidak dalam bahasa manusia.

Walaupun rangkaian saraf boleh dianggap sebagai pengaktifan vektor dalaman untuk berfikir, ramai orang membuat hipotesis bahawa pemikiran dalam bahasa simbolik yang diskret mempunyai faedah khusus.

Ini bermakna ejen yang boleh berfikir dalam bahasa mungkin belajar lebih cepat, melakukan dan membuat generalisasi lebih baik daripada ejen yang tidak menggunakan bahasa.

Atas semua sebab ini, meningkatkan keupayaan ejen AI untuk berfikir dalam bahasa boleh menghasilkan banyak kelebihan yang ketara.

Jeff Clune dan Shengran Hu percaya bahawa cara paling berkesan untuk mencapai matlamat ini ialah "membiarkan AI meniru pemikiran manusia."

Mereka mendapati bahawa manusia tidak memperoleh kemahiran berfikir secara berasingan Sebaliknya, mereka memperoleh sebahagian daripada kemahiran mereka melalui demonstrasi orang lain dan maklum balas yang diberikan oleh guru.

Oleh itu, pendekatan yang berkesan adalah dengan membiarkan ejen belajar daripada demonstrasi manusia bercakap fikiran mereka semasa bertindak.

Pendekatan ini berbeza daripada kerja sedia ada menggunakan LLM terlatih untuk perancangan kerana LLM ini belum dilatih mengenai data manusia yang bercakap fikiran mereka semasa bertindak, iaitu "data pemikiran" ”.

Bagi sumber "data pemikiran", para penyelidik memilih video YouTube dan rakaman teks, yang mengandungi kira-kira berjuta-juta jam, termasuk pemikiran di sebalik tindakan, rancangan, keputusan dan perancangan semula orang ramai.

Dalam kertas kerja itu, para penyelidik mencadangkan rangka kerja pembelajaran tiruan novel "pengklonan pemikiran". Antaranya, agen bukan sahaja mempelajari tingkah laku demonstrasi manusia, seperti pengklonan tingkah laku, tetapi juga mempelajari cara manusia berfikir semasa bertindak.

Dalam rangka kerja latihan pengklonan pemikiran, ejen belajar menjana pemikiran pada setiap langkah masa dan seterusnya melaraskan tindakan berdasarkan pemikiran ini.

Rangka kerja keseluruhan adalah seperti yang ditunjukkan dalam rajah Ejen TC ialah seni bina dua lapisan: komponen atas dan bawah.

Pada setiap langkah masa, ejen menerima pemerhatian, tugas dan sejarah pemikiran sebagai input. Komponen peringkat atas bertanggungjawab untuk menjana idea, dan komponen peringkat bawah menjana dan melaksanakan operasi bersyarat pada idea ini.

Pemikiran dan tindakan yang dihasilkan kemudiannya dibandingkan dengan kebenaran asas dalam set data demo untuk mengira kerugian.

Walaupun mungkin terdapat pilihan yang berbeza untuk keadaan komponen atas dan bawah, dalam kerja ini, untuk trajektori tertentu panjang t dalam dataset pemikiran, penyelidik meminimumkannya:

Untuk senario yang lebih kompleks atau berskala besar, komponen lapisan atas boleh dilaksanakan menggunakan model bahasa visual yang telah terlatih ( VLM), atau sampel sifar, penalaan halus.

Manakala komponen asas boleh dilatih dari awal atau disesuaikan daripada pengawal bersyarat bahasa sedia ada dalam domain sasaran.

Dalam kertas itu, penyelidik menjalankan penyelidikan berdasarkan dua komponen seni bina model BabyAI 1.1.

Model ini menggunakan seni bina yang dipertingkatkan memori LSTM untuk menyelesaikan cabaran kebolehmerhatian separa. Selain itu, ia menggunakan FiLM untuk gabungan modal, menggabungkan input visual dan teks dengan berkesan.

Di sini, pengarang khususnya menekankan bahawa semua model dalam artikel ini dilatih dari awal, tetapi lebih baik menggunakan model pra-latihan dalam bidang yang kompleks.

Gambar di bawah adalah contoh persekitaran BabyAI Gambar di sebelah kiri mengandungi item pelbagai warna (bola, kunci, kotak, pintu).

Ejen boleh mengambil, meletakkan, menggerakkan objek atau membuka dan menutup pintu, semasa berkunci Pintu yang anda tinggali hanya boleh dibuka dengan kunci padanan warna.

Ejen boleh melihat sel grid 7×7 di hadapannya, yang terhalang oleh dinding dan pintu tertutup.

Tugas ejen "Thought Clone" adalah untuk mencapai kotak ungu (highlighted) dan mula merancang laluan.

Tetapi apabila pintu biru itu dibuka dan hendak menyelesaikan tugasan itu, ia mendapati bola ungu menghalang jalan. . Oleh itu, ejen klon pemikiran dirancang semula.

Dapat dilihat dari ini bahawa pemikiran dan tindakan ejen menunjukkan bahawa apabila menghadapi halangan, mula-mula keluarkannya Alih keluar dan halakan semula sebelum meneruskan ke matlamat sebelumnya.

Proses ini terutamanya seperti bagaimana Ava merancang langkah demi langkah untuk menjadikan manusia akhirnya percaya dan membantu diri mereka untuk melarikan diri dari sangkar kaca yang telah lama dipegang.

Hasil eksperimen

Hasil penyelidikan menunjukkan bahawa "pengklonan pemikiran" adalah lebih baik daripada pengklonan tingkah laku.

Selain itu, dalam kedua-dua tetapan sifar dan penalaan halus, pengklonan pemikiran mempunyai kelebihan yang lebih besar daripada pengklonan tingkah laku dalam tugas di luar pengedaran.

Menariknya, penyelidik turut membangunkan “campur tangan pra-jenayah” yang membolehkan pengguna tetap Menentukan tingkah laku tidak selamat.

Ejen boleh ditamatkan apabila fikiran berbahaya dikesan. Dalam ujian itu, kesan "campur tangan sebelum jenayah" hampir sempurna, menunjukkan potensinya dalam keselamatan kecerdasan buatan.

"Pengklonan pemikiran" bukan sahaja menjadikan kecerdasan buatan lebih pintar, tetapi juga lebih selamat dan mudah difahami.

Maksudnya, sebelum AI ​​melakukan jenayah, semuanya masih boleh diselamatkan.

Pada pandangan Jeff Clune, "pengklonan pemikiran" menyumbang kepada keselamatan kecerdasan buatan.

Oleh kerana kita dapat memerhatikan pemikiran ejen: (1) lebih mudah mendiagnosis mengapa perkara menjadi salah, (2) membimbing ejen dengan membetulkan pemikirannya, ( 3) Atau mencegahnya daripada melakukan perkara tidak selamat yang dirancang.

Pengenalan Pengarang

Jeff Clune

Pada masa ini, Jeff Clune ialah profesor bersekutu sains komputer di Universiti British Columbia. Beliau terutamanya mempelajari pembelajaran mendalam, termasuk pembelajaran peneguhan mendalam.

Sebelum ini, beliau adalah ketua pasukan penyelidikan OpenAI dan pengurus kanan penyelidikan serta ahli pengasas Makmal Kepintaran Buatan Uber.

Sebelum ini, beliau dan pasukan OpenAI mengeluarkan model pra-latihan video - VPT, membenarkan AI beroperasi di Minecraft Mempelajari beliung pembuatan batu daripada data video.

Shengran Hu

Pada masa ini Britain PhD pelajar di Universiti Columbia, berminat dalam pembelajaran mendalam dan algoritma penjanaan kecerdasan buatan.

Atas ialah kandungan terperinci Pengklonan pemikiran! Bekas penyelidik OpenAI membenarkan AI meniru pemikiran manusia, dan versi sebenar "Ex Machina" tiba. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!