Penyelidikan terbaru DeepMind: AI mengalahkan manusia dan mereka bentuk mekanisme ekonomi yang lebih baik｜Sub-jurnal alam semula jadi

Bolehkah kecerdasan buatan (AI) mendorong masyarakat manusia ke era yang benar-benar pintar?

Walaupun selepas lebih 60 tahun pembangunan, industri kecerdasan buatan telah mencapai kemajuan yang cemerlang dan digunakan secara meluas dalam semua aspek ekonomi dan masyarakat, membina sistem kecerdasan buatan yang konsisten dengan nilai kemanusiaan​ masih menjadi masalah yang belum selesai.

Kini, satu kajian terbaharu daripada syarikat kecerdasan buatan British DeepMind mungkin memberikan cara pemikiran baharu kepada pengamal dalam industri kecerdasan buatan untuk menyelesaikan masalah ini.

Menurut laporan, sistem kecerdasan buatan DeepMind bukan sahaja belajar untuk menggubal dasar tentang cara mengagihkan semula dana awam dengan belajar daripada lebih 4,000 orang dan dalam simulasi komputer dalam permainan ekonomi dalam talian 4 pemain, tetapi juga melakukan Sangat bagus, mengalahkan pemain manusia lain.

Permainan ini melibatkan pemain membuat keputusan sama ada untuk menyimpan derma wang atau berkongsi dengan orang lain untuk kebaikan kolektif.

Kertas penyelidikan yang berkaitan, bertajuk "Reka bentuk mekanisme berpusatkan manusia dengan AI Demokratik", telah diterbitkan dalam talian dalam jurnal saintifik berwibawa Nature Human Behavior pada 5 Julai.

Sumber: Sifat Manusia Tingkah Laku

Annette Zimmermann, penolong profesor di Universiti York di United Kingdom, memberi amaran, "Jangan samakan demokrasi dengan sistem 'kepuasan keutamaan' yang mencari dasar yang paling popular

Dia juga berkata demokrasi itu bukan hanya tentang mendapatkan pelaksanaan terbaik dasar kegemaran anda - ia adalah tentang mewujudkan proses di mana rakyat boleh terlibat dan berbincang antara satu sama lain sebagai sama rata.

Mekanisme ekonomi yang direka oleh AI

Matlamat utama penyelidikan kecerdasan buatan adalah untuk membina teknologi yang memberi manfaat kepada manusia - daripada membantu kita menyelesaikan tugas harian hingga menyelesaikan masalah utama yang dihadapi masyarakat Cabaran kelangsungan hidup.

Hari ini, sistem pembelajaran mesin telah menyelesaikan masalah utama dalam bioperubatan dan membantu manusia menangani cabaran alam sekitar. Walau bagaimanapun, aplikasi AI dalam membantu manusia mereka bentuk masyarakat yang adil dan makmur masih belum dibangunkan.

Dalam teori ekonomi dan permainan, bidang yang dipanggil reka bentuk mekanisme mengkaji cara mengawal aliran kekayaan, maklumat atau kuasa secara optimum dalam kalangan aktor yang diberi insentif untuk mencapai matlamat yang diinginkan.

Dalam kerja ini, pasukan penyelidik cuba membuktikan bahawa ejen pembelajaran tetulang mendalam (RL) boleh digunakan untuk mereka bentuk mekanisme ekonomi yang boleh mendapatkan keutamaan populasi yang bermotivasi.

Dalam permainan ini, pemain bermula dengan jumlah wang yang berbeza dan mesti memutuskan jumlah sumbangan untuk membantu membangunkan kumpulan dana awam dengan lebih baik, dan akhirnya menerima sebahagian sebagai balasan, dan akan melibatkan keputusan berulang tentang sama ada untuk menyimpan a Buat derma wang atau kongsi dengan pemain lain untuk potensi manfaat kolektif.

Pasukan penyelidik melatih ejen pembelajaran pengukuhan yang mendalam untuk mereka bentuk mekanisme pengagihan semula yang berkongsi dana kepada pemain dalam keadaan kesaksamaan dan ketidaksamaan kekayaan.

Hasil perkongsian dikembalikan kepada pemain melalui dua mekanisme pengagihan semula yang berbeza, satu direka oleh sistem AI dan satu lagi direka oleh manusia.

Imej｜Reka Bentuk Permainan (Sumber: Gelagat Manusia Alam Semulajadi)

Dalam dasar yang digubal oleh kecerdasan buatan, sistem akan mengurangkan jurang kekayaan antara pemain dengan mengagihkan semula dana awam mengikut jumlah modal permulaan yang disumbangkan oleh setiap pemain.

Berbanding dengan pendekatan "egaliter" (agihan dana sama rata tanpa mengira sumbangan setiap pemain) dan pendekatan "liberal" (mengikut sumbangan setiap pemain kepada peruntukan berkadar awam dana), dasar ini memenangi lebih banyak undi daripada pemain manusia.

Pada masa yang sama, dasar ini juga membetulkan ketidakseimbangan kekayaan awal dan menghentikan tingkah laku "menunggang bebas" pemain Melainkan pemain menyumbang kira-kira separuh daripada permulaan modal, mereka hampir Tiada apa-apa yang akan diperolehi sebagai balasan.

Walau bagaimanapun, pasukan penyelidik juga memberi amaran bahawa hasil penyelidikan mereka tidak mewakili resipi untuk "kerajaan AI", dan mereka juga tidak berhasrat untuk membina beberapa teknologi yang didorong oleh kecerdasan buatan khusus untuk alat pembuatan dasar.

Adakah ia boleh dipercayai?

Penemuan menunjukkan bahawa sistem kecerdasan buatan boleh dilatih untuk memenuhi matlamat demokrasi dengan mereka bentuk mekanisme yang paling disukai manusia dalam permainan ekonomi yang serasi dengan insentif.

Dalam kerja ini, pasukan penyelidik menggunakan teknik kecerdasan buatan untuk mempelajari skim pengagihan semula dari awal, pendekatan yang meringankan beban penyelidik kecerdasan buatan - yang mereka sendiri mungkin berat sebelah atau tidak mewakili populasi yang lebih luas - Bebannya memilih sasaran khusus domain untuk pengoptimuman.

Kerja penyelidikan ini juga menimbulkan beberapa persoalan, sebahagiannya secara teorinya mencabar. Sebagai contoh, seseorang mungkin bertanya sama ada idea yang baik untuk menekankan matlamat demokrasi sebagai kaedah penjajaran nilai. Sistem AI mungkin telah mewarisi kecenderungan daripada kaedah demokrasi lain untuk "memperkasakan ramai dengan mengorbankan segelintir orang." Ini amat penting memandangkan kebimbangan mendesak bahawa AI boleh digunakan dengan cara yang memburukkan lagi berat sebelah, diskriminasi atau ketidaksamaan yang sedia ada dalam masyarakat.

Sumber: Pixabay

Satu lagi soalan terbuka Ya, adakah orang akan mempercayai mekanisme yang direka oleh sistem kecerdasan buatan. Jika identiti pengadil diketahui lebih awal, pemain mungkin memilih pengadil manusia daripada pengadil yang bertindak AI. Walau bagaimanapun, orang juga cenderung mempercayai sistem AI apabila mereka percaya tugas terlalu kompleks untuk manusia.

Selain itu, adakah pemain akan bertindak balas secara berbeza jika mekanik ini diterangkan kepada mereka secara lisan, dan bukannya belajar melalui pengalaman. Sebilangan besar literatur menunjukkan bahawa orang kadangkala berkelakuan berbeza, terutamanya berkaitan dengan pilihan berisiko, apabila mekanisme diterangkan "berdasarkan penerangan" dan bukannya "berdasarkan pengalaman." Walau bagaimanapun, mekanisme yang direka oleh AI mungkin tidak selalu dapat diungkapkan dengan kata-kata, dalam hal ini nampaknya tingkah laku yang diperhatikan mungkin bergantung sepenuhnya pada pilihan penerangan yang diterima pakai oleh pasukan penyelidik.

Pada akhir kertas kerja, pasukan penyelidik juga menekankan penemuan dan menyatakan bahawa mereka menyokong beberapa bentuk "tadbir urus kecerdasan buatan", di mana ejen autonomi membuat keputusan dasar tanpa campur tangan manusia.

Mereka berharap pembangunan kaedah selanjutnya akan menyediakan alat yang boleh membantu menyelesaikan masalah dunia sebenar dengan cara yang benar-benar manusia.

Atas ialah kandungan terperinci Penyelidikan terbaru DeepMind: AI mengalahkan manusia dan mereka bentuk mekanisme ekonomi yang lebih baik｜Sub-jurnal alam semula jadi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!