OpenAI mengumumkan pasukan baharu untuk mengawal kecerdasan buatan "super-pintar".

Berita pada 6 Julai, pada hari Rabu waktu tempatan di Amerika Syarikat, syarikat permulaan kecerdasan buatan OpenAI mengumumkan bahawa ia sedang membentuk pasukan baharu untuk membangunkan kaedah untuk membimbing dan mengawal sistem kecerdasan buatan "superintelligent". Pasukan ini diketuai oleh Ilya Sutskever, ketua saintis dan pengasas bersama OpenAI.

Dalam catatan blog, Suskwell dan Jan Leike, ketua pasukan penyelarasan OpenAI, meramalkan bahawa kecerdasan buatan dengan kecerdasan lebih besar daripada manusia akan muncul dalam tempoh satu dekad. Mereka memberi amaran bahawa kecerdasan buatan seperti itu tidak semestinya bersifat baik terhadap manusia, jadi perlu untuk menyelidik cara untuk mengawal dan mengehadkannya.

Suskwell dan Lake menulis: "Pada masa ini, kami tidak mempunyai sebarang penyelesaian yang boleh digunakan untuk memanipulasi atau mengawal AI yang berpotensi superintelligent dan menghalangnya daripada berpusing di luar kawalan Teknik semasa kami untuk mengubah suai AI, seperti daripada Tetulang maklum balas manusia pembelajaran bergantung pada keupayaan manusia untuk menyelia kecerdasan buatan Tetapi manusia tidak akan dapat mengawasi sistem kecerdasan buatan yang jauh lebih bijak daripada kita."

Untuk membuat kemajuan dalam bidang "Penjajaran Kepintaran", OpenAI sedang mencipta. Pasukan Super Alignment baharu, diketuai bersama oleh Susqueville dan Lake, akan mempunyai akses kepada sehingga 20% daripada sumber pengkomputeran OpenAI. Pasukan ini akan bekerja dalam tempoh empat tahun akan datang untuk menyelesaikan cabaran teknikal teras mengawal kecerdasan buatan superintelligent, bersama-sama dengan saintis dan jurutera dari bekas Bahagian Penjajaran OpenAI, serta penyelidik dari bahagian lain syarikat.

Jadi, bagaimanakah kita memastikan sistem AI yang jauh lebih pintar daripada manusia mengikut niat manusia Ini memerlukan bantuan daripada apa yang digambarkan oleh Suskwell dan Lake sebagai "penyelidik penjajaran automatik peringkat manusia." Matlamat peringkat tinggi adalah untuk menggunakan maklum balas manusia untuk melatih sistem AI, melatih AI untuk membantu dalam penilaian sistem AI lain, dan akhirnya membina AI yang boleh menjalankan kajian penjajaran. "Penyelidikan penjajaran" di sini merujuk kepada memastikan sistem kecerdasan buatan mencapai hasil yang diharapkan atau tidak menyimpang daripada landasan penyelidikan.

Hipotesis OpenAI ialah kecerdasan buatan boleh melakukan penyelidikan penjajaran dengan lebih pantas dan lebih baik daripada manusia.

"Apabila kami membuat kemajuan dalam perkara ini, sistem AI kami boleh mengambil alih lebih banyak lagi kerja penjajaran dan akhirnya membayangkan, melaksanakan, menyelidik dan membangunkan teknologi penjajaran yang lebih baik daripada yang kami ada sekarang," Lake dan Rakan Sekerja John Schulman dan Jeffrey Wu dihipotesiskan dalam catatan blog sebelum ini. "Mereka akan bekerjasama dengan manusia untuk memastikan bahawa pengganti mereka sendiri sentiasa sejajar dengan manusia. Penyelidik manusia akan semakin menumpukan pada mengkaji kajian penjajaran yang dilakukan oleh sistem AI, dan bukannya menjalankan kajian tersebut sendiri Penyelidikan

Sudah tentu, tiada kaedah yang tidak mudah , dan Lake, Schulman, dan Jeffrey Wu mengakui dalam artikel mereka bahawa pendekatan OpenAI mempunyai banyak batasan. Mereka berkata menggunakan AI untuk penilaian mempunyai potensi untuk meningkatkan ketidakkonsistenan, berat sebelah atau kelemahan dalam AI. Ia mungkin ternyata bahawa bahagian yang paling sukar dalam masalah penjajaran mungkin tidak ada kaitan dengan kejuruteraan sama sekali.

Tetapi Suskville dan Lake berpendapat ia berbaloi untuk dicuba. Mereka menulis: "Penjajaran superpintar pada asasnya merupakan masalah pembelajaran mesin dan kami percaya bahawa pakar pembelajaran mesin yang baik (walaupun mereka belum mula bekerja pada penjajaran) akan menjadi kritikal untuk menyelesaikan masalah ini. Kami merancang untuk berkongsi perkara ini secara meluas. usaha kami dan menggalakkan ketekalan dan keselamatan model bukan OpenAI sebagai bahagian penting dalam kerja kami.”

Atas ialah kandungan terperinci OpenAI mengumumkan pasukan baharu untuk mengawal kecerdasan buatan "super-pintar".. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!