Apakah sebenarnya superintelligence?

Perkembangan superintelligence adalah topik perdebatan yang tidak berkesudahan di kalangan saintis. Superintelligence berkembang daripada konsep yang lebih tradisional iaitu kecerdasan am buatan (AGI). Sepanjang dekad yang akan datang, teknologi berkuasa ini berpotensi untuk muncul, mampu menyelesaikan masalah global yang penting dan berpotensi menyebabkan kehilangan atau kehilangan hak asasi manusia.

Strategi OpenAI (Syarikat Penyelidikan Kepintaran Buatan Amerika) termasuk mewujudkan penjajaran automatik penyelidik dengan keupayaan peringkat manusia dan memanfaatkan sumber pengkomputeran besar-besaran untuk melatih dan menyelaraskan superintelligence secara berulang. Proses itu, yang dipanggil penjajaran super-kepintaran, memerlukan inovasi, pengesahan yang meluas dan ujian tekanan lawan teknologi penjajaran AI.

Untuk menangani cabaran ini, OpenAI melabur sumber dan penyelidikan yang besar, dan secara aktif menggalakkan penyelidik dan jurutera yang cemerlang untuk bekerjasama. Walau bagaimanapun, ia masih harus dilihat sama ada peralihan dalam istilah daripada kecerdasan buatan am kepada superintelligence akan memberi kesan yang mendalam terhadap perdebatan yang berterusan mengenai risiko dan faedah kecerdasan buatan.

Potensi superintelligence diserlahkan oleh OpenAI, yang dianggap sebagai salah satu teknologi paling berpengaruh sepanjang zaman, dengan keupayaan untuk menyelesaikan masalah global utama. Namun, ia mengakui risiko besar yang berkaitan dengan superintelligence, yang boleh menyebabkan kehilangan kuasa atau bahkan kepupusan manusia.

OpenAI percaya bahawa walaupun superintelligence mungkin kelihatan di luar jangkauan, ia mungkin berlaku dalam dekad yang akan datang. Untuk menangani cabaran menyelaraskan superintelligence dengan niat manusia, institusi tadbir urus baharu perlu diwujudkan untuk mengurus risiko ini. Apa yang menarik, istilah yang digunakan oleh OpenAI bukanlah kecerdasan umum buatan (AGI) tradisional. Alasan mereka adalah seperti berikut:

Kami lebih menumpukan pada superintelligence dan bukannya kecerdasan buatan umum untuk menyerlahkan tahap keupayaan yang lebih tinggi. Kami mempunyai banyak ketidakpastian tentang seberapa cepat teknologi ini akan berkembang dalam beberapa tahun akan datang, jadi kami memilih untuk menyasarkan sasaran yang lebih sukar untuk menentukur sistem yang lebih berkebolehan.

Teknologi penjajaran AI semasa tidak dapat mengawal sepenuhnya potensi AI super-pintar, walaupun terdapat beberapa kaedah seperti pembelajaran pengukuhan untuk bertambah baik berdasarkan maklum balas manusia. Manusia tidak mampu mengawasi sistem yang lebih bijak daripada kita dengan pasti, dan teknologi sedia ada tidak boleh masuk ke dalam bidang superintelligence. OpenAI menekankan keperluan untuk penemuan saintifik dan teknologi untuk mengatasi cabaran ini.

Pendekatan OpenAI bertujuan untuk membangunkan penyelidik penjajaran automatik dengan keupayaan hampir hampir dengan tahap manusia. Sumber pengkomputeran yang luas akan digunakan untuk meningkatkan usaha mereka dan memperhalusi superintelligence secara berulang. Langkah utama dalam kerja ini termasuk membangunkan kaedah latihan berskala, mengesahkan model yang dijana dan menguji tekanan saluran paip penjajaran. Mengikut tajuk pengumuman OpenAI, konsep itu dipanggil penjajaran superintelligent.

Untuk mengatasi kesukaran penilaian manusia terhadap tugas yang mencabar, penyeliaan berskala boleh digunakan untuk menyelesaikannya dengan bantuan sistem kecerdasan buatan. Penting untuk mengesahkan konsistensi, penyeliaan perlu digunakan pada tugas tanpa pengawasan dan mengesan tingkah laku bermasalah serta struktur dalaman. Melatih model tidak sejajar juga merupakan kaedah ujian lawan yang membantu mengesahkan keberkesanan teknik penjajaran.

OpenAI menjangkakan bahawa fokus penyelidikannya akan berubah apabila lebih banyak dipelajari tentang masalah ini, dan mereka merancang untuk berkongsi peta jalan mereka pada masa hadapan. Mereka membentuk pasukan penyelidik dan jurutera pembelajaran mesin terkemuka yang menumpukan pada menyelesaikan masalah penjajaran superintelligence. Dalam tempoh empat tahun akan datang, OpenAI akan menumpukan 20% daripada jumlah kuasa pengkomputerannya untuk kerja ini.

Walaupun kejayaan tidak dijamin, OpenAI tetap optimis bahawa masalah ini boleh diselesaikan dengan usaha yang berfokus dan bersepadu. Matlamat mereka adalah untuk memberikan bukti dan hujah untuk meyakinkan komuniti pembelajaran mesin dan keselamatan bahawa masalah itu telah diselesaikan, dan mereka secara aktif bekerjasama dengan pakar merentas disiplin untuk mempertimbangkan isu manusia dan sosial yang lebih luas.

OpenAI mengalu-alukan penyelidik dan jurutera yang cemerlang, malah mereka yang tidak pernah terlibat dalam usaha penjajaran pada masa lalu, untuk menyertai usaha mereka. Mereka menganggap penjajaran superintelligent sebagai salah satu masalah teknikal yang tidak dapat diselesaikan yang paling penting dan menganggapnya sebagai masalah pembelajaran mesin yang boleh dikendalikan dengan potensi untuk sumbangan penting.

Nampaknya perdebatan hangat mengenai kecerdasan buatan, kecerdasan buatan am dan isu saling berkaitan yang kompleks yang melibatkan kepraktisan dan kemusnahan manusia mewujudkan perpecahan baharu. Hari ini, perbendaharaan kata telah berubah sedikit, tetapi tidak jelas sama ada ini sains atau semantik.

Atas ialah kandungan terperinci Apakah sebenarnya superintelligence?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!