Bengio, Godfather AI: Saya berasa kehilangan, dan bimbang tentang AI telah menjadi "geseran dalaman mental"!

Baru-baru ini, Yoshua Bengio, salah seorang Turing Big Three, telah ditemu bual oleh BBC.

Bengio mendedahkan rasa "melankolik" yang kuat semasa temu bual, mengatakan bahawa dia berasa agak kehilangan dalam kerjaya yang diceburinya sepanjang hidupnya.

Untuk lebih spesifik, dia merasakan bahawa jika dia dapat menyedari kemungkinan kelajuan pembangunan AI lebih awal, maka dia mungkin cenderung untuk mengutamakan keselamatan AI daripada kepraktisannya.

Anda tahu, Bengio baru sahaja menandatangani surat terbuka mengenai "AI mungkin menghapuskan kemanusiaan" yang diterbitkan beberapa hari lalu.

Lost Bengio

Penandatanganan surat terbuka itu jelas menunjukkan sikap Bengio.

Surat terbuka 22 perkataan ini membandingkan risiko AI boleh menghapuskan manusia dengan krisis sosial seperti perang nuklear dan penyakit berjangkit.

Dalam wawancara BBC, Bengio menghuraikan pandangannya.

Dia menyeru kami supaya mengawal AI dengan lebih ketat Contohnya, tentera tidak boleh diberi kuasa untuk menggunakan AI.

Sudah tentu, institusi politik tidak menutup mata terhadap pembangunan AI.

Kesatuan Eropah mungkin merupakan organisasi pertama yang menggubal AI. Juga baru-baru ini, Kesatuan Eropah berkata bahawa kod tingkah laku berkaitan AI mungkin dibuat dalam beberapa minggu akan datang.

Kebimbangan ini bukanlah sesuatu yang tidak munasabah. Lagipun, prestasi tinggi AI boleh digunakan untuk matlamat yang berbahaya kepada manusia, seperti pembangunan senjata kimia baharu.

Bengio berkata bahawa dia sangat bimbang tentang mereka yang mempunyai "niat jahat" menguasai AI, terutamanya apabila AI berkembang dengan begitu pantas.

"Ia mungkin tentera, mungkin pengganas, atau mungkin orang yang mentalnya tidak stabil. Pendek kata, jika orang ini menguasai AI, biarkan AI melakukan beberapa tugas yang sangat berbahaya Jika AI terus berkembang, kami mungkin tidak dapat mengganggu AI dalam prosesnya.

Seterusnya, Bengio bercakap tentang dirinya semula.

Kebimbangan ini sudah pasti meningkatkan geseran dalamannya dan memberi kesan kepada kehidupan peribadi dan kerjanya.

Pada masa lalu, Bengio adalah seorang sarjana AI dengan penghormatan yang besar (dan sudah tentu dia sekarang, dia sanggup bertarung sepanjang hayatnya untuk kerjayanya). suka dan pandai.

Kerjaya AI pernah membawanya rasa identiti, pengiktirafan dan hala tuju dalam kehidupan. Tetapi sekarang, kerana kebimbangan ini, perkara-perkara ini tidak lagi jelas kepadanya.

"Bagi mereka yang berada dalam industri AI, ini mencabar emosi." ia.

"Anda boleh kata saya rasa kehilangan. Tetapi anda perlu tabah, anda perlu terlibat dalam perbincangan dan menggalakkan orang lain untuk berfikir dengan anda." Musk telah menyatakan kebimbangan yang sama.

Walaupun dia tidak percaya AI pasti akan menghapuskan manusia, dia percaya AI boleh mengehadkan dan mengawal manusia.

Bengio percaya bahawa semua syarikat gergasi teknologi yang berkaitan dengan produk AI perlu dikawal dan didaftarkan.

“Kerajaan perlu menjejaki apa yang mereka lakukan, mereka perlu dapat mengaudit mereka dan itu adalah perkara paling asas yang kami lakukan dengan mana-mana industri lain seperti membina kapal terbang atau kereta atau farmaseutikal.”

"Kami juga perlu memperkenalkan sejenis latihan etika, yang biasanya tidak diterima oleh sains komputer

Saintis Huggingface Dr. Sasha Luccioni." berkata bahawa masyarakat harus mengambil berat tentang isu seperti bias AI dan penyebaran maklumat salah, yang dianggapnya sebagai isu konkrit.

Falsafah beliau ialah isu khusus harus mendapat lebih perhatian kita. Memusnahkan umat manusia adalah sedikit khayalan, dan kita tidak boleh bercakap mengenainya.

Malah, terdapat banyak contoh yang menunjukkan banyak faedah yang dibawa oleh AI kepada masyarakat.

Baru minggu lepas, dengan kuasa AI, seorang lumpuh dapat cuba berjalan semula hanya dengan mengawal pemikirannya, terima kasih kepada cip mikro yang dibangunkan menggunakan AI.

Selain impak teknologi, kesan mendalam AI terhadap ekonomi negara tidak boleh diabaikan.

Banyak syarikat telah mula menggunakan alatan AI untuk menggantikan tenaga manusia, yang juga merupakan sebab penting mengapa penulis skrip Hollywood melancarkan mogok.

Hinton nekad meletak jawatan

Kebetulan sebentar tadi, Hinton yang juga salah seorang Turing Big Three juga sedang dalam pencarian panas atas sebab yang sama.

Pada masa itu, media utama penuh dengan tajuk ini: Geoffrey Hinton, sarjana pembelajaran mendalam dan bapa rangkaian saraf, tiba-tiba mengumumkan peletakan jawatannya daripada Google.

Untuk dapat bercakap secara bebas tentang risiko AI tanpa mengambil kira kesannya pada Google.

Dalam laporan New York Times, Hinton secara langsung memberi amaran kepada dunia: Berhati-hati, ada bahaya di hadapan, ada bahaya di hadapan, ada bahaya di hadapan!

Dan inilah sebabnya dia amat bimbang tentang risiko kecerdasan buatan. Hinton berkata secara terus terang: "Saya amat menyesali kerja hidup saya." Transformasi Hinton, seorang nabi kiamat, juga menandakan bahawa industri teknologi berada pada titik perubahan yang paling penting dalam beberapa dekad.

Ini juga membuatkan ramai orang dalam industri berasa tidak selesa. Mereka bimbang penyelidikan yang mereka lakukan melepaskan beberapa jenis bahaya kepada dunia luar.

Kerana AI generatif mungkin sudah menjadi alat untuk menjana maklumat salah. Dan pada satu ketika pada masa hadapan, ia mungkin menimbulkan ancaman kepada manusia.

Pada pandangan Hinton, kami masih belum menemui cara untuk menghalang orang jahat daripada menggunakannya untuk melakukan perkara yang tidak baik.

Selepas Hinton meletak jawatan, di tengah-tengah gelombang pembangkang yang bising, Hinton, bapa baptis kecerdasan buatan, tidak menandatangani dua surat terbuka yang menyekat pembangunan AI.

Dia berkata bahawa dia tidak mahu mengkritik Google atau syarikat lain secara terbuka sebelum meletakkan jawatannya.

Hinton mengambil masa sehingga bulan lepas untuk akhirnya membuat keputusan dan memberitahu Google bahawa dia akan meletakkan jawatan.

Selepas memilih untuk meninggalkan Google, Hinton akhirnya boleh bercakap secara bebas tentang risiko AI.

Saya amat menyesali kerja hidup saya.

Saya hanya boleh menghiburkan diri saya dengan cara ini: Walaupun tiada saya, akan ada orang lain.

Atas ialah kandungan terperinci Bengio, Godfather AI: Saya berasa kehilangan, dan bimbang tentang AI telah menjadi "geseran dalaman mental"!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!