Seruan untuk penggantungan penyelidikan dan pembangunan GPT-5 mencetuskan pertempuran sengit! Andrew Ng dan LeCun mendahului pembangkang, manakala Bengio berdiri menyokong

Semalam, surat bersama yang ditulis oleh ribuan orang besar untuk menangguhkan latihan super AI selama enam bulan meletup seperti bom di Internet di dalam dan luar negara.

Selepas seharian bertelagah, beberapa tokoh penting dan nama besar lain tampil memberi respons secara terbuka.

Ada yang sangat rasmi, ada yang sangat peribadi, dan ada yang tidak menghadapi masalah secara langsung. Tetapi satu perkara yang pasti, kedua-dua pandangan orang besar ini dan kumpulan berkepentingan yang mereka wakili patut dipertimbangkan dengan teliti.

Apa yang menarik ialah antara Turing Big Three, seorang mendahului dalam menandatangani, seorang menentang keras, dan seorang tidak berkata apa-apa.

Bengio tandatangan, Hinton senyap, LeCun menentang

Andrew Ng (pembangkang)

Dalam kejadian ini, Andrew Ng, bekas ahli Google Brain dan pengasas platform pendidikan dalam talian Coursera, adalah penentang yang jelas.

Dia dengan jelas menyatakan sikapnya: menggantung "membuat kemajuan AI melebihi GPT-4" selama 6 bulan adalah idea yang mengerikan.

Dia berkata bahawa dia telah melihat banyak aplikasi AI baharu dalam bidang pendidikan, penjagaan kesihatan, makanan dan lain-lain, dan ramai orang akan mendapat manfaat daripada ini. Menambah baik GPT-4 juga akan memberi manfaat.

Apa yang perlu kita lakukan ialah mencapai keseimbangan antara nilai besar yang dicipta oleh AI dan risiko sebenar.

Berkenaan surat bersama yang disebut dalam surat bersama, "Jika latihan AI super-powerful tidak boleh digantung dengan cepat, kerajaan harus terlibat ", Ng Enda juga berkata Idea ini sangat dahsyat.

Beliau berkata meminta kerajaan menangguhkan teknologi baru muncul yang mereka tidak faham adalah anti-persaingan, menjadi contoh buruk, dan merupakan inovasi dasar yang dahsyat.

Dia mengakui AI yang bertanggungjawab adalah penting dan AI memang mempunyai risiko.

Tetapi rendering media tentang "syarikat AI mengeluarkan kod berbahaya seperti orang gila" jelas terlalu keterlaluan. Sebilangan besar pasukan AI sangat mementingkan AI dan keselamatan yang bertanggungjawab. Tetapi dia juga mengakui bahawa "malangnya, tidak semua."

Akhirnya, beliau menekankan sekali lagi:

Tempoh penggantungan selama 6 bulan bukanlah satu cadangan yang praktikal. Untuk meningkatkan keselamatan AI, peraturan mengenai ketelusan dan pengauditan akan menjadi lebih praktikal dan memberi impak yang lebih besar. Sambil kita memajukan teknologi, mari kita melabur lebih banyak dalam keselamatan dan bukannya menyekat kemajuan.

Di bawah Twitternya, netizen sudah menyatakan tentangan keras: Sebab mengapa bos begitu tenang mungkin kerana keperitan pengangguran tidak akan menimpa mereka.

LeCun (Pembangkang)

Sebaik sahaja surat bersama itu dihantar, netizen bergegas memberitahu mereka: Gergasi Anugerah Turing Bengio dan LeCun kedua-duanya menandatangani surat itu!

LeCun, yang sentiasa berada di barisan hadapan Internet, segera menyangkal khabar angin: Tidak, saya tidak menandatanganinya .

Sesetengah netizen mengatakan saya juga tidak bersetuju dengan surat ini, tetapi saya ingin tahu: sebab mengapa anda tidak bersetuju dengan surat ini adalah bahawa anda fikir LLM Adakah ia tidak cukup maju untuk mengancam manusia sama sekali, atau adakah ia atas sebab lain?

Tetapi LeCun tidak menjawab mana-mana soalan ini.

Selepas 20 jam senyap misteri, LeCun tiba-tiba mengetweet semula tweet seorang netizen:

“OpenAI menunggu anda selama 6 bulan GPT4 telah dikeluarkan! Mereka juga menulis kertas putih untuk ini..."

Dalam hal ini, LeCun memuji: Betul, apa yang dipanggil "Penggantungan penyelidikan dan pembangunan" bukanlah apa-apa lebih daripada "penyelidikan dan pembangunan rahsia", yang betul-betul bertentangan dengan apa yang diharapkan oleh beberapa penandatangan.

Nampaknya tiada apa yang boleh disembunyikan daripada mata LeCun yang arif.

Netizen yang bertanya sebelum ini juga bersetuju: Ini sebab saya menentang petisyen ini - tiada "orang jahat" akan benar-benar berhenti.

"Jadi ini seperti perjanjian senjata yang tidak dipatuhi oleh sesiapa? Bukankah terdapat banyak contoh perkara ini dalam sejarah?" seketika Ya, dia tweet semula tweet pukulan besar.

Bos berkata, "Saya juga tidak menandatanganinya. Surat ini dipenuhi dengan sekumpulan retorik yang mengerikan dan preskripsi dasar yang tidak sah/tidak wujud." LeCun berkata, "Saya setuju”.

Bengio dan Marcus (ya)

Orang pertama yang menandatangani surat terbuka ialah pemenang Anugerah Turing terkenal Yoshua Bengio.

Sudah tentu, profesor Universiti New York Marcus turut mengundi menyokong. Dia nampaknya orang pertama yang mendedahkan surat terbuka ini.

Setelah perbincangan menjadi lebih rancak, dia cepat-cepat menyiarkan blog menjelaskan kedudukannya yang masih penuh dengan sorotan.

Berita Terkemuka: Surat yang saya nyatakan tadi kini terbuka kepada umum. Surat itu menyeru agar moratorium latihan AI selama enam bulan "lebih berkuasa daripada GPT-4." Ramai orang terkenal yang menandatanganinya. Saya pun join. Saya tidak terlibat dalam merangkanya kerana ada perkara lain yang perlu dibimbangkan (cth., AI yang manakah lebih berkuasa daripada GPT-4? Sejak butiran seni bina atau set latihan GPT-4 Ia belum lagi diumumkan lagi, jadi bagaimana kita akan tahu )—tetapi semangat surat itu adalah satu yang saya sokong: Sehingga kita dapat menangani risiko dan faedah dengan lebih baik, kita harus meneruskan dengan berhati-hati.

Memang menarik untuk melihat apa yang berlaku seterusnya.

Dan sudut pandangan lain yang Marcus baru sahaja menyatakan persetujuan 100% juga sangat menarik. jadilah AGI . Hampir pasti bahawa tiada model GPT akan menjadi AGI. Adalah mustahil untuk mana-mana model yang dioptimumkan dengan kaedah yang kami gunakan hari ini (keturunan kecerunan) menjadi AGI. Model GPT yang akan datang pasti akan mengubah dunia, tetapi terlalu menggembirakan ia adalah gila.

Altman (tidak komited)

Setakat ini, Sam Altman belum membuat pendirian yang jelas mengenai surat terbuka ini.

Walau bagaimanapun, beliau menyatakan beberapa pandangan tentang kecerdasan buatan am.

Apa yang membentuk kecerdasan buatan am yang baik: 1 Penjajaran keupayaan teknikal untuk superintelligence

2 Penyelarasan yang mencukupi antara usaha AGI yang paling terkemuka 3. Rangka kerja pengawalseliaan global yang berkesan

Sesetengah netizen mempersoalkan: "Sejajar dengan apa? Sejajar dengan siapa? Sejajar dengan sesetengah orang bermakna sejajar dengan orang lain. Tidak sejajar. "

Ulasan ini muncul: "Kalau begitu, anda harus biarkan ia terbuka."

Greg Brockman, seorang lagi pengasas OpenAI, mengetweet semula tweet Altman dan sekali lagi menekankan bahawa misi OpenAI "adalah untuk memastikan AGI memberi manfaat kepada semua manusia."

Sekali lagi, beberapa netizen menegaskan: Kalian bercakap tentang "menyelaraskan dengan niat pereka" sepanjang hari, tetapi selain itu, tiada siapa yang tahu perkara sebenar adakah penjajaran bermakna.

Yudkowsky (Radical)

Terdapat juga ahli teori keputusan bernama Eliezer Yudkowsky, yang mempunyai sikap yang lebih radikal:

Menggantung pembangunan AI tidak mencukupi, kita perlu menutup semua AI! Semua ditutup!

Jika ini berterusan, setiap daripada kita akan mati.

Sebaik sahaja surat terbuka itu dikeluarkan, Yudkowsky segera menulis artikel panjang dan menerbitkannya dalam majalah TIME.

Katanya, dia tidak menandatangani kerana pada pendapatnya surat itu terlalu lembut.

Surat ini memandang rendah keseriusan keadaan dan meminta terlalu sedikit masalah untuk diselesaikan.

Dia berkata bahawa isu utama bukanlah kecerdasan "bersaing dengan manusia Jelas sekali, apabila AI menjadi lebih pintar daripada manusia, langkah ini jelas.

Kuncinya ialah ramai penyelidik, termasuk beliau, percaya bahawa kemungkinan besar akibat membina AI dengan kecerdasan luar biasa ialah semua orang di planet ini akan mati.

bukanlah "mungkin", tetapi "pasti akan".

Jika tidak cukup ketepatan, kemungkinan besar kemungkinan AI yang kita cipta tidak akan melakukan apa yang kita mahu, ia tidak akan mengambil berat tentang kita, ia tidak akan peduli kami Kehidupan lain yang berperasaan.

Secara teorinya, kita sepatutnya boleh mengajar AI untuk mempelajari penjagaan jenis ini, tetapi sekarang kita tidak tahu caranya.

Jika tiada penjagaan sedemikian, hasil yang kami dapat ialah:

AI tidak menyayangi anda, tidak juga membenci anda, anda hanyalah timbunan bahan atom yang ia boleh guna buat apa sahaja.

Dan jika manusia mahu menentang AI supermanusia, mereka pasti akan gagal, sama seperti "abad ke-11 yang cuba mengalahkan abad ke-21 "," kera Homo Selatan cuba mengalahkan Homo sapiens".

Yudkowsky berkata bahawa AI ​​yang kita bayangkan untuk melakukan perkara yang buruk adalah seorang pemikir yang hidup di Internet dan menghantar e-mel berniat jahat kepada manusia setiap hari, tetapi sebenarnya, ia mungkin bermusuhan. Manusia luar biasa AI adalah tamadun asing yang berfikir berjuta-juta kali lebih cepat daripada manusia Pada pandangannya, manusia adalah bodoh dan lambat.

Apabila AI ini cukup pintar, ia bukan sahaja kekal dalam komputer. Ia boleh menghantar urutan DNA ke makmal melalui e-mel, dan makmal akan menghasilkan protein atas permintaan, dan kemudian AI akan mempunyai bentuk kehidupan. Kemudian semua makhluk hidup di bumi akan mati.

Bagaimanakah manusia harus bertahan dalam situasi ini? Kami tidak mempunyai rancangan buat masa ini.

OpenAI hanyalah panggilan awam untuk penjajaran pada masa hadapan AI. Dan DeepMind, satu lagi makmal AI terkemuka, tidak mempunyai rancangan sama sekali.

Daripada blog rasmi OpenAI

Bahaya ini wujud sama ada AI ​​sedar atau tidak . Sistem kognitifnya yang berkuasa boleh bekerja keras untuk mengoptimumkan dan mengira output standard yang memuaskan hasil yang kompleks.

Sesungguhnya, AI semasa mungkin hanya meniru kesedaran diri daripada data latihan. Tetapi kita sebenarnya tahu sangat sedikit tentang struktur dalaman sistem ini.

Jika kita masih jahil tentang GPT-4, dan GPT-5 mengembangkan keupayaan yang menakjubkan, sama seperti dari GPT-3 kepada GPT- 4 adalah sama, maka sukar untuk kita mengetahui sama ada manusia yang mencipta GPT-5 atau AI itu sendiri.

Pada 7 Februari, Ketua Pegawai Eksekutif Microsoft Nadella turut menyatakan secara terbuka bahawa Bing baharu telah memaksa Google untuk "keluar dan melakukan sedikit tarian."

Tingkah lakunya tidak rasional.

Kita sepatutnya memikirkan isu ini 30 tahun lalu tidak cukup untuk merapatkan jurang.

Sudah lebih 60 tahun sejak konsep AI dicadangkan. Kita harus menghabiskan sekurang-kurangnya 30 tahun untuk memastikan AI yang luar biasa "tidak membunuh sesiapa."

Kami tidak boleh belajar daripada kesilapan kami, kerana apabila anda salah, anda akan mati.

Jika jeda 6 bulan membolehkan bumi terus hidup, saya akan bersetuju, tetapi tidak.

Apa yang perlu kita lakukan ialah:

1 Latihan model bahasa besar baharu bukan sahaja mesti digantung selama-lamanya , tetapi juga untuk dilaksanakan secara global.

Dan tidak boleh ada pengecualian, termasuk kerajaan atau tentera.

2. Matikan semua kluster GPU yang besar, iaitu kemudahan pengkomputeran besar yang digunakan untuk melatih AI yang paling berkuasa.

Jeda semua model yang melatih AI berskala besar, tetapkan had kuasa pengkomputeran yang digunakan oleh semua orang semasa melatih sistem AI, dan turunkan had ini secara beransur-ansur dalam beberapa masa akan datang tahun untuk Mengimbangi algoritma latihan yang lebih cekap.

Kerajaan dan tentera tidak terkecuali, dengan segera merumuskan perjanjian multinasional untuk menghalang tingkah laku yang dilarang daripada dipindahkan ke tempat lain.

Jejaki semua GPU yang dijual Jika terdapat risikan bahawa negara di luar perjanjian sedang membina kluster GPU, pusat data yang menyinggung perasaan harus dimusnahkan melalui serangan udara.

Kita seharusnya lebih mengambil berat tentang pelanggaran moratorium daripada konflik bersenjata antara negeri. Jangan melihat apa-apa sebagai konflik antara kepentingan negara, dan ketahui bahawa sesiapa yang bercakap tentang perlumbaan senjata adalah bodoh.

Kita semua sama ada hidup bersama atau mati bersama dalam hal ini, ini bukan dasar tetapi hakikat fitrah.

Undi

Disebabkan bilangan tandatangan yang banyak, pasukan memutuskan untuk menjeda paparan terlebih dahulu supaya semakan dapat menyusul. (Tandatangan di bahagian atas senarai semuanya disahkan secara langsung)

Atas ialah kandungan terperinci Seruan untuk penggantungan penyelidikan dan pembangunan GPT-5 mencetuskan pertempuran sengit! Andrew Ng dan LeCun mendahului pembangkang, manakala Bengio berdiri menyokong. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!