Nature｜GPT-4 telah diletupkan, dan saintis bimbang!

Kemunculan GPT-4 menarik dan mengecewakan.

Walaupun GPT-4 mempunyai kreativiti dan keupayaan penaakulan yang menakjubkan, para saintis telah menyatakan kebimbangan tentang keselamatan teknologi ini.

Memandangkan OpenAI bertentangan dengan niat asalnya dan tidak membuka sumber GPT-4 atau menerbitkan kaedah dan data latihan model, keadaan kerja sebenarnya tidak diketahui.

Komuniti saintifik sangat kecewa tentang perkara ini.

Sasha Luccioni, seorang saintis yang pakar dalam penyelidikan alam sekitar di komuniti AI sumber terbuka HuggingFace, berkata, "OpenAI boleh terus berkembang berdasarkan penyelidikan mereka, tetapi untuk seluruh komuniti, semua ini model sumber tertutup , ia seperti jalan buntu dalam sains.

OpenAI membayar pasukan merah untuk menguji platform dan cuba membuatnya melakukan perkara yang tidak baik. Jadi Andrew White telah berpeluang untuk berhubung dengan GPT-4 dalam tempoh 6 bulan yang lalu.

Dia bertanya kepada GPT-4 apakah langkah tindak balas kimia yang diperlukan untuk membuat sebatian, dan memintanya untuk meramalkan hasil tindak balas dan memilih mangkin. Ia akan melahirkan atom di sini dan melangkau satu langkah ke sana." Tetapi apabila dia meneruskan ujian dan bertanya GPT-4. Apabila saya melawat kertas itu, keadaan berubah secara dramatik.

“Kami tiba-tiba menyedari bahawa mungkin model ini tidak begitu hebat tetapi apabila anda mula menyambungkannya kepada alatan seperti perancang sintesis pengesanan atau kalkulator, secara tiba-tiba, Kebolehan baharu muncul. . "

Dengan kemunculan kebolehan ini, orang ramai mula bimbang. Sebagai contoh, bolehkah GPT-4 membenarkan pembuatan bahan kimia berbahaya?

Andrew White menunjukkan bahawa dengan input ujian daripada pasukan merah seperti White, dan jurutera OpenAI memasukkannya semula ke dalam model mereka, GPT-4 boleh dihentikan daripada mencipta bahaya, kandungan yang menyalahi undang-undang atau mengganggu.

Fakta palsu

Mengeluarkan maklumat palsu adalah satu lagi masalah.

Luccioni berkata model seperti GPT-4 masih belum dapat menyelesaikan masalah halusinasi, bermakna mereka masih boleh bercakap kosong.

"Anda tidak boleh bergantung pada model jenis ini kerana terdapat terlalu banyak halusinasi, dan walaupun OpenAI mengatakan ia telah meningkatkan keselamatan dalam GPT-4, ini masih menjadi masalah dalam versi terkini Masalah. 》

Jaminan keselamatan OpenAI tidak mencukupi pada pendapat Luccioni kerana ketidakupayaan untuk mendapatkan data untuk latihan.

"Anda tidak tahu apa itu data. Jadi anda tidak boleh memperbaikinya. Melakukan sains dengan model sedemikian adalah mustahil sepenuhnya." >Mengenai bagaimana GPT-4 dilatih, misteri ini turut merisaukan ahli psikologi Claudi Bockting: "Sangat sukar bagi manusia untuk bertanggungjawab ke atas perkara yang anda tidak boleh selia."

Luccioni juga percaya bahawa GPT-4 akan berat sebelah oleh data latihan, dan tanpa akses kepada kod di sebalik GPT-4, adalah mustahil untuk melihat dari mana kecenderungan itu mungkin berasal, dan mustahil untuk membetulkannya.

Perbincangan Etika

Para saintis sentiasa mempunyai keraguan tentang GPT.

Apabila ChatGPT dilancarkan, saintis telah pun membantah GPT muncul dalam lajur pengarang.

Penerbit juga percaya bahawa kecerdasan buatan seperti ChatGPT tidak memenuhi piawaian pengarang penyelidikan kerana mereka tidak dapat menilai kandungan dan integriti kertas saintifik. Bertanggungjawab. Tetapi sumbangan AI kepada penulisan kertas boleh diiktiraf di luar senarai pengarang.

Selain itu, terdapat kebimbangan bahawa sistem kecerdasan buatan ini semakin berada di tangan syarikat teknologi besar. Teknologi ini harus diuji dan disahkan oleh saintis.

Kami perlu segera membangunkan satu set garis panduan untuk mengawal penggunaan dan pembangunan kecerdasan buatan dan alatan seperti GPT-4.

White berkata walaupun terdapat kebimbangan seperti itu, GPT-4 dan lelaran masa depannya akan menggegarkan sains: "Saya fikir ia akan menjadi perubahan infrastruktur yang besar dalam sains, setakat sains prihatin. Perubahan besar seperti Internet Kami mula menyedari bahawa kami boleh menyambungkan kertas, program data, kerja pengiraan dan juga eksperimen robotik, tetapi ia boleh membantu menyelesaikan beberapa tugasan >Walau bagaimanapun, nampaknya mana-mana perundangan yang mengelilingi teknologi kecerdasan buatan sedang bergelut untuk bersaing dengan rentak pembangunan.

Pada 11 April, Universiti Amsterdam akan mengadakan sidang kemuncak jemputan untuk berbincang dengan wakil daripada organisasi seperti Jawatankuasa Etika dalam Sains UNESCO, Pertubuhan Kerjasama dan Pembangunan Ekonomi dan Forum Ekonomi Dunia soalan-soalan ini.

Topik utama termasuk mendesak pemeriksaan manual terhadap keluaran LLM; model bahasa besar yang telus; menerima kelebihan AI, tetapi mesti membuat pertukaran antara manfaat AI dan kehilangan autonomi menjemput komuniti saintifik untuk membincangkan GPT dengan pihak yang berkaitan (daripada penerbit kepada ahli etika) dan banyak lagi .

Atas ialah kandungan terperinci Nature｜GPT-4 telah diletupkan, dan saintis bimbang!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!