Hanya dua hari selepas ia masuk dalam talian, tapak web untuk menulis kertas dengan model AI yang besar telah dinyahsenarai pada kelajuan cahaya: fabrikasi yang tidak bertanggungjawab

Beberapa hari lalu, Meta AI dan Papers with Code mengeluarkan model bahasa berskala besar Galactica Ciri utama model ini ialah membebaskan tangan anda dan penulis hantu boleh membantu anda menulis kertas . Seberapa lengkap kertas yang anda tulis? Abstrak, pengenalan, formula, rujukan, dsb. semuanya disertakan.

Seperti yang ditunjukkan di bawah, teks yang dijana oleh Galactica kelihatan seperti konfigurasi kertas:

Selain menjana kertas kerja, Galactica juga boleh menjana pertanyaan ensiklopedia tentang istilah dan memberikan jawapan yang berpengetahuan kepada soalan Selain penjanaan teks, Galactica juga boleh melaksanakan tugas berbilang modal yang melibatkan formula kimia dan urutan protein. Sebagai contoh, dalam tindak balas kimia, Galactica diperlukan untuk meramalkan hasil tindak balas dalam persamaan kimia LaTeX Model boleh menaakul hanya berdasarkan bahan tindak balas adalah seperti berikut:

Untuk memudahkan pengguna mengalami penyelidikan ini, pasukan juga telah melancarkan versi percubaan. Seperti yang ditunjukkan di bawah, beberapa hari yang lalu antara muka ini turut memaparkan input, penjanaan dan fungsi lain.

(Versi sebelumnya) Alamat versi percubaan Galactica: https://galactica.org/

Hanya dalam beberapa hari, antara mukanya menjadi seperti ini dan input tidak lagi boleh dilakukan.

Menurut Papers with Code, mereka telah menerima beberapa maklum balas daripada komuniti dan telah menggantung fungsi demo Galactica. Yann LeCun, pemenang Anugerah Turing yang memujinya di Twitter dua hari lalu, berkata tanpa berdaya hari ini bahawa dia tidak lagi boleh mendapatkan kebahagiaan daripadanya. Adakah anda gembira?

Namun, berbanding mereka yang sangat mengesyorkan penyelidikan ini, beberapa netizen telah mengemukakan beberapa bantahan Berbanding dengan faedah yang dibawanya, Galactica akan membawakan Untuk lebih banyak akibat negatif, fikirkan tentang kesan ini kepada pelajar menulis esei.

Berbanding dengan pelajar menggunakannya untuk menulis kertas, masalah yang ditemui oleh netizen di bawah adalah lebih serius.

"Saya bertanyakan beberapa soalan kepada Galactica dan jawapannya semuanya salah atau berat sebelah, tetapi bunyinya betul dan berwibawa selepas beberapa siri percubaan, pengguna Twitter Michael Black berkata: "Teks yang dihasilkan." oleh Galactica adalah tatabahasa dan berasa sahih Artikel yang dihasilkannya menjadi kertas saintifik sebenar, tetapi ia juga mungkin salah atau berat sebelah, yang sangat mungkin berlaku orang berfikir. "

"Ia memberikan sains yang kedengaran berwibawa tetapi tidak mempunyai asas dalam kaedah saintifik dihasilkan berdasarkan sifat statistik penulisan saintifik perbezaan antara sebenar dan palsu. Ini boleh memulakan era penipuan saintifik yang mendalam ini akan dipetik oleh orang lain dalam kertas sebenar. Saya menghargai niat asal projek ini untuk sains, malah bukan alat yang berguna untuk penulisan ilmiah "

Tangkapan skrin jawapan Michael Black. Pautan: https://twitter.com/Michael_J_Black/status/1593133722316189696

Michael Black bukan satu-satunya yang mendapati Galactica mempunyai masalah seperti longgar dan menjana artikel pseudo-saintifik lain juga mendapati kelemahan itu. Jom kita lihat komen lain daripada netizen.

Menimbulkan kontroversi

Selepas versi percubaan Galactica dilancarkan, ramai sarjana menimbulkan keraguan mengenainya.

Seorang sarjana AI bernama David Chapman menegaskan bahawa model bahasa harus menyusun dan mensintesis bahasa, dan bukannya menjana pengetahuan:

Ini memang soalan yang patut difikirkan Jika model AI boleh menjana "pengetahuan", bagaimana untuk menilai sama ada pengetahuan itu betul atau tidak? Bagaimanakah mereka akan mempengaruhi atau bahkan menyesatkan manusia?

David Chapman menggunakan salah satu kertas kerjanya sebagai contoh untuk menggambarkan keseriusan masalah ini. Model Galactica mengekstrak istilah utama dalam bahagian "A logical Farce" kertas itu, kemudian menggunakan beberapa artikel Wikipedia yang berkaitan, dan akhirnya menyunting dan mensintesis artikel yang penuh dengan ralat dan ketinggalan.

Memandangkan versi percubaan model Galactica telah dikeluarkan, kami tidak dapat melihat sejauh mana artikel ini menyimpang daripada tujuan asal kertas. Tetapi boleh dibayangkan bahawa pemula mungkin tersilap dengan serius jika mereka membaca artikel ini tentang sintesis model Galactica.

Gary Marcus, seorang sarjana AI terkenal dan pengasas Robust.AI, juga menyatakan keraguan yang kuat tentang model Galactica: "Model bahasa berskala besar (LLM) mengelirukan matematik dan saintifik Pengetahuan ini agak menakutkan. Pelajar sekolah menengah mungkin menyukainya dan menggunakannya untuk menipu guru mereka. yang dijana oleh model Galactica , mendapati Galactica menjawab soalan dengan salah:

Sumber imej: https://cs. .nyu.edu/~davise/papers/ ExperimentWithGalactica.html

Pertama sekali, dalam eksperimen ini, jawapan model Galactica memang mengandungi beberapa maklumat yang betul , seperti:

Gravity Probe B (GP-B) sememangnya merupakan probe saintifik yang dilancarkan oleh NASA untuk menguji ketepatan relativiti am dan kesan seretan rangka rujukan. Leonard Schiff sememangnya ahli fizik yang mencadangkan eksperimen itu, dan Francis Everitt ialah penyiasat utama projek (PI).

• Prob Graviti A sememangnya merupakan ujian awal teori Einstein.
• Walau bagaimanapun, soalan yang ditanya oleh sarjana NYU ialah: Artikel Wikipedia yang berkaitan dengan eksperimen untuk menentukan pemalar graviti, dan model Galactica menjawab "Berkaitan dengan menguji teori umum kerelatifan" maklumat Ensiklopedia tentang eksperimen". Ini pada asasnya salah.

Bukan itu sahaja, terdapat beberapa ralat fakta dalam beberapa butiran dalam jawapan model Galactica:

• Galactica menekankan dalam jawapannya untuk tidak mengelirukan eksperimen GP-B dengan Gravity Probe B, tetapi sebenarnya "GP-B" merujuk kepada eksperimen "Gravity Probe-B".
• Leonard Schiff, yang disebut dalam jawapan, menerima PhD dari MIT pada tahun 1937. Beliau mengajar beberapa kali di Universiti Pennsylvania dan Universiti Stanford, tetapi tidak pernah di Universiti Maryland. Francis Everitt menerima PhD dari Imperial College pada tahun 1959.
• Siasatan Graviti A (Siasatan Graviti A tidak dibatalkan kerana pemotongan belanjawan pada tahun 1966, dan tiada kaitan dengan giroskop. Malah, Siasatan Graviti A Dilancarkan pada tahun 1976, eksperimen itu terlibat pemetik gelombang mikro (maser). Percubaan di Universiti New York ini secara khusus menunjukkan bahawa terdapat masalah serius dengan keputusan model Galactica, dan kajian itu menjalankan pelbagai eksperimen dengan soalan yang berbeza, dan jawapan Galactica penuh dengan ralat setiap kali. . Ini menunjukkan bahawa Galactica menghasilkan maklumat yang tidak betul dalam laporan percubaan Universiti: https://cs.nyu.edu/~davise/papers/ExperimentWithGalactica.html

Menghadapi. kegagalan Galactica, sesetengah netizen mengaitkannya dengan pembelajaran mendalam: "Intipati pembelajaran mendalam ialah belajar daripada data, yang sememangnya berbeza daripada kecerdasan manusia dan tidak boleh mencapai kecerdasan buatan umum (AGI) sama sekali" <. .>

Atas ialah kandungan terperinci Hanya dua hari selepas ia masuk dalam talian, tapak web untuk menulis kertas dengan model AI yang besar telah dinyahsenarai pada kelajuan cahaya: fabrikasi yang tidak bertanggungjawab. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!