Peraturan baharu Nature: Anda boleh menggunakan ChatGPT untuk menulis kertas kerja, tetapi tidak untuk disenaraikan sebagai pengarang

​Artikel ini dicetak semula dengan kebenaran AI New Media Qubit (ID akaun awam: QbitAI Sila hubungi sumber untuk mencetak semula).

Menghadapi ChatGPT, Alam akhirnya tidak boleh duduk diam.

Minggu ini, organisasi penerbitan akademik yang berwibawa ini memberikan respons kualitatif kepada beberapa siri isu seperti penulisan hantu artikel akademik ChatGPT dan disenaraikan sebagai pengarang.

Secara khusus, Nature menyenaraikan dua prinsip:

(1) Mana-mana alat model bahasa berskala besar (seperti ChatGPT) tidak boleh menjadi pengarang kertas ; > (2) Jika alatan yang berkaitan telah digunakan dalam penciptaan kertas kerja, pengarang hendaklah menyatakan dengan jelas
dalam "Kaedah" atau "Penghargaan" atau bahagian yang sesuai .

Keperluan di atas kini telah ditambahkan pada garis panduan penyerahan pengarang.

Sejak kebelakangan ini, ChatGPT semakin terlibat dalam kalangan akademik dan penyelidikan.

Pada Disember tahun lalu, ChatGPT disenaraikan sebagai karya dalam kertas kerja mengenai aplikasi anti-penuaan rapamycin, yang menyebabkan kontroversi dalam industri. Selain artikel ini, terdapat banyak kajian yang menyenaraikan ChatGPT sebagai pengarang.

Nature juga menyedari keadaan ini Satu tinjauan yang mereka lakukan pada bulan Disember menunjukkan bahawa 20% daripada 293 profesor yang ditemu bual telah menemui atau menyaksikan pelajar menggunakan ChatGPT untuk menyelesaikan tugasan atau kertas kerja.

Kenyataan yang dikeluarkan oleh Alam kali ini adalah tepat untuk menjelaskan pelbagai kontroversi.

Banyak kertas kerja telah menyenaraikan ChatGPT sebagai pengarang

ChatGPT telah dilancarkan oleh OpenAI pada penghujung November tahun lepas, dan prestasinya melepasi ketara bahasa besar sebelumnya (LLM) dengan cepat menjadi "Sky Monkey" No. 1 pada akhir tahun dan awal tahun.

Dalam bidang media baharu, filem dan televisyen, pembangunan perisian, interaksi permainan dan bidang lain, ChatGPT digunakan dengan pantas untuk membantu pengeluaran dan meningkatkan kecekapan.

Kalangan Xueyan tidak terkecuali.

Menurut statistik Nature, terdapat sekurang-kurangnya 4 kertas kerja menggunakan ChatGPT dan menyenaraikannya sebagai pengarang.

Salah satu pracetak telah diterbitkan pada pangkalan data pracetak perubatan medRxiv pada Disember 2022. Kertas kerja ini mengkaji prestasi ChatGPT pada Peperiksaan Pelesenan Perubatan Amerika Syarikat. Walaupun penyelidikan adalah mengenai ChatGPT, ChatGPT juga disenaraikan dalam ruangan pengarang.

Satu lagi kertas kerja diterbitkan dalam jurnal "Amalan Pendidikan Jururawat" tentang kebaikan dan keburukan platform kecerdasan buatan terbuka dalam pendidikan kejururawatan. Begitu juga, ChatGPT disenaraikan sebagai pengarang:

Kertas ketiga berasal dari Insilico Medicine, sebuah syarikat penyelidikan dan pembangunan ubat AI Ia adalah mengenai rapamycin ubat baharu dan diterbitkan dalam "Oncoscience". Begitu juga, ChatGPT disenaraikan sebagai pengarang.

Artikel keempat agak "lama" dan diterbitkan pada Jun 2022. Topik yang dibincangkan ialah-keupayaan AI menjana kertas kerja. AI yang disenaraikan dalam lajur pengarang bukanlah ChatGPT, tetapi GPT-3, yang dikeluarkan lebih awal.

Walaupun kandungan penyelidikan di atas agak berkaitan dengan model bahasa generatif, untuk aktiviti penyelidikan saintifik yang serius, gunakan "objek penyelidikan" untuk menulis kertas kerja dan menyenaraikannya sebagai Lajur pengarang, tidak dapat tidak. mencetuskan kontroversi dan keraguan.

Dan walaupun AI tidak disenaraikan sebagai pengarang, penggunaan ChatGPT menjadi semakin biasa dalam kalangan akademik dan penyelidikan.

Seperti yang dinyatakan sebelum ini, Alex Zhavoronkov, Ketua Pegawai Eksekutif Insilico Medicine, sebuah syarikat penyelidikan dan pembangunan ubat AI, mendedahkan bahawa institusinya telah menerbitkan lebih daripada 80 kertas kerja yang dihasilkan oleh alatan AI.

Profesor British Mike Sharples telah memberi perhatian kepada kesan AI generatif terhadap penyelidikan akademik. Tidak lama dahulu, dia secara peribadi menunjukkan di Twitter cara menggunakan model bahasa yang besar untuk menghasilkan kertas akademik dalam masa 10 minit Dia menerangkan langkah demi langkah bagaimana dia menggunakan AI untuk menjana ringkasan berdasarkan tajuk, yang juga mencetuskan banyak perbincangan. .

Lazimnya pelajar menggunakan ChatGPT untuk membantu menulis kertas, menjana kod dan menyiapkan tugasan Pada masa ini, institusi pendidikan di beberapa kawasan di Amerika Syarikat telah melarang penggunaan alat ini.

Baru minggu lepas, seorang pelajar di Northern Michigan University bergantung pada ChatGPT untuk menulis esei dengan markah tertinggi dalam kelas.

Menariknya, pelajar itu tertangkap kerana artikel yang dikemukakannya adalah logik yang koheren dan tersusun dengan baik sehinggakan pengajar hanya mengetahui kebenaran selepas menyoalnya.

△ Northern Michigan University

Adalah jelas bahawa tangkapan paket di atas adalah hanya secara tidak sengaja, dan lebih kerap daripada tidak, kandungan yang dijana telah menyukarkan saintis untuk membezakan antara keaslian dan fiksyen.

Artikel sebelumnya dalam Nature menunjukkan bahawa selepas keluaran ChatGPT, pasukan penyelidik di Northwestern University di Illinois sedang meneroka sama ada saintis dapat mengenali abstrak kertas perubatan yang dijana menggunakan alat AI ini.

Didapati bahawa semua ringkasan yang dijana AI melepasi pengesan plagiarisme, dan semasa semakan manual, 32% daripada ringkasan yang dijana AI dianggap telah dilengkapkan oleh manusia sebenar.

Sudah membangunkan alat pengenalan

Nasib Alam menunjukkan bahawa mereka sangat mementingkan masalah yang disebabkan oleh ChatGPT.

Dalam kandungan terbaharu, Nature menyatakan bahawa kalangan akademik dan penyelidik bimbang pelajar dan penyelidik mungkin menggunakan kandungan yang dihasilkan oleh model bahasa berskala besar sebagai teks yang ditulis sendiri Selain mengambil risiko, proses di atas juga Boleh menghasilkan kesimpulan kajian yang tidak boleh dipercayai.

Terutama untuk ChatGPT, pasukan Nature dan banyak penerbit serta platform percaya bahawa alat ini tidak boleh bertanggungjawab terhadap integriti dan kandungan kertas saintifik.

Salah satu bukti ialah media teknologi CNET telah mendedahkan dalam dua hari lalu bahawa 41 daripada 77 kandungan yang ditulis oleh AI platform mempunyai ralat Pada masa ini, platform telah membetulkannya dan menyatakan bahawa ia akan menggantung pengeluaran kandungan dengan cara ini.

Tepatnya berdasarkan kebimbangan mengenai situasi di atas bahawa Alam telah memperkenalkan peraturan yang berkaitan.

Bagaimanakah cara membezakan kandungan yang dijana AI?

Nature menyatakan bahawa output mentah ChatGPT semasa boleh ditemui melalui pemeriksaan yang teliti, terutamanya apabila ia melibatkan kerja saintifik tertentu, kandungannya mungkin mengandungi ralat yang paling mudah dan perkataan yang membosankan umum. Selain itu, Nature juga berkata bahawa mereka masih membangunkan teknologi pengecaman berkaitan.

Perlu dinyatakan bahawa alat pengenalan yang berkaitan juga telah dibangunkan.

Sebagai contoh, Pengesan Output GPT-2 OpenAI sendiri boleh mengenal pasti teks yang dijana AI dengan lebih tepat dengan memasukkan lebih daripada 50 aksara (token).

Contoh lain ialah Edward Tian, ​​​​seorang pelajar Princeton, yang juga membuat alat berkaitan GPTZero.

Walau bagaimanapun, tidak semua profesor dan guru universiti mempunyai sikap negatif terhadap alatan penjanaan AI.

Sebagai contoh, Ethan Mollick, seorang profesor di Wharton School of the University of Pennsylvania, pergi ke arah lain dan memerlukan pelajar menggunakan ChatGPT untuk menyelesaikan tugasan kelas, percaya bahawa ini merangkumi alatan teknologi baru muncul.

Seorang pekerja di medRxiv, sebuah platform penerbitan kertas, juga berkata bahawa ChatGPT bukanlah masalah baharu.

Dia percaya bahawa sebelum ini, penyelidik telah cuba menambah nama haiwan peliharaan dan watak fiksyen secara rahsia. Oleh itu, mereka percaya bahawa teras masalahnya ialah pemeriksaan perlu terus diperkukuh.

Akhir sekali, adakah anda telah menggunakan ChatGPT dalam penyelidikan saintifik anda?

Atas ialah kandungan terperinci Peraturan baharu Nature: Anda boleh menggunakan ChatGPT untuk menulis kertas kerja, tetapi tidak untuk disenaraikan sebagai pengarang. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!