Adakah boleh dipercayai untuk menggunakan ChatGPT untuk menulis kertas kerja? Sesetengah sarjana mencubanya: penuh dengan kelemahan, tetapi alat yang "baik" untuk suntikan air

Dengan keupayaan penciptaan teks yang hebat, ChatGPT secara langsung bercita-cita untuk menjadi model soal jawab terkuat di planet ini.

Tetapi AI yang berkuasa juga akan membawa beberapa kesan negatif, seperti serius menulis jawapan yang salah dalam komuniti Soal Jawab, membantu pelajar menulis kertas kerja, dsb.

Kertas kerja terbaru mengenai arXiv telah menarik perhatian industri Penyelidik dari Universiti Santiago de Compostela di Sepanyol memetik "Cabaran Kecerdasan Buatan dalam Penemuan Dadah" , Peluang dan Strategi. , apa yang istimewa tentang kertas kerja ini ialah penulis menggunakan ChatGPT untuk membantu dalam penulisan kertas kerja.

Pautan kertas: https://arxiv.org/abs/2212.08104

Pasukan pengarang adalah di Perenggan terakhir abstrak, "Nota daripada pengarang manusia," menyatakan bahawa kertas kerja ini dicipta untuk menguji sama ada keupayaan menulis ChatGPT (chatbot berdasarkan model bahasa GPT-3.5) boleh membantu penulis manusia sekeping pendapat.

Pengarang mereka bentuk arahan sebagai gesaan awal untuk penjanaan teks, dan kemudian menilai kandungan yang dijana secara automatik. Selepas semakan menyeluruh, penulis manusia sebenarnya menulis semula manuskrip dalam usaha untuk mengekalkan keseimbangan antara cadangan asal dan piawaian saintifik Artikel ini diakhiri dengan perbincangan tentang kelebihan dan batasan menggunakan kecerdasan buatan untuk mencapai matlamat ini.

Tetapi ada satu lagi persoalan, kenapa tiada ChatGPT dalam senarai pengarang? (Kepala anjing manual)

Cara menulis kertas

Artikel ini dihasilkan dengan bantuan ChatGPT, yang dikeluarkan pada 30 November , 2022 Sistem pemprosesan bahasa semula jadi yang dilatih oleh OpenAI menggunakan korpus teks yang besar, ia mampu menghasilkan teks yang menyerupai tulisan manusia berdasarkan input yang diberikan kepadanya.

Untuk artikel ini, input yang diberikan oleh pengarang manusia termasuk topik kertas kerja (Aplikasi Kecerdasan Buatan dalam Penemuan Dadah), bilangan bab yang perlu dipertimbangkan dan petua khusus untuk setiap bab dan arahan.

Teks yang dihasilkan oleh ChatGPT perlu disunting secara manual sebelum ia boleh digunakan sebagai versi terakhir untuk membetulkan dan memperkaya kandungan dan mengelakkan pertindihan dan ketidakkonsistenan; dan manusia juga perlu mengubah suai semua rujukan yang dicadangkan oleh kecerdasan buatan.

Versi akhir karya ini adalah hasil semakan berulang oleh pengarang manusia, dibantu oleh kecerdasan buatan, dan jumlah persamaan antara teks awal yang diperoleh terus daripada ChatGPT dan versi semasa daripada manuskrip Ia adalah: 4.3% sama, 13.3% perubahan kecil, dan 16.3% berkaitan. Dalam teks awal yang diperoleh terus daripada ChatGPT, bahagian rujukan yang betul adalah hanya 6%.

Versi asal yang dijana oleh ChatGPT, dan maklumat input yang digunakan untuk mencipta versi tersebut diliputi sebagai Maklumat Sokongan

dalam abstrak kertas Ilustrasi yang dihasilkan oleh DALL-E.

Kandungan kertas

Kertas ini merangkumi sejumlah 10 bahagian dan 56 rujukan, di mana bahagian 1-9 hanya mengandungi 1-2 perenggan, terutamanya menerangkan topik makalah " Kandungan yang berkaitan dengan "Cabaran, Peluang dan Strategi Kecerdasan Buatan dalam Penemuan Dadah"; bahagian kesepuluh terutamanya membincangkan "Pendapat pakar pengarang manusia mengenai alat penulisan saintifik berdasarkan ChatGPT dan AI"; hanya bahagian abstrak artikel mengandungi ilustrasi gambar.

Ringkasan

Kecerdasan buatan berpotensi untuk merevolusikan proses penemuan dadah, memberikan kecekapan, ketepatan dan kelajuan yang lebih baik. Walau bagaimanapun, kejayaan penerapan AI bergantung pada ketersediaan data berkualiti tinggi, pengendalian isu etika dan kesedaran tentang batasan kaedah berasaskan AI.

Artikel ini mengkaji faedah, cabaran dan kekurangan kecerdasan buatan dalam bidang ini dan mencadangkan strategi dan pendekatan yang mungkin untuk mengatasi halangan semasa.

Artikel ini juga membincangkan penggunaan penambahan data, kecerdasan buatan yang boleh dijelaskan, penyepaduan kecerdasan buatan dengan kaedah eksperimen tradisional, dan potensi kelebihan kecerdasan buatan dalam penyelidikan perubatan.

Secara keseluruhannya, ulasan ini menyerlahkan potensi kecerdasan buatan dalam penemuan dadah dan menyediakan penerokaan yang mendalam tentang cabaran dan peluang untuk merealisasikan potensinya dalam bidang ini .

Pendapat pakar daripada pengarang manusia tentang alat penulisan saintifik berdasarkan ChatGPT dan AI

ChatGPT ialah chatbot berdasarkan model bahasa GPT-3.5 , ia tidak direka untuk menjadi pembantu untuk menulis kertas saintifik, tetapi keupayaannya untuk terlibat dalam perbualan yang koheren dengan manusia dan memberikan maklumat baharu tentang pelbagai topik, serta keupayaannya untuk membetulkan atau bahkan menjana kod pengiraan, mengejutkan komuniti saintifik.

Oleh itu, kami memutuskan untuk menguji potensinya dan menyumbang untuk menulis ulasan ringkas tentang peranan algoritma kecerdasan buatan dalam penemuan dadah.

Sebagai pembantu untuk menulis kertas saintifik, ChatGPT mempunyai beberapa kelebihan, termasuk keupayaan untuk menjana dan mengoptimumkan teks dengan cepat, serta membantu pengguna menyelesaikan beberapa tugas, termasuk mengatur maklumat dan juga Situasi menghubungkan idea.

Walau bagaimanapun, alat ini sama sekali tidak sesuai untuk menjana kandungan baharu.

Selepas memasukkan arahan, manusia masih perlu mengubah suai teks yang dihasilkan oleh kecerdasan buatan, dan ia merupakan penyuntingan dan pembetulan berskala besar, termasuk menggantikan hampir semua Rujukan kerana rujukan yang disediakan oleh ChatGPT jelas tidak betul.

Ini juga merupakan masalah besar pada masa ini dengan ChatGPT Ia mempunyai perbezaan utama berbanding dengan alat pengkomputeran lain (seperti enjin carian), yang terutamanya menyediakan maklumat yang diperlukan.

Terdapat satu lagi masalah penting dengan menggunakan alat berasaskan kecerdasan buatan untuk bantuan menulis: ia telah dilatih pada 2021, jadi ia tidak termasuk maklumat terkini.

Hasil yang diberikan oleh eksperimen penulisan ini ialah: kita boleh mengatakan bahawa ChatGPT bukanlah alat yang berguna untuk menulis teks saintifik yang boleh dipercayai tanpa campur tangan manusia yang kuat.

CtGPT tidak mempunyai pengetahuan dan kepakaran yang diperlukan untuk menyampaikan konsep dan maklumat saintifik yang kompleks dengan tepat dan secukupnya.

Selain itu, bahasa dan gaya yang digunakan oleh ChatGPT mungkin tidak sesuai untuk penulisan akademik, dan untuk menghasilkan teks saintifik yang berkualiti tinggi, input dan ulasan manusia adalah penting.

Salah satu sebab utama kecerdasan buatan sebegini belum boleh digunakan untuk menghasilkan artikel saintifik ialah ia tidak mempunyai keupayaan untuk menilai keaslian dan kebolehpercayaan maklumat yang diproses teks yang dihasilkan oleh ChatGPT pastinya mengandungi maklumat palsu atau mengelirukan.

Perlu juga diambil perhatian bahawa penyemak mungkin mendapati sukar untuk membezakan antara artikel yang ditulis oleh manusia atau kecerdasan buatan ini.

Ini menjadikan proses semakan mesti teliti untuk mengelakkan penerbitan maklumat palsu atau mengelirukan.

Risiko sebenar ialah jurnal pemangsa mungkin mengeksploitasi pengeluaran artikel saintifik yang pantas untuk menghasilkan sejumlah besar kandungan yang berkualiti rendah dengan keuntungan dan bukannya komitmen terhadap kemajuan saintifik Mereka mungkin menggunakan kecerdasan buatan untuk menghasilkan artikel dengan cepat, membanjiri pasaran dengan penyelidikan yang tidak bermutu dan menjejaskan kredibiliti komuniti saintifik.

Salah satu bahaya terbesar ialah potensi penyebaran maklumat palsu dalam artikel saintifik, yang boleh membawa kepada penurunan nilai perusahaan saintifik itu sendiri, kehilangan kepercayaan terhadap ketepatan dan integriti penyelidikan saintifik, dan memberi kesan buruk kepada kemajuan sains.

Terdapat beberapa penyelesaian yang mungkin untuk mengurangkan risiko yang berkaitan dengan penggunaan kecerdasan buatan untuk menghasilkan artikel saintifik.

Satu penyelesaian ialah membangunkan algoritma kecerdasan buatan khusus untuk menghasilkan artikel saintifik. Algoritma ini boleh dilatih pada set data besar yang berkualiti tinggi, penyelidikan semakan rakan sebaya, yang akan membantu memastikan ketulenan maklumat yang mereka hasilkan.

Selain itu, algoritma ini boleh diprogramkan untuk membenderakan maklumat yang berpotensi bermasalah, seperti memetik sumber yang tidak boleh dipercayai, yang akan memaklumkan penyelidik tentang keperluan untuk semakan dan pengesahan lanjut.

Pendekatan lain ialah membangunkan sistem AI yang lebih mampu menilai kebenaran dan kebolehpercayaan maklumat yang mereka proses. Ini mungkin melibatkan latihan AI tentang set data besar artikel saintifik berkualiti tinggi, serta menggunakan teknik seperti pengesahan silang dan semakan rakan sebaya untuk memastikan AI menghasilkan keputusan yang tepat dan boleh dipercayai.

Satu lagi penyelesaian yang mungkin adalah untuk membangunkan garis panduan dan peraturan yang lebih ketat untuk penggunaan kecerdasan buatan dalam penyelidikan saintifik, termasuk memerlukan penyelidik mendedahkan penggunaan kecerdasan buatan dalam menghasilkan artikel mereka, dan melaksanakan prosedur semakan untuk memastikan kandungan yang dijana AI memenuhi piawaian kualiti dan ketepatan tertentu.

Selain itu, boleh termasuk keperluan untuk penyelidik menyemak dan mengesahkan ketepatan sebarang maklumat yang dijana oleh AI sebelum diterbitkan, serta penalti bagi mereka yang gagal berbuat demikian, pendidikan Pemahaman awam tentang batasan AI dan potensi bahaya bergantung pada AI untuk penyelidikan saintifik mungkin juga berguna, membantu mencegah penyebaran maklumat salah dan memastikan orang ramai lebih mampu membezakan antara sumber maklumat saintifik yang boleh dipercayai dan tidak boleh dipercayai.

Agensi pembiayaan dan institusi akademik boleh memainkan peranan dalam mempromosikan penggunaan AI yang bertanggungjawab dalam penyelidikan saintifik dengan menyediakan latihan dan sumber untuk membantu penyelidik memahami batasan teknologi.

Secara keseluruhannya, menangani risiko yang berkaitan dengan penggunaan kecerdasan buatan dalam penghasilan artikel saintifik akan memerlukan gabungan penyelesaian teknikal, rangka kerja kawal selia dan pendidikan awam.

Dengan melaksanakan langkah-langkah ini, kami dapat memastikan bahawa penggunaan AI dalam komuniti saintifik adalah bertanggungjawab dan berkesan. Penyelidik dan penggubal dasar mesti mempertimbangkan dengan teliti potensi bahaya menggunakan kecerdasan buatan dalam penyelidikan saintifik dan mengambil langkah untuk mengurangkan risiko ini.

Sehingga AI boleh dipercayai untuk menghasilkan maklumat yang boleh dipercayai dan tepat, penggunaannya dalam komuniti saintifik harus berhati-hati dan maklumat yang disediakan oleh alatan AI mesti dinilai dan disahkan dengan teliti menggunakan sumber yang boleh dipercayai.

Rujukan: https://arxiv.org/abs/2212.08104

Atas ialah kandungan terperinci Adakah boleh dipercayai untuk menggunakan ChatGPT untuk menulis kertas kerja? Sesetengah sarjana mencubanya: penuh dengan kelemahan, tetapi alat yang "baik" untuk suntikan air. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!