Alat pengesanan baharu yang boleh mengenal pasti teks saintifik yang dihasilkan oleh AI dikeluarkan, mendakwa kadar ketepatan lebih 99%

Berita Rumah IT pada 8 Jun: Awal tahun ini, Som Biswas, ahli radiologi di Pusat Sains Kesihatan Tennessee di Amerika Syarikat, menarik perhatian kerana dia menerbitkan artikel dalam majalah "Radiologi" yang dikuasakan oleh chatbot kecerdasan buatan ChatGPT . Membantu menulis artikel bertajuk "ChatGPT dan Masa Depan Penulisan Perubatan." Beliau menyatakan penggunaan dan pengubahsuaian teks yang dihasilkan oleh ChatGPT dalam usaha untuk meningkatkan kesedaran tentang kegunaan teknologi tersebut. Menurutnya, beliau menerbitkan 16 artikel jurnal menggunakan ChatGPT dalam tempoh empat bulan akan datang. Sesetengah editor jurnal melaporkan bahawa mereka menerima sejumlah besar artikel yang dikarang oleh ChatGPT.

Untuk menangani situasi ini, Heather Desaire, seorang profesor kimia di Universiti Kansas, dan pasukannya membangunkan alat pengesanan AI baharu yang boleh membezakan dengan cekap dan tepat sama ada teks saintifik dihasilkan oleh manusia atau hasil penyelidikan ChatGPT mereka telah diterbitkan Dalam jurnal Cell Reports Physical Science.

Profesor Desaire berkata beliau dan pasukannya menganalisis 64 artikel "Perspektif" pertama kali dalam jurnal Science, yang merupakan artikel ulasan yang menyemak dan menilai penyelidikan semasa. Seterusnya, mereka menganalisis 128 artikel yang dihasilkan oleh ChatGPT mengenai topik penyelidikan yang sama. Mereka membandingkan kedua-duanya dan menemui 20 ciri yang boleh digunakan untuk menentukan identiti pengarang teks saintifik.

Mereka mendapati bahawa saintis manusia dan ChatGPT berbeza dengan ketara dalam kerumitan perenggan, panjang ayat, tanda baca dan penggunaan perbendaharaan kata. Berbanding dengan simbol seperti kurungan, sengkang, tanda soal, koma bernoktah dan huruf besar, ChatGPT menggunakannya lebih jarang, manakala saintis manusia lebih banyak menggunakannya. Para saintis manusia lebih cenderung menggunakan bahasa yang tidak jelas seperti "bagaimanapun," "walaupun," "tetapi," dsb. ChatGPT cenderung mempunyai taburan panjang ayat yang agak sekata, manakala saintis manusia mungkin menggunakan kedua-dua ayat pendek dan panjang dalam penulisan mereka..

Berdasarkan 20 ciri ini, mereka menggunakan algoritma pembelajaran mesin siap sedia XGBoost untuk melatih alat pengesanan AI mereka. Mereka menguji prestasi alat pengesanan AI mereka pada 180 artikel dan mendapati ia sangat baik dalam menilai Sama ada ini. artikel saintifik ditulis oleh manusia atau ChatGPT. "Kaedah ini mempunyai ketepatan lebih 99%," kata Profesor Desaire, sambil menambah bahawa ia jauh lebih baik daripada alat sedia ada yang dilatih pada julat jenis teks yang lebih luas dan bukannya khusus Untuk teks saintifik.

Profesor Desaire berkata bahawa alat pengesanan AI ini boleh membantu editor jurnal menangani sejumlah besar artikel yang ditulis menggunakan ChatGPT, membolehkan mereka mengutamakan artikel yang layak disemak. Beliau menambah bahawa alat itu boleh disesuaikan untuk bidang yang berbeza, seperti mengesan plagiarisme dalam kalangan pelajar, asalkan ia dilatih menggunakan bahasa yang sesuai. Sebaik sahaja anda mengenal pasti ciri berguna, anda boleh menyesuaikannya untuk mana-mana domain yang anda inginkan. ”

IT House menyedari bahawa tidak semua orang berpendapat alat pengesanan AI ini sangat berguna. Dr Vitomir Kovanović dari Pusat Pembelajaran Perubahan dan Kerumitan (C3L) di Universiti Australia Selatan berkata perbandingan yang dibuat oleh Profesor Desaire dan pasukannya adalah tidak realistik kerana mereka hanya membandingkan 100% teks yang dijana AI dan 100% yang dihasilkan manusia tanpa mengambil mengambil kira kerjasama antara manusia dan AI. Beliau berkata bahawa apabila saintis menggunakan ChatGPT, selalunya terdapat beberapa tahap kerjasama manusia-mesin, seperti saintis mengedit teks yang dijana AI. Ayat yang ditulis semula: Ini adalah perlu kerana ChatGPT kadang-kadang boleh membuat ralat dan juga menjana rujukan palsu. Tetapi kerana penyelidik hanya membandingkan dua kes ekstrem, kadar kejayaan mereka telah bertambah baik.

Dr. Lingqiao Liu dari Institut Pembelajaran Mesin Universiti Adelaide juga percaya bahawa dalam dunia nyata, ketepatan alat pengesanan AI tersebut mungkin berkurangan, yang membawa kepada lebih banyak salah klasifikasi. Dr. Liu, pakar dalam membangunkan algoritma untuk mengesan imej yang dijana AI, berkata: "Secara metodologi, ini baik, tetapi terdapat risiko tertentu dalam menggunakannya

Sebaliknya, Dr. Liu menyatakan bahawa orang ramai juga boleh mengarahkan ChatGPT untuk menulis dengan cara tertentu, membolehkan 100% teks bertulis AI melepasi pengesanan. Malah, beberapa pengulas pernah bercakap tentang "perlumbaan senjata," merujuk kepada persaingan antara mereka yang cuba menjadikan mesin lebih seperti manusia dan mereka yang ingin mendedahkan mereka yang menggunakan teknologi untuk tujuan jahat.

Dr. Kovanović percaya persaingan adalah sia-sia kerana momentum dan potensi kesan positif teknologi ini. Beliau mencadangkan bahawa pengesanan AI masih belum mencapai tahap kritikal, jadi kita harus melaburkan tenaga kita untuk menggunakan AI dengan lebih baik. Beliau menentang penggunaan perisian anti-plagiarisme untuk mengukur sama ada pelajar kolej menggunakan AI dalam penulisan mereka, dengan alasan ia akan memberi tekanan yang tidak perlu kepada pelajar.

Atas ialah kandungan terperinci Alat pengesanan baharu yang boleh mengenal pasti teks saintifik yang dihasilkan oleh AI dikeluarkan, mendakwa kadar ketepatan lebih 99%. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!