Alat pengesanan penulisan kecerdasan buatan tidak boleh dipercayai, dan Perlembagaan A.S. dianggap telah ditulis oleh robot

Berita 16 Julai, baru-baru ini beberapa netizen mendapati bahawa jika dokumen undang-undang terpenting Amerika Syarikat, Perlembagaan Amerika Syarikat, dimasukkan ke dalam beberapa alat yang direka khusus untuk mengesan penulisan kecerdasan buatan, hasil yang mengejutkan akan diperoleh: United Perlembagaan Negeri hampir Ia mesti ditulis oleh kecerdasan buatan. Melainkan James Madison seorang pengembara masa, ini jelas mustahil. Jadi mengapa alat pengesanan AI ini membuat ralat sedemikian? Media asing Arstechnica menemu bual beberapa pakar dan pembangun alat pengesan AI GPTZero untuk mendedahkan sebabnya.

Dalam bidang pendidikan, penulisan kecerdasan buatan telah menimbulkan banyak kontroversi. Guru telah lama menggunakan kaedah pengajaran tradisional, menggunakan esei sebagai alat untuk menilai penguasaan pelajar terhadap sesuatu mata pelajaran. Bukti setakat ini menunjukkan bahawa ramai guru yang bergantung pada alatan AI untuk mengesan tulisan yang dijana AI didapati tidak boleh dipercayai. Disebabkan kehadiran positif palsu, alat pengesan AI seperti GPTZero, ZeroGPT dan pengelas teks OpenAI tidak boleh dipercayai dan tidak boleh digunakan untuk menentukan sama ada artikel dijana oleh model bahasa besar (LLM).

Apabila anda memasukkan sebahagian daripada Perlembagaan A.S. ke dalam GPTZero, GPTZero berkata teks itu "mungkin ditulis sepenuhnya oleh AI." Dalam tempoh enam bulan lalu, tangkapan skrin dengan hasil yang serupa telah tersebar secara meluas di media sosial melalui alat pengesanan AI yang lain. Malah, perkara yang sama berlaku jika anda memasukkan sesuatu daripada Bible. Untuk memahami sebab alatan ini membuat kesilapan yang jelas, kita perlu memahami cara ia berfungsi terlebih dahulu.

Menurut IT House, pengesan penulisan kecerdasan buatan yang berbeza menggunakan kaedah pengesanan yang sedikit berbeza, tetapi prinsip asasnya adalah serupa: melalui model kecerdasan buatan, berdasarkan sejumlah besar teks (termasuk berjuta-juta contoh penulisan) dan satu set andaian telah dilatih tentang peraturan yang digunakan untuk menentukan sama ada tulisan lebih berkemungkinan dihasilkan oleh manusia atau AI.

Sebagai contoh, di tengah-tengah GPTZero ialah rangkaian saraf yang dilatih mengenai "korpus besar, pelbagai tulisan manusia dan teks yang dijana AI, dengan tumpuan pada prosa Inggeris." Seterusnya, Sistem menggunakan atribut seperti "kebingungan" dan "kecemasan" untuk menilai teks dan mengklasifikasikannya.

Dalam pembelajaran mesin, kebingungan ialah ukuran sisihan antara sekeping teks dan perkara yang dipelajari oleh model kecerdasan buatan semasa latihan. Idea di sebalik mengukur kebingungan ialah apabila model AI menulis, mereka secara semula jadi memilih kandungan yang paling mereka kenali daripada data latihan mereka. Semakin dekat output dengan data latihan, semakin rendah kebingungan. Manusia adalah penulis yang lebih mengelirukan, dan manusia juga boleh menulis dengan kekeliruan yang rendah, terutamanya apabila meniru gaya formal yang digunakan dalam undang-undang atau jenis penulisan akademik tertentu. Dan, kebanyakan frasa yang kami gunakan adalah perkara biasa yang menghairankan.

Sebagai contoh, mari cuba teka perkataan seterusnya dalam ayat ini: "Saya mahu secawan _____". ” Kebanyakan orang akan mengisi tempat kosong dengan “air,” “kopi,” atau “teh.” Model bahasa yang dilatih pada sejumlah besar teks bahasa Inggeris akan melakukan perkara yang sama, kerana frasa ini kerap muncul dalam tulisan Inggeris, seperti yang ditunjukkan dalam hasil ini. Sama ada satu akan mempunyai tahap kebingungan yang rendah

Satu lagi sifat teks yang GPTZero ukur ialah "meletup", yang merujuk kepada fenomena perkataan atau frasa tertentu yang muncul berturut-turut atau "meletup" dalam teks. kecemasan menilai kebolehubahan panjang dan struktur ayat di seluruh teks Penulis manusia sering mempamerkan gaya penulisan yang dinamik, menghasilkan teks dengan panjang dan struktur ayat yang berubah-ubah, manakala teks yang dihasilkan oleh AI cenderung lebih konsisten dan Seragam bukan metrik yang tidak mudah untuk mengesan kandungan yang dijana oleh AI, seperti kebingungan, terdapat pengecualian apabila penulis manusia mungkin menulis dalam gaya yang sangat berstruktur dan konsisten, yang menghasilkan skor yang lebih tinggi, sebaliknya, model AI boleh dilatih untuk meniru lebih ramai manusia. seperti kebolehubahan dalam panjang dan struktur ayat, dengan itu meningkatkan skor kecemasan mereka Malah, apabila model bahasa AI bertambah baik, penyelidikan menunjukkan bahawa mereka meningkatkan penulisan mereka

.

Atas ialah kandungan terperinci Alat pengesanan penulisan kecerdasan buatan tidak boleh dipercayai, dan Perlembagaan A.S. dianggap telah ditulis oleh robot. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!