ChatGPT telah dilarang daripada memasuki sekolah AI akan mengubah peraturan khas LeCun: Bagaimana pula kita juga mengharamkan model kecil?

Jika anda ingin bertanya model mana yang paling popular dalam industri AI sejak kebelakangan ini, sembilan daripada sepuluh orang akan mengundi ChatGPT Tidak mungkin, model ini terlalu popular, hanya kerana ia boleh melakukan perkara Terlalu banyak. Ramai orang menyifatkan ia sebagai "pahlawan heksagon" sebenar: ia bukan sahaja boleh digunakan untuk bersembang, mencari dan menterjemah, tetapi ia juga boleh digunakan untuk menulis cerita, kod, nyahpepijat dan juga membangunkan permainan kecil dan mengambil kolej Amerika peperiksaan kemasukan... Sesetengah orang secara berseloroh mengatakan bahawa mulai dari itu Hanya akan ada dua jenis model kecerdasan buatan pada masa hadapan - ChatGPT dan lain-lain.

Dalam satu pihak, keupayaan ChatGPT sangat mengagumkan sehinggakan ia disukai oleh orang ramai Sebaliknya, ia juga sentiasa menghadapi masalah dan telah diharamkan oleh agensi yang berbeza. Beberapa ketika dahulu, terdapat berita bahawa Stack Overflow telah mengharamkan ChatGPT tanpa sebab lain. Pegawai tersebut menyatakan bahawa ChatGPT telah diharamkan buat sementara waktu kerana ketepatan jawapan yang dihasilkannya adalah terlalu rendah pengguna yang sedang mencari jawapan yang betul Memudaratkan.

Tidak lama selepas kejadian ini, persidangan kecerdasan buatan terkemuka juga mula melarang kertas akademik yang ditulis menggunakan alat ChatGPT dan AI. Mari lihat apa yang berlaku secara khusus.

ICML melarang penggunaan model bahasa besar untuk menulis makalah

Beberapa hari lalu, International Machine Learning Conference ICML mengumumkan bahawa ia melarang penggunaan model bahasa besar (LLM, seperti ChatGPT) untuk menjana kertas kerja, melainkan teks yang dihasilkan dibentangkan sebagai sebahagian daripada analisis percubaan tesis.

Alamat fail: https://icml.cc/Conferences/2023/llm-policy

Menurut ICML, walaupun model bahasa seperti ChatGPT mewakili trend pembangunan masa hadapan, ia diikuti oleh beberapa akibat yang tidak diingini dan masalah yang sukar diselesaikan. ICML berkata ChatGPT dilatih mengenai data awam, sering dikumpul tanpa kebenaran, dan siapa yang bertanggungjawab jika berlaku kesilapan.

Terdapat juga isu kepengarangan, siapa yang "menulis" kertas itu: mesin atau manusia? Ini amat penting memandangkan ICML hanya melarang teks yang dijana sepenuhnya oleh AI. Penganjur persidangan mengatakan mereka tidak melarang penggunaan alat seperti ChatGPT untuk mengedit atau menggilap teks yang ditulis oleh pengarang, dengan menyatakan bahawa ramai pengarang sudah menggunakan alat penyuntingan separa automatik seperti perisian pembetulan tatabahasa Grammarly untuk menggilap artikel mereka.

Namun, sebaik sahaja berita ini keluar, ia masih mencetuskan perbincangan besar di media sosial Yann LeCun memajukan dan mengulas: "Model bahasa besar tidak boleh digunakan, sangat sederhana dan kecil model bahasa Adakah ia masih boleh digunakan?” Sebastian Bubeck, ketua pasukan asas ML di Microsoft Research, memanggil peraturan itu "rabun" dan mempromosikannya secara khas: "ChatGPT dan variannya adalah sebahagian daripada pembangunan teknologi masa depan . Pengharaman pastinya bukan jawapan yang optimum."

ICML berkata , larangan terhadap teks yang dijana AI akan dinilai semula tahun depan.

Selalu ada pelbagai kebimbangan mengenai kesan berbahaya teks yang dijana kecerdasan buatan. Salah satu masalah yang paling biasa ialah output daripada sistem ini tidak boleh dipercayai.

Model AI dilatih untuk meramal perkataan seterusnya dalam mana-mana ayat tertentu, tetapi mereka tidak mempunyai pangkalan data "fakta" berkod keras untuk diambil, jadi hasil model yang dihasilkan selalunya Keadaan paradoks. Banyak kali, ayat yang dihasilkan menepati logik tatabahasa tetapi tidak menepati realiti objektif.

Terdapat satu lagi masalah yang juga sangat sukar - sukar untuk membezakan sama ada teks itu "digilap dan disunting" oleh AI atau dijana sepenuhnya oleh AI. Masalah ini sangat serius untuk kertas Jika penulis menggunakan model AI untuk menghasilkan ringkasan ringkas berdasarkan kertas, adakah ini mengedit teks atau menjana teks dari awal?

Sudah tentu, menggunakan alatan AI seperti ChatGPT bukanlah satu-satunya kelemahan. Contohnya, dalam semakan rakan sebaya, ungkapan bahasa Inggeris yang fasih cenderung menerima penilaian yang lebih tinggi, dan model AI boleh membantu pengarang kertas bukan berbahasa Inggeris asli menjana teks bahasa Inggeris yang lebih fasih. Ini akan menjimatkan masa penyelidik dan mewujudkan medan permainan yang lebih rata dalam bidang akademik.

Tetapi harus diingat bahawa ChatGPT ialah model bahasa besar (LLM), yang sangat berbeza daripada perisian pembetulan tatabahasa mudah seperti Grammarly. Fungsi utama LLM itu sendiri bukanlah untuk menyesuaikan struktur dan bahasa teks yang sudah ditulis, tetapi untuk menghasilkan beberapa teks baru.

Malah, hampir tiada pengarang kertas yang benar-benar akan menggunakan model bahasa AI untuk menjana kertas akademik. Oleh kerana keperluan untuk kertas akademik adalah sangat ketat, penulis biasanya menyemak kandungan kertas itu berulang kali sebelum diterbitkan. Jika terdapat ralat dalam kertas yang dijana menggunakan AI, reputasi semua pengarang kertas yang dinamakan akan terjejas dengan serius, menjejaskan keseluruhan kerjaya mereka.

Dari perspektif semakan kertas, orang ramai memerlukan alat pengesanan yang cepat dan berkesan untuk membezakan sama ada artikel dijana oleh AI atau ditulis secara manual. Baru-baru ini, pembangun mengeluarkan aplikasi baharu yang dipanggil GPTZero yang mempunyai fungsi pengesanan ini.

GPTZero dibangunkan oleh pelajar sains komputer Universiti Princeton Edward Tian dan dinilai menggunakan dua metrik berbeza Sama ada teks itu ditulis oleh model AI: kebingungan dan keterlaluan. Ini mungkin menggunakan "model" untuk mengalahkan "model".

Sekolah New York City mengharamkan akses kepada ChatGPT

Pada masa yang sama, ChatGPT telah diharamkan oleh sekolah. Jabatan Pendidikan New York City telah menyekat akses kepada ChatGPT pada rangkaian dan perantinya atas kebimbangan bahawa alatan AI boleh mengganggu pendidikan.

Jenna Lyle, jurucakap jabatan itu, berkata: Larangan ini disebabkan terutamanya oleh kebimbangan tentang potensi kesan negatif ChatGPT terhadap pembelajaran pelajar, serta keselamatan dan ketepatan kandungan yang dihasilkan oleh ChatGPT. Walaupun alat ini boleh memberikan jawapan yang cepat dan mudah, ia gagal mengembangkan pemikiran kritis dan kemahiran menyelesaikan masalah yang penting untuk kejayaan akademik dan sepanjang hayat pelajar.

Selain itu, ChatGPT juga mempunyai masalah yang dihadapi oleh model bahasa lain. Oleh kerana data latihannya datang daripada internet, ia sering mengulangi dan menguatkan perkara seperti seksisme dan berat sebelah perkauman dalam jawapannya. Model bahasa jenis ini juga cenderung untuk mengada-adakan maklumat, daripada tarikh sejarah kepada undang-undang saintifik, tetapi yang lain secara amnya tidak dapat mengesan bahawa ia adalah rekaan maklumat.

Kesilapan fakta inilah yang membuatkan para pendidik amat bimbang tentang alat ini. Ramai guru mengatakan bahawa perisian seperti ChatGPT pada asasnya adalah mustahil untuk menguji keupayaan pelajar menulis esei. Jika ChatGPT boleh membantu pelajar menulis dalam masa beberapa saat, mereka tidak mahu berusaha untuk menulis.

Walau bagaimanapun, yang lain berpendapat bahawa sistem pendidikan perlu menyesuaikan diri dengan kemunculan teknologi ini — sama seperti ia menyesuaikan diri dengan teknologi gangguan terdahulu seperti Carian Google dan Wikipedia. Tetapi ia jelas mengambil sedikit masa untuk semua orang menyesuaikan diri dengan ChatGPT.

Sama ada ia merumus dan menguatkuasakan spesifikasi penulisan teks secara manual, atau menggunakan beberapa kaedah untuk mengetahui sama ada teks dijana oleh AI, ini menunjukkan bahawa orang ramai menyedari keperluan mendesak untuk menyeragamkan penggunaan model penjanaan teks seperti ChatGPT. Kes penggunaan dan nilai ChatGPT masih belum ditentukan.

Atas ialah kandungan terperinci ChatGPT telah dilarang daripada memasuki sekolah AI akan mengubah peraturan khas LeCun: Bagaimana pula kita juga mengharamkan model kecil?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!