Mogok kolektif! Lebih daripada 200 moderator Stack Overflow menuduh ChatGPT menyebabkan banjir 'kandungan sampah'

Semua orang masih ingat bahawa apabila ChatGPT mula-mula keluar, fungsi penjanaan kodnya sangat baharu kepada orang ramai.

Namun, dengan kemasukan semua jenis jawapan palsu yang sukar dibezakan antara benar dan salah, Stack Overflow terpaksa mengeluarkan perintah larangan semalaman - ChatGPT, larangan!

Khususnya, moderator Stack Overflow mempunyai hak untuk menyekat akaun yang disyaki menerbitkan kandungan yang dijana AI seperti ChatGPT dan memadamkan siaran secara langsung.

Walau bagaimanapun, Stack Overflow baru-baru ini mengeluarkan peraturan baharu sedemikian:

Diberikan Pada masa ini , kami tidak dapat mengenal pasti kandungan yang dijana oleh AI dengan tepat, dan kebarangkalian "positif palsu" adalah sangat tinggi Tindakan larangan yang berlebihan ini boleh menyebabkan tapak web kehilangan sejumlah besar netizen yang menyumbang.

Oleh itu, moderator hanya boleh melarang akaun jika ia benar dan boleh disahkan. Baik tekaan subjektif, seperti gaya penulisan, mahupun keputusan pengesan GPT tidak boleh digunakan sebagai kayu ukur.

Sebaik sahaja peraturan ini diterbitkan, moderator menjadi marah!

Pada pandangan mereka, ini hanyalah persetujuan terang-terangan terhadap penyebaran khayalan LLM yang sewenang-wenangnya, kemusnahan terbuka terhadap persekitaran bersih masyarakat, kehilangan moral, dan penyelewengan sifat manusia. ...

Sesetengah moderator telah melancarkan mogok kerana marah.

Pertahankan komuniti kami daripada diceroboh oleh AI

Sesetengah moderator dan pengguna menulis surat terbuka dengan marah mengadu tentang peraturan baharu Ini akan memusnahkan Stack Overflow, kod Q&A tempat suci dalam fikiran semua orang.

Mereka berkata dengan penuh kemarahan bahawa kandungan yang dijana AI akan "menimbulkan ancaman besar kepada integriti dan kredibiliti platform dan kandungan." Keputusan pengendali akan menjejaskan matlamat Stack Overflow untuk menjadi "pangkalan maklumat berkualiti tinggi."

Pada masa lalu, penyederhana boleh memadamkan siaran atau melarang akaun mereka selagi mereka percaya bahawa kandungan siaran itu dihasilkan oleh AI.

Tetapi pada masa kini, piawaian ini telah menjadi sangat ketat. Kaedah biasa yang digunakan pada masa lalu tidak lagi digunakan pada hari ini.

Para penyederhana ini percaya bahawa ini bermakna pada masa hadapan, kandungan yang dijana AI boleh diterbitkan secara bebas di Stack Overflow tanpa mengambil kira pendapat komuniti tentangnya.

Mulai sekarang, apabila kita membuka Stack Overflow, kita mungkin akan melihat banyak mesej ralat dan kandungan yang diciplak. .

Selain itu, dasar baharu juga akan melucutkan ruang komuniti Stack Exchange untuk menentukan dasarnya sendiri.

Malangnya, setakat ini, pengendali dan moderator masih belum mencapai komunikasi langsung yang baik Perkara terakhir yang boleh dilakukan oleh moderator ialah memilih untuk melancarkan mogok dan tidak lagi menentang platform. Siaran disemak.

Pada pandangan mereka, mogok mereka adalah langkah terakhir untuk menyelamatkan masyarakat "daripada kehilangan nilai sepenuhnya."

Teks penuh surat bantahan terbuka moderator

Dalam sejumlah besar AI dijana Selepas kandungan dialih keluar, Stack Overflow mengeluarkan "larangan" baharu yang membenarkan maklumat yang salah dan plagiarisme yang tidak disemak berkembang di Stack Exchange. Ini menimbulkan ancaman besar kepada integriti dan kredibiliti platform dan kandungannya.

Yang bertandatangan di bawah ialah penyederhana sukarela, penyumbang dan pengguna Stack Overflow dan Stack Exchange.

Mulai hari ini, kami akan melancarkan mogok penuh terhadap Stack Overflow dan Stack Exchange untuk membantah apa yang Stack Overflow, syarikat, adalah dan akan menjadi mengenakan kami pada masa hadapan Perubahan kepada dasar dan peraturan platform.

Usaha kami untuk mencapai perubahan platform dengan cara yang logik diabaikan dan kebimbangan kami diabaikan. Kini, sebagai pilihan terakhir, kami menarik diri daripada platform yang kami telah melabur selama sedekad penjagaan dan usaha sukarela.

Kami amat percaya dengan misi teras Stack Exchange untuk menyediakan repositori maklumat berkualiti tinggi dalam format soal jawab dan tindakan terbaru oleh Stack Overflow, Inc. secara langsung menjejaskannya matlamat.

Secara khusus, penyederhana tidak lagi dibenarkan menggunakan jawapan yang dijana AI sebagai alasan untuk memadamkan jawapan yang dijana AI dalam beberapa kes. Ini membolehkan hampir mana-mana jawapan yang dijana AI diterbitkan secara bebas tanpa mengambil kira konsensus komuniti yang telah ditetapkan mengenai kandungan tersebut.

Ini seterusnya membolehkan maklumat yang salah (biasanya dikenali sebagai "ilusi") dan plagiarisme berkembang di platform.

Seperti yang telah dinyatakan oleh Stack Overflow sebelum ini, ini menjejaskan kepercayaan kami terhadap platform.

Selain itu, butiran dasar yang dihantar terus kepada penyederhana berbeza dengan ketara daripada garis panduan yang digariskan secara umum dan penyederhana dilarang berkongsi butiran ini secara terbuka.

Dasar ini mengabaikan kelonggaran yang diberikan sebelum ini kepada setiap komuniti Stack Exchange untuk memutuskan dasar mereka sendiri, membuat pengubahsuaian langsung tanpa bertukar pendapat dengan komuniti, membatalkan konsensus komuniti dan enggan Berfikir sebelum anda bertindak.

Sehingga perkara ini diselesaikan dengan kepuasan kami, kami akan menangguhkan aktiviti ini, termasuk tetapi tidak terhad kepada perkara berikut:

· Pengeposan dan Tangani bendera

· Jalankan SmokeDetector, bot anti-spam

· Tutup atau undi untuk menutup siaran

· Padam atau undi untuk pemadaman siaran

· Semak tugasan dalam baris gilir

· Jalankan bot untuk membantu semakan, seperti sebagai mengesan plagiarisme, jawapan Kualiti berprofil rendah dan komen biadap, dsb.

Dasar baharu di Stack Overflow Inc. ini menarik balik untuk menangani kebimbangan penyederhana dan membenarkan penyederhana menguatkuasakan peraturan yang ditetapkan dengan berkesan untuk Jawapan yang dijana AI Sebelum dasar itu, kami menyeru agar mogok umum, yang akan menjadi usaha terakhir untuk melindungi platform Stack Exchange dan pengguna daripada kehilangan nilai sepenuhnya.

Pada masa yang sama, kami juga ingin mengingatkan Stack Overflow bahawa rangkaian yang bergantung sepenuhnya kepada sukarelawan tidak boleh terus mengabaikan, menyalahgunakan dan menuding jari kepada sukarelawan ini.

Dasar baharu Stack Overflow

Dasar baharu menyatakan bahawa Stack Overflow secara rasmi menjalankan satu siri analisis tentang kaedah semakan kandungan semasa mendapati bahawa mekanisme semakan kandungan yang dihasilkan oleh AI adalah tidak tepat.

Dalam erti kata lain, penentuan sama ada sesetengah kandungan dijana oleh AI tidak semestinya betul dan penyederhana atau sukarelawan yang bertanggungjawab mungkin membuat pertimbangan yang salah.

Pegawai bimbang bahawa langkah ini akan menggalakkan prasangka terhadap pengguna di wilayah atau negara tertentu, atau mengecualikan sejumlah besar penerbit kandungan yang sah.

Untuk menyelesaikan masalah ini, keperluan rasmi ialah moderator yang bertanggungjawab menyemak kandungan perlu menggunakan bukti yang sangat ketat sebelum melarang akaun mereka Kriteria untuk menentukan sama ada kandungan yang disiarkan oleh pengguna ini dihasilkan oleh AI.

Di bawah peraturan baharu, piawaian berguna yang digunakan oleh moderator berdasarkan gaya penulisan pengguna dan tingkah laku forum tidak akan digunakan lagi kerana ia tidak dianggap "ketat".

Menyatakan secara rasmi bahawa kaedah yang digunakan oleh moderator tidak boleh 100% diadili.

Pada masa yang sama, pengesan GPT tidak disyorkan mengikut pendapat rasmi. Kadar positif palsu terlalu tinggi, tidak boleh diterima dan tidak boleh digunakan sebagai penunjuk yang boleh dipercayai untuk penghakiman.

Ringkasnya, peraturan baharu secara rasmi mengehadkan kuasa moderator. Hanya kesimpulan yang dicapai melalui semakan bukti yang ketat boleh diterima pakai dan tindakan lanjut (seperti penggantungan akaun, dll.) boleh diambil.

Sebarang kaedah yang bergantung pada gerak hati dan tekaan tidak boleh digunakan lagi.

Kenapa kita perlu mogok? Tuduhan berdarah seorang moderator

Seorang moderator menyiarkan pada Stack Overflow dan menerangkan secara terperinci sebab penyederhana terpaksa memilih untuk melancarkan mogok.

ta berkata bahawa semua orang melakukan ini lebih kurang untuk manfaat seluruh komuniti.

Pada akhir November 2022, dengan pelancaran ChatGPT, sebilangan besar pengguna mula memuat naik jawapan yang dijana oleh AI secara panik.

Jawapan yang dijana oleh ChatGPT sangat serupa dengan jawapan pengguna sebenar

Sebagai contoh, netizen di bawah mengatakan bahawa dia mula-mula membuat akaun baharu, kemudian menyiarkan soalan rawak tanpa jawapan ke dalam ChatGPT, dan kemudian menyiarkan jawapan yang dijana.

Dalam masa satu setengah jam, dia menyiarkan 9 jawapan dan menerima 1 terima, 3 ibu jari ke atas dan 62 mata reputasi.

Selepas itu, jawapan yang disalin dan ditampal secara rawak daripada ChatGPT ini dengan cepat memberi impak yang besar kepada situasi susulan.

Netizen yang bermain helah menarik perhatian pasukan pengulas Mereka membunyikan penggera dan segera merangka rancangan untuk peraturan baharu Stack Overflow.

Peraturan baharu sememangnya masuk akal secara semula jadi Stack Overflow telah bergantung pada semakan sukarelawan komuniti untuk mengekalkan operasi sejak penubuhannya pada tahun 2008.

Tetapi jawapan yang dijana oleh ChatGPT biasanya kelihatan bagus, dan ramai netizen dengan panik menyiarkan jawapan ini, yang akan membebankan sukarelawan.

Oleh itu, masyarakat terpaksa mengeluarkan larangan.

Moderator berkata selepas larangan itu dikeluarkan, moderator bekerja keras dan mengambil bahagian secara langsung dalam pasukan pengurusan komuniti. Semua aspek membantu dasar baharu ini dilaksanakan dalam komuniti ini.

Proses pemprosesan post juga sangat menyusahkan.

Pasukan penyemak akan menggunakan skrip JavaScript untuk membantu semakan Apabila alat diperlukan, mereka akan menulisnya secara langsung. Mereka juga memanjangkan fungsi tapak web sedia ada.

Setiap hari, moderator menangani sejumlah besar siaran dan mengalami situasi seperti didera.

Oleh itu, moderator sangat letih selepas menerima larangan versi baharu pada hari Isnin. Lagipun, kami semua sukarelawan, bukan pekerja biasa. Mereka sudah cukup memberi kepada masyarakat...

Tuntutan penyerang

Apa yang moderator mogok mahukan? Akhirnya ia datang kepada penyelesaian masalah.

Sesetengah isu memerlukan pengiktirafan rasmi secara peribadi, dan sesetengah isu memerlukan pekerja membincangkannya secara terbuka untuk menjelaskan perkara yang perlu dilakukan.

Peraturan ChatGPT ialah peraturan yang dibangunkan bersama oleh seluruh komuniti dan telah mendapat sokongan meluas.

Kakitangan bukan sahaja harus menggunakan saluran bukan awam (bilik sembang dan pasukan penyederhana) untuk membuat perubahan peraturan berskala besar Menggunakan saluran ini bermakna majoriti pengguna tidak akan dimaklumkan.

Moderator diminta mengendalikan bendera mengikut peraturan yang tidak pernah didedahkan kepada umum. Malah, segala-galanya di tapak menunjukkan bahawa dasar lama masih berkuat kuasa.

Oleh itu, moderator masih akan menerima bendera yang tidak boleh dikendalikan selaras dengan dasar ini. Lama-kelamaan, masyarakat pasti akan melihat perbezaannya.

Segelintir moderator yang menyiarkan untuk menjelaskan perubahan dasar sebelum pengumuman diumumkan kepada umum sebenarnya menghadapi risiko kehilangan kuasa moderator mereka dan kehilangan akses kepada pasukan moderator. Ini sangat tidak adil kepada moderator.

Philippe menyiarkan artikel dengan marah mengkritik peraturan baharu itu Dia berkata bahawa kemungkinan diskriminasi kaum yang dibimbangkan oleh pegawai adalah tuduhan telanjang. Tetapi jelas, tiada siapa yang mahu dituduh perkauman.

Paling teruk, peraturan baharu itu menggambarkan persepsi kakitangan bahawa moderator dan komuniti bertentangan antara satu sama lain. <🎜>

Mereka berharap penyederhana akan berhenti menggunakan pengesan GPT sebagai satu-satunya kriteria, yang pastinya mungkin, tetapi bagi seseorang yang menyiarkan sedozen jawapan panjang dalam dua jam Said, jelas bahawa ini jawapan pastinya tidak semuanya ditulis sendiri, ia hanya copy dan paste untuk menjawab soalan.

Setiap dasar ini tidak boleh diterima, tetapi bagaimanakah penyederhana harus mengendalikannya?

Bolehkah moderator menggunakan alat pengesanan tanpa bukti langsung plagiarisme?

Namun, realitinya tiada siapa yang memberitahu moderator dengan tepat apa yang patut mereka lakukan...

Atas ialah kandungan terperinci Mogok kolektif! Lebih daripada 200 moderator Stack Overflow menuduh ChatGPT menyebabkan banjir 'kandungan sampah'. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!