大家都還記得,ChatGPT剛出來時,它的程式碼產生功能讓人大感新鮮。
然而,隨著各種似是而非、真假難辨的答案如潮水般湧入,被逼急的Stack Overflow不得不連夜下封殺令——ChatGPT,禁!
具體來說,Stack Overflow的版主有權封鎖疑似發布ChatGPT等AI產生內容的帳號,並且直接刪文。
然而,Stack Overflow最近卻發布了這樣一條新規則:
#鑑於目前我們無法準確辨識AI產生的內容,「假陽性」的機率非常高,這種一言堂的過度禁言措施,可能會讓網站損失大量有貢獻的網友。
因此,只有在真實可驗證的情況下,版主們才能禁言帳號。無論是主觀猜測,如寫作風格,或是GPT偵測器的結果,都不能用來作為衡量的標準。
這條版規一發,簡直讓版主們瞬間炸了鍋!
在他們看來,這簡直是對LLM幻覺肆意擴散的公然默許,是對社區清明環境的公開破壞,是道德的淪喪,人性的扭曲……
其中一些版主,已經憤而罷工了。
一些版主和用戶寫了一封公開信,憤怒控訴新規將使Stack Overflow這個大家心中的程式碼問答聖地徹底淪陷。
他們義憤填膺地表示,AI產生的內容會對「平台和內容的完整性、可信度構成重大威脅」。而營運者的決定將破壞Stack Overflow成為「高品質資訊庫」的目標。
從前,版主只要自己認定貼文內容是AI產生的,就能自行刪帖或封號。
但如今,這個標準變得非常嚴苛。以往的慣用方法,如今都不再適用。
而這些版主們認為,這將意味著:以後在Stack Overflow上,AI生成的內容可以被肆意發布,絲毫不用顧忌社群對此是何看法。
從此,一開啟Stack Overflow,我們很可能會看到滿眼的錯誤訊息,和抄襲來的內容。
另外,新政也將剝奪Stack Exchange社群自行定義保單的空間。
遺憾的是,到目前為止,經營者與版主們尚未取得良好的直接溝通,版主們最後能做的就是-選擇罷工,不再對平台的貼文進行審核。
在他們看來,自己的罷工是拯救社群「免於完全價值流失」的最後手段。
在大量AI生成的內容被刪除之後,Stack Overflow公司頒布了一項新的「禁令」,默許不正確的資訊和不受約束的剽竊行為在Stack Exchange上氾濫。這對該平台及其內容的完整性和可信度構成了重大威脅。
以下簽署者,是Stack Overflow和Stack Exchange的志工版主、貢獻者和使用者。
從即日起,我們將對Stack Overflow和Stack Exchange進行全面罷工,以抗議Stack Overflow公司現在以及將來將要強加給我們的政策和平台規則變動。
我們透過合理的方式實現平台變革的努力被忽視了,我們的擔憂也被無視了。現在,作為最後的手段,我們要退出這個我們已經投入了超過十年的關心和志願努力的平台。
我們堅信Stack Exchange的核心使命:以問答的形式提供一個高品質的資訊庫,而Stack Overflow公司最近採取的行動則直接損害了這個目標。
具體來說,版主不再被允許以AI產生的答案為由,在部分情況下刪除AI產生的答案。這使得幾乎所有AI生成的答案都可以自由發布,而無需考慮社群對此類內容已有的既定共識。
反過來,這使得不正確的訊息(俗稱「幻覺」)和剽竊行為在該平台上肆意氾濫。
正如Stack Overflow公司先前指出的那樣,這破壞了我們對平台的信任。
此外,直接發給版主的政策細節與公開概述的準則有很大不同,版主也被禁止在公開場合分享這些細節。
這些政策無視先前賦予給每個Stack Exchange社群決定各自政策的餘地,在沒有和社群交換意見的情況下進行直接修改,推翻社群的共識,還拒絕三思而行。
在這件事得到我們滿意的解決之前,我們將暫停這些活動,包括但不限於以下:
· 發布和處理flag
· 運行SmokeDetector,反垃圾郵件機器人
##· 關閉或投票關閉帖子
#· 刪除或投票刪除貼文
· 審查佇列中的任務
· 執行協助審核的機器人,如偵測抄襲、低品質答案和粗魯的評論等
在Stack Overflow公司收回這項新政策,以解決版主的擔憂,並允許版主有效地執行針對AI生成的答案的既定在政策之前,我們呼籲全面罷工,此舉將作為保護Stack Exchange平台和用戶免受完全價值損失的最後努力。
同時,我們也想提醒Stack Overflow公司,一個完全依賴志工的網絡,不能一直忽視、虐待,並將矛頭指向這些志工。
新規中寫明,Stack Overflow官方對目前的內容審核方法進行了一系列分析後發現,AI生成的內容審核機制並不準確。
也就是說,對於某些內容是否由AI產生的判定並不一定正確,負責的版主或志工可能會出現錯誤判斷的情況。
官方擔心,此舉會助長對某些地區或國家的用戶的偏見,或是把大量合法的內容發布者拒之門外。
為了解決這個問題,官方要求負責審核內容的版主在封號之前,需要用非常嚴格的證據標準來決定該使用者發布的內容是由AI產生的。
在新規下,版主們慣用的基於使用者寫作風格,以及論壇行為等好用的標準都將不能再使用,因為這並不算「嚴格」。
官方表示,版主們所慣用的方法並不能100%的進行裁定。
同時,GPT偵測器在官方看來也不可取。誤判率過高,不可接受,不能作為判定的可靠指標。
總之,新規中官方對版主的權力進行了限制。只有經過嚴格證據審查的結論才能採納,並採取進一步行動(如封停帳號等)。
任何靠直覺、猜測的方式都不應該再採用。
為什麼不得不罷工?一個版主的血淚控訴
一位版主在Stack Overflow上發帖,詳細解釋了版主們不得不選擇罷工的原因。
ta表示,大家這樣做,或多或少都是為了整個社區的利益。
2022年11月下旬,隨著ChatGPT的推出,大量用戶開始瘋狂把AI生成的答案搬運上來。
用ChatGPT產生的答案,與真人用戶的回答非常相似
例如下面這位網友就表示,自己先新建了一個帳戶,然後把沒有答案的隨機問題貼進ChatGPT裡,再把生成的答案po出來。
在一個半小時內,ta就po出了9個回答,並取得了1個接受、3個贊成,以及62個聲望值。
隨後,這些隨機複製貼上自ChatGPT的回答,迅速產生巨大的影響,這位網友非常期待後續的情況。
玩花了的網友們引起的審核團隊的注意,他們警鈴大作,立刻為Stack Overflow制定了新規。
新規自然是有道理的,Stack Overflow從2008年成立以來,就一直靠社區志工審核來維持運作。
但ChatGPT生成的答案通常看起來很好,無數網友在瘋狂發布這些答案,會給志願者造成巨大的負擔。
因此,社群才不得不發布禁令。
這位版主表示,禁令發布後,版主們兢兢業業,直接參與了社區管理團隊,在各方面幫助這項新政策在這條社區實行。
而處理貼文的過程,也非常麻煩。
審核團隊會使用JavaScript腳本來幫助審核,需要工具的時候,他們會直接上手去寫入。他們也會擴展現有的網站功能。
每天,版主們都會處理大量的帖子,還會經歷被辱罵之類的情況。
因此,在周一接到新版禁令後,版主們非常心累。畢竟,大家都是志願者,不是正式員工。他們已經為社區付出夠多了…
#罷工的版主們想要什麼?歸根究底還是問題解決。
有些問題需要官方親自承認,有些問題需要員工們公開討論,明確到底該做什麼。
ChatGPT規則是由整個社群共同製定的規則,並且已經得到了廣泛的支持。
員工不應該只使用非公開管道(聊天室和版主團隊)進行大規模的規則變更,走這些管道就意味著廣大用戶將無法知曉。
版主被要求根據一項從未公開的規則來處理flag。而實際上,網站上的所有內容都表明了舊有的政策仍然有效。
因此,版主仍然會收到無法與該政策一致處理的flag。最終,社區肯定會注意到這種不同。
那些在公告公開之前就發文講解政策變化的少數版主,其實他們正冒著失去版主權力、無法訪問版主團隊的風險。這對版主來說非常不公平。
Philippe發文怒斥新規,他表示,官方所擔心的可能產生的種族歧視是一種赤裸裸的指責。但很顯然,沒有人希望被無端指控為種族歧視。
在最壞的情況下,新規反映出員工認為版主和社群持對立態度。
員工對政策的陳述非常含糊(正如前面所說的,公開的和私下的政策存在差異),並且沒有提供他們認為做得不正確的具體實例。
他們希望版主不再將GPT檢測器作為唯一的判斷標準,這當然可以,但是對於一個在兩個小時內發布了十幾個長回答的人來說,很明顯,這些答案肯定不全是他們自己寫的,他們只是在複製貼上地回答問題。
根據政策,這是不可接受的,但版主們該如何處理呢?
版主們是否可以在沒有直接證據證明其為抄襲的情況下使用偵測工具?
然而,現實是,沒人告訴版主他們到底該怎麼做…
以上是集體罷工!超200位Stack Overflow版主怒控ChatGPT將引發「垃圾內容」洪水的詳細內容。更多資訊請關注PHP中文網其他相關文章!