Ein kollektiver Streik! Mehr als 200 Stack Overflow-Moderatoren werfen ChatGPT vor, eine Flut von „Junk-Content“ verursacht zu haben

Jeder erinnert sich noch daran, dass sich die Leute bei der ersten Veröffentlichung von ChatGPT durch die Funktion zur Codegenerierung sehr frisch fühlten.

Allerdings war Stack Overflow aufgrund des Zustroms aller möglichen fadenscheinigen und schwer zu unterscheidenden Antworten gezwungen, über Nacht eine Verbotsanordnung zu erlassen – ChatGPT, gesperrt!

Insbesondere haben Stack Overflow-Moderatoren das Recht, Konten zu sperren, die im Verdacht stehen, KI-generierte Inhalte wie ChatGPT zu veröffentlichen, und Beiträge direkt zu löschen.

Allerdings hat Stack Overflow kürzlich eine solche neue Regel herausgegeben: # 🎜🎜 #

Angesichts der Tatsache, dass wir derzeit nicht in der Lage sind, durch KI generierte Inhalte genau zu identifizieren, ist die Wahrscheinlichkeit von „falsch positiven Ergebnissen“ sehr hoch. Diese Art übermäßiger Sperrmaßnahmen kann dazu führen, dass die Website eine große Anzahl von Inhalten verliert Mitwirkende Internetnutzer.

Daher können Moderatoren Accounts nur dann sperren, wenn es wahr und überprüfbar ist. Als Maßstab können weder subjektive Vermutungen, etwa der Schreibstil, noch die Ergebnisse des GPT-Detektors herangezogen werden.

Sobald diese Regel veröffentlicht wurde, drehten die Moderatoren sofort durch!

Aus ihrer Sicht ist dies einfach eine offensichtliche Duldung der mutwilligen Verbreitung der LLM-Illusion, eine offene Zerstörung der sauberen Umwelt der Gemeinschaft, ein Verlust der Moral usw eine Verzerrung der menschlichen Natur. …

Einige der Moderatoren sind bereits aus Wut in den Streik getreten. Einige Moderatoren und Benutzer schrieben einen offenen Brief, in dem sie sich wütend darüber beschwerten, dass die neuen Vorschriften Stack Overflow, den heiligen Ort für Code-Fragen und Antworten in allen Herzen, vollständig zerstören würden.

Sie äußerten ihre Empörung darüber, dass KI-generierte Inhalte „eine große Bedrohung für die Integrität und Glaubwürdigkeit der Plattform und der Inhalte“ darstellen würden. Die Entscheidung des Betreibers wird das Ziel von Stack Overflow, eine „hochwertige Informationsbasis“ zu werden, untergraben.

In der Vergangenheit konnten Moderatoren Beiträge löschen oder ihre Konten sperren, solange sie glaubten, dass der Inhalt des Beitrags von KI generiert wurde.

Aber heutzutage ist dieser Standard sehr streng geworden. Die in der Vergangenheit üblichen Methoden sind heute nicht mehr anwendbar.

Diese Moderatoren glauben, dass dies dazu führen wird, dass KI-generierte Inhalte in Zukunft beliebig auf Stack Overflow veröffentlicht werden können, ohne dass die Community davon betroffen ist ?

Von jetzt an, wenn wir Stack Overflow öffnen, werden wir es wahrscheinlich tun Sehen Sie viele Fehlermeldungen und plagiierte Inhalte.

Darüber hinaus wird die neue Richtlinie der Stack Exchange-Community auch den Raum nehmen, ihre eigenen Richtlinien zu definieren.

Leider ist es den Betreibern und Moderatoren bisher nicht gelungen, Beiträge zu streiken Die Plattform wird nicht mehr moderiert.

Ihr Streik ist aus ihrer Sicht das letzte Mittel, um die Gemeinschaft „vor einem völligen Wertverlust“ zu bewahren.

Der vollständige Text des offenen Protestbriefs des Moderators

Nachdem eine große Menge an KI-generierten Inhalten entfernt wurde, erließ das Unternehmen Stack Overflow ein neues „Verbot“, das stillschweigend zuließ, dass falsche Informationen und ungeprüfte Plagiate auf Stack Exchange gedeihen. Dies stellt eine erhebliche Bedrohung für die Integrität und Glaubwürdigkeit der Plattform und ihrer Inhalte dar.

Die Unterzeichner sind freiwillige Moderatoren, Mitwirkende und Benutzer von Stack Overflow und Stack Exchange.

Ab heute streiken wir auf Stack Overflow und Stack Exchange, um gegen die Richtlinien- und Plattformregeländerungen zu protestieren, die uns das Unternehmen Stack Overflow in Zukunft auferlegen wird.

Unsere Bemühungen, den Plattformwechsel auf sinnvolle Weise zu erreichen, wurden ignoriert und unsere Bedenken wurden ignoriert. Jetzt ziehen wir uns als letzten Ausweg von der Plattform zurück, in die wir über ein Jahrzehnt an Fürsorge und ehrenamtlichem Einsatz investiert haben.

Wir glauben fest an die Kernaufgabe von Stack Exchange: die Bereitstellung eines hochwertigen Informationsspeichers im Frage-und-Antwort-Format, und die jüngsten Maßnahmen von Stack Overflow, Inc. untergraben dieses Ziel direkt.

Insbesondere dürfen Moderatoren in manchen Fällen KI-generierte Antworten nicht mehr als Vorwand verwenden, um KI-generierte Antworten zu löschen. Dadurch kann nahezu jede KI-generierte Antwort frei veröffentlicht werden, ohne Rücksicht auf den etablierten Community-Konsens zu solchen Inhalten.

Dies wiederum führt dazu, dass falsche Informationen (allgemein bekannt als „Illusion“) und Plagiate auf der Plattform gedeihen.

Wie Stack Overflow, Inc. bereits betont hat, untergräbt dies unser Vertrauen in die Plattform.

Darüber hinaus weichen die direkt an Moderatoren gesendeten Richtliniendetails erheblich von den öffentlich dargelegten Richtlinien ab, und es ist Moderatoren untersagt, diese Details öffentlich weiterzugeben.

Diese Richtlinien ignorieren den Spielraum, der zuvor jeder Stack Exchange-Community eingeräumt wurde, ihre eigenen Richtlinien festzulegen, direkte Änderungen vorzunehmen, ohne Meinungen mit der Community auszutauschen, den Konsens der Community aufzuheben und sich zu weigern, zweimal darüber nachzudenken.

Bis diese Angelegenheit zu unserer Zufriedenheit geklärt ist, werden wir diese Aktivitäten einstellen, einschließlich, aber nicht beschränkt auf die folgenden:

· Veröffentlichen und Bearbeiten von Flags

· Ausführen von SmokeDetector, einem Anti-Spam-Bot

· Schließen Sie einen Beitrag oder stimmen Sie ab, um ihn zu schließen.

· Löschen Sie einen Beitrag oder stimmen Sie ab, um ihn zu löschen.

· Überprüfen Sie Aufgaben in der Warteschlange.

· Führen Sie Bots aus, um bei der Moderation zu helfen, z. B. beim Erkennen von Plagiaten, minderwertige Antworten und unhöfliche Kommentare Warten Sie

Wir rufen zum Generalstreik auf, bis Stack Overflow, Inc. diese neue Richtlinie zurückzieht, um Bedenken der Moderatoren auszuräumen und Moderatoren die Möglichkeit zu geben, ihre erklärte Richtlinie gegen KI-generierte Antworten wirksam durchzusetzen – ein Schritt Dies dient als Schutz für Stack. Ein letzter Versuch, die Exchange-Plattform und die Benutzer vor einem völligen Wertverlust zu schützen.

Gleichzeitig möchten wir Stack Overflow auch daran erinnern, dass ein Netzwerk, das ausschließlich auf Freiwillige angewiesen ist, diese Freiwilligen nicht weiterhin ignorieren, missbrauchen und mit dem Finger auf sie zeigen kann.

Die neue Richtlinie von Stack Overflow

Die neuen Regeln besagen, dass Beamte von Stack Overflow eine Reihe von Analysen zu den aktuellen Methoden zur Inhaltsüberprüfung durchgeführt und festgestellt haben, dass der von der KI generierte Mechanismus zur Inhaltsüberprüfung nicht korrekt ist.

Mit anderen Worten: Die Feststellung, ob einige Inhalte von KI generiert werden, ist nicht unbedingt korrekt, und der verantwortliche Moderator oder Freiwillige kann ein falsches Urteil fällen.

Beamte befürchten, dass dieser Schritt Vorurteile gegenüber Benutzern in bestimmten Regionen oder Ländern schüren oder eine große Anzahl legitimer Content-Publisher ausschließen wird.

Um dieses Problem zu lösen, verlangen die Behörden von den für die Überprüfung von Inhalten verantwortlichen Moderatoren, dass sie sehr strenge Beweisstandards anwenden, um sicherzustellen, dass der vom Benutzer gepostete Inhalt von KI generiert wurde, bevor sie das Konto sperren.

Nach den neuen Regelungen werden die von Moderatoren verwendeten nützlichen Standards, die auf dem Schreibstil der Benutzer und dem Verhalten im Forum basieren, nicht mehr angewendet, da sie nicht als „streng“ gelten.

Offiziell erklärt, dass die von Moderatoren verwendeten Methoden nicht zu 100 % beurteilt werden können.

Gleichzeitig wird der GPT-Detektor nach offizieller Meinung nicht empfohlen. Die Falsch-Positiv-Rate ist zu hoch, inakzeptabel und kann nicht als verlässlicher Indikator für die Beurteilung herangezogen werden.

Kurz gesagt, die neuen Regelungen schränken offiziell die Macht der Moderatoren ein. Nur durch strenge Beweisprüfung gewonnene Schlussfolgerungen können übernommen und weitere Maßnahmen (z. B. Kontosperrung usw.) ergriffen werden.

Jede Methode, die auf Intuition und Vermutung beruht, sollte nicht länger verwendet werden.

Warum müssen wir streiken? Die blutige Anschuldigung eines Moderators

Ein Moderator postete auf Stack Overflow und erläuterte ausführlich die Gründe, warum sich die Moderatoren für einen Streik entscheiden mussten.

ta sagte, dass jeder dies mehr oder weniger zum Wohle der gesamten Gemeinschaft tut.

Ende November 2022, mit dem Start von ChatGPT, begannen viele Nutzer hektisch, von KI generierte Antworten hochzuladen.

Die von ChatGPT generierten Antworten sind den Antworten echter Benutzer sehr ähnlich

Zum Beispiel sagte der Internetnutzer unten, dass er zuerst ein neues Konto erstellt und dann zufällige Fragen ohne Antworten gestellt habe Fügen Sie es in ChatGPT ein und veröffentlichen Sie die generierte Antwort.

Innerhalb von anderthalb Stunden postete er 9 Antworten und erhielt 1 Annahme, 3 Daumen hoch und 62 Reputationspunkte.

Anschließend hatten diese zufällig kopierten und eingefügten Antworten von ChatGPT schnell eine große Wirkung. Dieser Internetnutzer freut sich sehr auf das, was als nächstes passieren wird.

Das Review-Team wurde durch Streiche von Internetnutzern auf sich aufmerksam gemacht. Sie schlugen Alarm und formulierten sofort neue Regeln für Stack Overflow.

Die neuen Regeln machen natürlich Sinn. Seit seiner Gründung im Jahr 2008 verlässt sich Stack Overflow auf die Überprüfung durch Freiwillige der Community.

Aber die von ChatGPT generierten Antworten sehen normalerweise gut aus, und unzählige Internetnutzer posten diese Antworten wie verrückt, was eine enorme Belastung für die Freiwilligen darstellt.

Deshalb musste die Community ein Verbot aussprechen.

Dieser Moderator sagte, dass die Moderatoren nach Erlass des Verbots hart gearbeitet und sich direkt am Community-Management-Team beteiligt hätten, um bei der Umsetzung dieser neuen Richtlinie in dieser Community in allen Aspekten zu helfen.

Und auch die Bearbeitung von Beiträgen ist sehr mühsam.

Das Überprüfungsteam verwendet JavaScript-Skripte, um bei der Überprüfung zu helfen. Wenn Tools benötigt werden, werden diese direkt geschrieben. Sie erweitern auch die Funktionalität bestehender Websites.

Moderatoren beschäftigen sich jeden Tag mit einer Vielzahl von Beiträgen und erleben Situationen wie Missbrauch.

Daher waren die Moderatoren nach Erhalt des neuen Versionsverbots am Montag sehr müde. Schließlich sind wir alle Freiwillige und keine regulären Angestellten. Sie haben der Gemeinschaft genug gegeben...

Die Forderungen der Streikenden

Was wollen die streikenden Moderatoren? Letztlich kommt es auf die Problemlösung an.

Einige Probleme erfordern eine offizielle persönliche Anerkennung, und einige Probleme erfordern, dass Mitarbeiter sie offen besprechen, um zu klären, was zu tun ist.

ChatGPT-Regeln sind Regeln, die von der gesamten Community gemeinsam entwickelt wurden und breite Unterstützung gefunden haben.

Mitarbeiter sollten nicht nur nicht-öffentliche Kanäle (Chatrooms und Moderatorenteams) nutzen, um groß angelegte Regeländerungen vorzunehmen, was dazu führt, dass die Mehrheit der Benutzer nicht informiert wird.

Moderatoren werden gebeten, mit Flaggen nach einer Regel umzugehen, die nie veröffentlicht wurde. Tatsächlich deutet alles auf der Website darauf hin, dass die alte Richtlinie immer noch in Kraft ist.

Daher erhalten Moderatoren weiterhin Meldungen, die nicht im Einklang mit dieser Richtlinie behandelt werden können. Irgendwann wird die Community den Unterschied definitiv bemerken.

Die wenigen Moderatoren, die posten, um die Richtlinienänderungen zu erläutern, bevor die Ankündigung veröffentlicht wird, laufen tatsächlich Gefahr, ihre Moderatorenmacht zu verlieren und den Zugang zum Moderatorenteam zu verlieren. Das ist den Moderatoren gegenüber sehr unfair.

Philippe postete wütende Kritik an den neuen Vorschriften. Er sagte, dass die mögliche Rassendiskriminierung, über die sich die Beamten Sorgen machen, eine bloße Anschuldigung sei. Aber offensichtlich möchte sich niemand des Rassismus bezichtigen lassen.

Im schlimmsten Fall spiegeln die neuen Regeln die Wahrnehmung der Mitarbeiter wider, dass Moderatoren und die Community im Widerspruch zueinander stehen.

Das Personal äußerte sich sehr vage zu den Richtlinien (wie bereits erwähnt gibt es Unterschiede zwischen öffentlichen und privaten Richtlinien) und lieferte keine konkreten Beispiele für Dinge, die ihrer Meinung nach falsch gemacht wurden.

Sie wollen, dass Moderatoren aufhören, GPT-Detektoren als einziges Kriterium zu verwenden, was sicherlich möglich ist, aber für jemanden, der in zwei Stunden ein Dutzend langer Antworten gepostet hat, ist es offensichtlich, dass diese Antworten definitiv nicht alle sind, die sie selbst geschrieben haben, das waren sie einfach Antworten auf Fragen kopieren und einfügen.

Per Richtlinie ist dies inakzeptabel, aber wie sollten Moderatoren damit umgehen?

Können Moderatoren Erkennungstools ohne direkte Beweise für Plagiate verwenden?

Die Realität ist jedoch, dass niemand den Moderatoren sagt, was genau sie tun sollen...

Das obige ist der detaillierte Inhalt vonEin kollektiver Streik! Mehr als 200 Stack Overflow-Moderatoren werfen ChatGPT vor, eine Flut von „Junk-Content“ verursacht zu haben. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!