Une grève collective ! Plus de 200 modérateurs de Stack Overflow accusent ChatGPT de provoquer un flot de « contenu indésirable »

Tout le monde se souvient encore que lorsque ChatGPT est sorti pour la première fois, sa fonction de génération de code donnait aux gens un sentiment de fraîcheur.

Cependant, avec l'afflux de toutes sortes de réponses spécieuses et difficiles à distinguer, Stack Overflow a été contraint d'émettre un ordre d'interdiction du jour au lendemain—— ChatGPT, banni !

Plus précisément, les modérateurs de Stack Overflow ont le droit de bannir les comptes soupçonnés de publier du contenu généré par l'IA tel que ChatGPT, et de supprimer directement les publications.

Cependant, Stack Overflow a récemment publié une nouvelle règle : # 🎜🎜 #

Étant donné que nous ne sommes actuellement pas en mesure d'identifier avec précision le contenu généré par l'IA, la probabilité de « faux positifs » est très élevée. Ce type de mesures d'interdiction excessives peut entraîner la perte d'un grand nombre de sites Web. les internautes contributeurs.

Par conséquent, les modérateurs ne peuvent bannir des comptes que si cela est vrai et vérifiable. Ni les suppositions subjectives, telles que le style d'écriture, ni les résultats du détecteur GPT ne peuvent être utilisés comme critère.

Dès que cette règle a été publiée, les modérateurs sont devenus fous instantanément !

À leur avis, il s'agit simplement d'un acquiescement flagrant à la propagation gratuite de l'illusion LLM, d'une destruction ouverte de l'environnement propre de la communauté, d'une perte de moralité et une distorsion de la nature humaine. …

Certains modérateurs se sont déjà mis en grève en signe de colère. Certains modérateurs et utilisateurs ont écrit Il a écrit une lettre ouverte avec colère se plaignant que les nouvelles réglementations détruiraient complètement Stack Overflow, le lieu saint des questions et réponses sur le code dans le cœur de chacun.

Ils ont exprimé leur indignation quant au fait que le contenu généré par l'IA "constituerait une menace majeure pour l'intégrité et la crédibilité de la plateforme et du contenu". La décision de l'opérateur portera atteinte à l'objectif de Stack Overflow de devenir une « base d'informations de haute qualité ».

Dans le passé, les modérateurs pouvaient supprimer des publications ou bannir leurs comptes tant qu'ils pensaient que le contenu de la publication était généré par l'IA.

Mais de nos jours, cette norme est devenue très stricte. Les méthodes habituelles utilisées autrefois ne sont plus applicables aujourd’hui.

Ces modérateurs pensent que cela signifiera qu'à l'avenir sur Stack Overflow, le contenu généré par l'IA pourra être publié arbitrairement sans aucun souci pour la communauté. ?

Désormais, lorsque nous ouvrons Stack Overflow, nous sommes susceptibles de voir tout. Messages d'erreur et contenu plagié.

De plus, la nouvelle politique privera également la communauté Stack Exchange de la possibilité de définir ses propres politiques.

Malheureusement, jusqu'à présent, les opérateurs et les modérateurs n'ont pas encore réussi à établir une bonne communication directe. La dernière chose que les modérateurs peuvent faire est de choisir de se mettre en grève. la plateforme ne sera plus modérée.

Pour eux, leur grève est le dernier recours pour sauver la communauté "d'une perte totale de valeur".

Le texte intégral de la lettre ouverte de protestation du modérateur

Après la suppression d'une grande quantité de contenu généré par l'IA, la société Stack Overflow a émis une nouvelle "interdiction", permettant tacitement aux informations incorrectes et au plagiat incontrôlé de prospérer sur Stack Exchange. Cela constitue une menace importante pour l’intégrité et la crédibilité de la plateforme et de son contenu.

Les soussignés sont des modérateurs bénévoles, des contributeurs et des utilisateurs de Stack Overflow et Stack Exchange.

À partir d'aujourd'hui, nous lançons une grève totale contre Stack Overflow et Stack Exchange pour protester contre les changements de politique et de règles de plateforme que Stack Overflow, la société, nous impose et nous imposera à l'avenir.

Nos efforts pour parvenir à un changement de plateforme de manière sensée ont été ignorés et nos préoccupations ont été ignorées. Aujourd’hui, en dernier recours, nous nous retirons de la plateforme dans laquelle nous avons investi plus d’une décennie de soins et d’efforts bénévoles.

Nous croyons fermement à la mission principale de Stack Exchange : fournir un référentiel d'informations de haute qualité sous forme de questions et réponses, et les actions récentes de Stack Overflow, Inc. compromettent directement cet objectif.

Plus précisément, les modérateurs ne sont plus autorisés à utiliser les réponses générées par l'IA comme excuse pour supprimer les réponses générées par l'IA dans certains cas. Cela permet à presque toutes les réponses générées par l’IA d’être publiées librement sans tenir compte du consensus communautaire établi sur un tel contenu.

Cela permet à son tour à des informations incorrectes (communément appelées « illusion ») et au plagiat de prospérer sur la plateforme.

Comme Stack Overflow, Inc. l'a déjà souligné, cela mine notre confiance dans la plateforme.

De plus, les détails de la politique envoyés directement aux modérateurs diffèrent considérablement des directives énoncées publiquement, et il est interdit aux modérateurs de partager ces détails en public.

Ces politiques ignorent la marge de manœuvre précédemment donnée à chaque communauté Stack Exchange pour décider de ses propres politiques, apporter des modifications directes sans échanger d'opinions avec la communauté, renverser le consensus de la communauté et refuser d'y réfléchir à deux fois.

Jusqu'à ce que ce problème soit résolu à notre satisfaction, nous suspendrons ces activités, y compris, mais sans s'y limiter, les suivantes :

· Publication et gestion des indicateurs

· Exécution de SmokeDetector, un robot anti-spam

· Fermez ou votez pour fermer une publication

· Supprimez ou votez pour supprimer une publication

· Examinez les tâches dans la file d'attente

· Exécutez des robots pour aider à la modération, comme la détection du plagiat, réponses de mauvaise qualité et commentaires grossiers Attendez

Nous appelons à une grève générale jusqu'à ce que Stack Overflow, Inc. retire cette nouvelle politique pour répondre aux préoccupations des modérateurs et permettre à ceux-ci d'appliquer efficacement leur politique déclarée contre les réponses générées par l'IA. cette décision agira comme un moyen de protéger Stack. Un effort de dernier recours pour protéger la plate-forme Exchange et les utilisateurs contre une perte totale de valeur.

Dans le même temps, nous souhaitons également rappeler à Stack Overflow qu'un réseau qui repose entièrement sur des bénévoles ne peut pas continuer à ignorer, abuser et pointer du doigt ces bénévoles.

Nouvelle politique de Stack Overflow

Les nouvelles règles stipulent que les responsables de Stack Overflow ont mené une série d'analyses sur les méthodes actuelles d'examen du contenu et ont constaté que le mécanisme d'examen du contenu généré par l'IA n'est pas précis.

En d'autres termes, déterminer si certains contenus sont générés par l'IA n'est pas nécessairement correct, et le modérateur ou le bénévole responsable peut porter un mauvais jugement.

Les responsables craignent que cette décision n'encourage les préjugés à l'encontre des utilisateurs dans certaines régions ou pays, ou n'exclue un grand nombre d'éditeurs de contenu légitimes.

Afin de résoudre ce problème, les responsables exigent que les modérateurs chargés d'examiner le contenu utilisent des normes de preuve très strictes pour déterminer que le contenu publié par l'utilisateur est généré par l'IA avant de bannir le compte.

En vertu de la nouvelle réglementation, les normes utiles utilisées par les modérateurs en fonction du style d'écriture des utilisateurs et du comportement du forum ne seront plus utilisées, car cela n'est pas considéré comme « strict ».

A officiellement déclaré que les méthodes utilisées par les modérateurs ne peuvent pas être jugées à 100%.

En même temps, le détecteur GPT n'est pas recommandé dans l'avis officiel. Le taux de faux positifs est trop élevé, inacceptable et ne peut pas être utilisé comme indicateur fiable pour le jugement.

Bref, la nouvelle réglementation restreint officiellement le pouvoir des modérateurs. Seules les conclusions tirées d’un examen strict des preuves peuvent être adoptées et d’autres mesures (telles que la suspension du compte, etc.) peuvent être prises.

Toute méthode qui repose sur l'intuition et la conjecture ne doit plus être utilisée.

Pourquoi doit-on faire grève ? Plainte de sang et de larmes d'un modérateur

Un modérateur a posté sur Stack Overflow et a expliqué en détail les raisons pour lesquelles les modérateurs ont dû choisir de faire grève.

ta a dit que tout le monde fait cela plus ou moins pour le bénéfice de toute la communauté.

Fin novembre 2022, avec le lancement de ChatGPT, un grand nombre d'utilisateurs ont commencé à télécharger frénétiquement des réponses générées par l'IA.

Réponses générées à l'aide de ChatGPT, comparées à celles de vrais utilisateurs Les réponses sont très similaires. Ensuite, publiez les réponses générées.

En une heure et demie, il a posté 9 réponses et a reçu 1 acceptation, 3 pouces levés et 62 points de réputation.

Par la suite, ces réponses copiées-collées aléatoirement de ChatGPT ont rapidement généré d'énormes The Les internautes attendent avec impatience la situation de suivi.

Les internautes qui ont joué avec des fleurs ont attiré l'attention de l'équipe d'examen, La sonnette d'alarme s'est déclenchée et de nouvelles règles ont été immédiatement formulées pour Stack Overflow.

Les nouvelles règles ont naturellement du sens Depuis sa création en 2008, Stack Overflow s'appuie sur l'examen des bénévoles de la communauté pour maintenir ses opérations.

Mais les réponses générées par ChatGPT semblent généralement bonnes, et d'innombrables internautes publient ces réponses comme des fous, ce qui imposera un énorme fardeau aux bénévoles.

Par conséquent, la communauté a dû émettre une interdiction.

Le modérateur a déclaré qu'après l'émission de l'interdiction, les modérateurs ont travaillé dur , a directement participé à l'équipe de gestion de la communauté et a aidé à mettre en œuvre cette nouvelle politique dans cette communauté sous tous ses aspects.

Et le processus de traitement des publications est également très gênant.

L'équipe d'évaluation utilisera des scripts JavaScript pour faciliter l'évaluation. Lorsque des outils sont nécessaires, ils les rédigeront directement. Ils étendent également les fonctionnalités du site Web existant.

Chaque jour, les modérateurs sont confrontés à un grand nombre de publications et vivent des situations telles que des abus.

Les modérateurs étaient donc très fatigués après avoir reçu l'interdiction de la nouvelle version lundi. Après tout, nous sommes tous des bénévoles et non des employés réguliers. Ils ont assez donné à la communauté...

Les revendications des grévistes

Que veulent les modérateurs en grève ? En fin de compte, il s’agit de résoudre un problème.

Certaines questions nécessitent une reconnaissance officielle en personne, et certaines questions nécessitent que les employés en discutent ouvertement pour clarifier ce qui doit être fait.

Les règles ChatGPT sont des règles élaborées conjointement par l'ensemble de la communauté et qui ont reçu un large soutien.

Les employés ne doivent pas uniquement utiliser des canaux non publics (salons de discussion et équipes de modérateurs) pour apporter des modifications aux règles à grande échelle. L'utilisation de ces canaux signifie que la majorité des utilisateurs ne seront pas informés.

Il est demandé aux modérateurs de gérer les drapeaux selon une règle qui n'a jamais été rendue publique. En fait, tout sur le site indique que l’ancienne politique est toujours en vigueur.

Par conséquent, les modérateurs recevront toujours des drapeaux qui ne peuvent pas être traités conformément à cette politique. Finalement, la communauté remarquera certainement la différence.

Les quelques modérateurs qui publient pour expliquer les changements de politique avant que l'annonce ne soit rendue publique courent en réalité le risque de perdre leur pouvoir de modérateur et de perdre l'accès à l'équipe de modération. C'est très injuste pour les modérateurs.

Philippe a posté avec colère critiquant les nouvelles réglementations. Il a déclaré que l'éventuelle discrimination raciale qui inquiète le responsable est une accusation pure et simple. Mais évidemment, personne ne veut être accusé de racisme.

Au pire, les nouvelles règles reflètent une perception du personnel selon laquelle les modérateurs et la communauté sont en désaccord les uns avec les autres.

Le personnel était très vague sur la politique (comme indiqué précédemment, il existe des différences entre les politiques publiques et privées) et n'a pas fourni d'exemples spécifiques de choses qui, selon eux, n'étaient pas faites correctement.

Ils veulent que les modérateurs arrêtent d'utiliser les détecteurs GPT comme seul critère, ce qui est certes possible, mais pour quelqu'un qui a posté une douzaine de réponses longues en deux heures, il est évident que ces réponses sont définitivement. Ils n'ont pas tout écrit eux-mêmes , ils ne faisaient que copier-coller les réponses aux questions.

Conformément à notre politique, c'est inacceptable, mais comment les modérateurs devraient-ils gérer cela ?

Les modérateurs peuvent-ils utiliser des outils de détection sans preuve directe de plagiat ?

Cependant, la réalité est que personne ne dit aux modérateurs ce qu'ils doivent faire exactement...

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!