集団ストライキだ！ 200人以上のStack OverflowモデレーターがChatGPTが「ジャンクコンテンツ」の氾濫を引き起こしていると非難

ChatGPT が最初に登場したとき、そのコード生成機能が人々にとって非常に目新しいものであったことは、今でも誰もが覚えています。

しかし、あらゆる種類の怪しげで区別が難しい回答が殺到したため、Stack Overflow は一夜にして禁止命令を出すことを余儀なくされました - ChatGPT、禁止!

具体的には、Stack Overflow モデレータは、ChatGPT などの AI 生成コンテンツを公開している疑いのあるアカウントを禁止し、投稿を直接削除する権利を有します。

しかし、Stack Overflow は最近このような新しいルールを発行しました:

現時点では、 AI によって生成されたコンテンツを正確に識別することはできず、「誤検知」の可能性が非常に高いため、このような過剰な禁止措置は、Web サイトから多くの投稿ネチズンを失う可能性があります。

したがって、モデレーターは、それが真実で検証可能な場合にのみアカウントを禁止できます。書き方などの主観的な推測も、GPT 検出器の結果も、測定の基準として使用することはできません。

このルールが公開されるとすぐに、モデレータはすぐにパニックになりました。

彼らの見解では、これは単に LLM 幻想の不当な蔓延に対するあからさまな黙認であり、コミュニティのクリーンな環境の公然たる破壊、道徳の喪失、そして人間性の歪みです。自然...

怒りに任せてストライキを起こした司会者もいる。

AI の侵略からコミュニティを守りましょう

一部のモデレータとユーザーは、新しいルールについて怒りを込めて公開書簡を書きました。誰もが心の中にあるコード Q&A の聖地である Stack Overflow を完全に破壊します。

彼らは、AI によって生成されたコンテンツが「プラットフォームとコンテンツの完全性と信頼性に対して大きな脅威となる」と憤りを表明しました。運営者の決定は、「高品質な情報基盤」を目指すスタック・オーバーフローの目標を損なうことになる。

これまでは、モデレーターは、投稿の内容が AI によって生成されたと信じている限り、投稿を削除したり、アカウントを禁止したりすることができました。

しかし現在、この基準は非常に厳しくなっています。過去に使用されていた通常の方法は、現在では適用できません。

これらのモデレータは、これにより、将来的には AI で生成されたコンテンツが、コミュニティの評価に関係なく Stack Overflow で公開されるようになる、と考えています。

今後、Stack Overflow を開くと、大量のエラー メッセージや盗用されたコンテンツが表示されることになるでしょう。 . .

さらに、新しいポリシーは、Stack Exchange コミュニティから独自のポリシーを定義する余地を奪います。

残念ながら、これまでのところ、オペレーターとモデレーターはまだ良好な直接コミュニケーションを実現できていません。モデレーターができる最後のことは、ストライキを行ってプラットフォームにもう反対しないことを選択することです。投稿は審査されます。

彼らの見解では、彼らのストライキはコミュニティを「価値の完全な喪失から」救う最後の手段です。

モデレーターの公開抗議文の全文

コンテンツが削除された後、Stack Overflow は新たな「禁止」を発行し、Stack Exchange 上で誤った情報と野放しの盗作が蔓延することを許可しました。これは、プラットフォームとそのコンテンツの完全性と信頼性に重​​大な脅威をもたらします。

下記の署名者は、Stack Overflow と Stack Exchange のボランティアのモデレータ、貢献者、およびユーザーです。

本日より、私たちは Stack Overflow という会社のあり方、そして今後のあり方に抗議するため、Stack Overflow と Stack Exchange に対してゼネストを実施します。将来的に私たちに課せられるポリシーとプラットフォームのルールの変更。

合理的な手段を通じてプラットフォームの変更を達成しようとする私たちの努力は無視され、私たちの懸念も無視されました。現在、最後の手段として、私たちは 10 年以上のケアとボランティア活動に投資してきたプラットフォームから撤退します。

私たちは、Stack Exchange の中核となる使命、つまり質問と回答の形式で高品質の情報リポジトリを提供することを強く信じていますが、Stack Overflow, Inc. による最近の行為はその使命を直接損なうものです。その目標。

具体的には、場合によっては、モデレータが AI によって生成された回答を削除する理由として AI によって生成された回答を使用することができなくなります。これにより、AI が生成したほぼすべての回答を、そのようなコンテンツに関する確立されたコミュニティのコンセンサスに関係なく、自由に公開することができます。

これにより、プラットフォーム上で誤った情報 (一般に「幻想」として知られる) や盗作が蔓延することになります。

Stack Overflow, Inc. が以前に指摘したように、これはプラットフォームに対する私たちの信頼を損なうものです。

さらに、モデレーターに直接送信されるポリシーの詳細は、一般に概要が示されているガイドラインとは大きく異なり、モデレーターはこれらの詳細を公に共有することは禁止されています。

これらのポリシーは、各 Stack Exchange コミュニティに独自のポリシーを決定するために以前に与えられていた自由を無視し、コミュニティと意見を交換することなく直接変更を加え、コミュニティのコンセンサスを覆し、考えることを拒否します。行動する前に。

この問題が満足のいく解決が得られるまで、当社は以下を含むがこれらに限定されないこれらの活動を停止します。

· 投稿と投稿ハンドル フラグ

#· スパム対策ロボット、SmokeDetector を実行します

#· 投稿を閉じるか、投稿を閉じるために投票してください

・投稿の削除または削除に投票

・キュー内のタスクを確認します

・レビューを支援するボットを実行しますStack Overflow Inc. の

は、モデレーターの懸念に対処し、モデレーターが確立されたポリシーを効果的に施行できるようにするために、この新しいポリシーを撤回します。 AI が生成した回答に対する反対 この方針に先立って、私たちはゼネストを呼びかけました。これは、Stack Exchange プラットフォームとユーザーを価値の完全な損失から守るための最後の努力です。

同時に、私たちは Stack Overflow に対して、ボランティアに完全に依存しているネットワークがこれらのボランティアを無視し、虐待し、非難し続けることはできないことを思い出させたいと思います。

Stack Overflow の新しいポリシー

新しい規制には、Stack Overflow が現在のコンテンツ レビュー方法について一連の分析を正式に実施したと記載されています。 AI によって生成されたコンテンツ レビュー メカニズムが正確ではないことが判明しました。

つまり、一部のコンテンツが AI によって生成されたかどうかの判断は必ずしも正しいとは限らず、責任を負うモデレーターやボランティアが誤った判断をする可能性があります。

当局は、この措置が特定の地域や国のユーザーに対する偏見を助長したり、多数の正規のコンテンツ発行者を排除したりするのではないかと懸念している。

この問題を解決するには、コンテンツのレビューを担当するモデレータが非常に厳格な証拠を使用する必要があるという公式要件があります。アカウントを禁止する前に、このユーザーが投稿したコンテンツが AI によって生成されたかどうかを判断する基準。

新しい規制では、モデレータがユーザーの書き方やフォーラムの行動に基づいて通常使用する有用な標準は、「厳格」とはみなされないため、使用されなくなります。

当局者は、司会者が使用した手法を100%裁定することはできないと述べた。

同時に、GPT 検出器は公式見解では推奨されていません。偽陽性率は高すぎて容認できず、信頼できる判断指標として使用できません。

つまり、新しい規制はモデレータの権限を正式に制限します。厳格な証拠審査を通じて得られた結論のみが採用され、さらなる措置（アカウント停止など）が講じられることがあります。

直感や推測に頼る方法は、今後は使用すべきではありません。

なぜ攻撃しなければならないのでしょうか?モデレーターの血と涙の苦情

モデレーターが Stack Overflow に投稿し、モデレーターがストライキを選択しなければならなかった理由を詳細に説明しました。

ta さんは、誰もが多かれ少なかれコミュニティ全体の利益のためにこれを行っていると言いました。

2022 年 11 月下旬、ChatGPT の開始により、多くのユーザーが AI によって生成された回答を必死にアップロードし始めました。

#ChatGPT を使用して生成された回答は、実際のユーザーが提供した回答と非常によく似ています

たとえば、以下のネチズンは、最初に新しいアカウントを作成し、次に回答のないランダムな質問を ChatGPT に投稿し、生成された回答を投稿したと述べています。

1 時間半以内に、彼は 9 件の回答を投稿し、1 件の承認、3 件の承認、および 62 の評判ポイントを受け取りました。

その後、ChatGPT からランダムにコピー アンド ペーストされた回答は、すぐに大きな影響を与えました。このネチズンは非常に楽しみにしています。フォローアップケースへ。

## 新しい規制。

新しいルールは当然のことですが、Stack Overflow は 2008 年の設立以来、運営を維持するためにコミュニティのボランティアのレビューに依存してきました。

しかし、ChatGPT によって生成される回答は通常、見栄えがよく、無数のネチズンがこれらの回答を熱心に投稿しているため、ボランティアにとっては大きな負担となります。

したがって、コミュニティは禁止を発行する必要がありました。

###########モデレーターは、禁止令が出された後、モデレーターは熱心に働き、コミュニティ管理チームに直接参加したと述べました。この新しいポリシーがこのコミュニティで実装されるのに役立つ側面があります。 ############投稿の処理も非常に面倒です。 ############レビュー チームはレビューを支援するために JavaScript スクリプトを使用し、ツールが必要な場合はツールを直接作成します。また、既存の Web サイトの機能も拡張します。 ############モデレーターは毎日、大量の投稿に対処し、虐待などの状況を経験します。 ############ したがって、月曜日に新しいバージョンの禁止を受けた後、モデレーターは非常に疲れていました。結局のところ、私たちは全員がボランティアであり、正社員ではありません。彼らはコミュニティに十分な貢献をしてきました...######

ストライカーの要求

ストライカーの司会者は何を望んでいますか?最終的には問題解決に行き着きます。

問題によっては、本人による公式承認が必要な場合もあれば、従業員が何をすべきかを明確にするためにオープンに議論する必要がある問題もあります。

ChatGPT ルールは、コミュニティ全体によって共同開発されたルールであり、幅広いサポートを受けています。

従業員は、大規模なルール変更を行うために非公開チャネル (チャット ルームやモデレーター チーム) だけを使用するべきではありません。これらのチャネルを使用すると、大多数のユーザーがそれに気付かないことになるためです。それの。

モデレーターは、公開されていないルールに従ってフラグを処理する必要があります。実際、サイト上のあらゆるものは、古いポリシーがまだ有効であることを示しています。

したがって、モデレーターは、このポリシーに従って処理できないフラグを引き続き受け取ることになります。最終的に、コミュニティは間違いなく違いに気づくでしょう。

発表が公開される前にポリシーの変更を説明するために投稿する少数のモデレーターは、実際にはモデレーターの権限を失い、モデレーター チームにアクセスできなくなるリスクにさらされています。これはモデレーターにとって非常に不公平です。

フィリップ氏は、当局が懸念している人種差別の可能性は赤裸々な非難であると、新たな規制を怒って批判する投稿を投稿した。しかし、明らかに、誰も人種差別で非難されることを望んでいません。

最悪の場合、新しいルールはモデレーターとコミュニティが対立しているという従業員間の認識を反映しています。

スタッフのポリシーの文言は非常に曖昧で（前述したように、公的ポリシーと私的ポリシーには違いがあります）、何かが間違っていると感じた具体的な事例は示されていませんでした。

彼らは、モデレーターが GPT 検出器を唯一の基準として使用するのをやめることを望んでいます。確かにそれは可能ですが、2 時間で 12 件以上の長い回答を投稿した人にとっては、それはそうです。これらの回答はすべて自分で書いたものではなく、質問に答えるためにコピー＆ペーストしているだけであることは明らかです。

ポリシーによれば、これは容認できませんが、モデレータはどのように対処すればよいのでしょうか?

モデレーターは、盗作の直接の証拠がなければ検出ツールを使用できますか?

しかし、実際には、モデレータに正確に何をすべきか誰も指示しません...

以上が集団ストライキだ！ 200人以上のStack OverflowモデレーターがChatGPTが「ジャンクコンテンツ」の氾濫を引き起こしていると非難の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。