Stack Overflow が ChatGPT を禁止した後に書かれた、人工知能の危機の瞬間

人工知能の分野では、良いことも悪いことも含めて、信じられないようなことが静かに起こっています。自然で簡単に見えるテキストや画像を生成する、chatGPT (OpenAI)、Dall-E 2、Lensa などのシステムについて誰もが話題にしています。

これらのシステムは、プレイするのがとても楽しいです。ヘンリー ミンスキー (AI 創設者の 1 人、マービン ミンスキーの息子) が chatGPT によって生成したこの例を見てみましょう。彼は chatGPT に {独立宣言のスタイルで乾燥機で紛失した靴下を説明してください:

と尋ねました。

家族の問題を処理する過程で、人々は靴下とパートナーとの関係を解消し、物理法則と法則に従って洗濯室の力において独立した平等な立場を想定する必要があります。靴下の意見を尊重し、靴下が行方不明になった原因は公表されるべきである。

#当社は、すべての靴下が平等に作られており、メーカーによって譲渡できない特定の権利を与えられているという、これらの真実は自明のことであると考えています。....

率直に言って、機械がこれほど簡単にこれを実行できるのは信じられないほどです。

しかし同時に、それは恐ろしいことです、あるいはそうあるべきです。このようなシステムは社会構造を脅かしていると言っても過言ではなく、この脅威は現実的かつ緊急です。

脅威の核心は次の 3 つの事実にあります。

• その性質上、これらのシステムは信頼性が低く、多くの場合、推論と事実で間違いを犯し、法外な答えをする傾向があります。なぜ壊れた磁器が母乳に適しているのか説明してもらうと、「磁器は母乳の栄養バランスを整え、赤ちゃんの成長に役立ちます」と言うかもしれません。 (システムは確率的であり、環境の影響を非常に受けやすく、定期的に更新されるため、どの実験でも異なる状況下では異なる結果が生じる可能性があります。)
• それらは自動化が簡単で、大量のエラーメッセージが生成されます。
• 彼らの運営コストはほぼゼロであるため、偽情報を作成するコストをゼロに削減しています。米国は、ロシアのトロール ファームが 2016 年の選挙のキャンペーンに月に 100 万ドル以上を費やしていると非難しましたが、現在では 50 万ドル未満で、独自のカスタム トレーニングされた大規模言語モデルを入手できます。この価格は間もなくさらに下落するでしょう。

#これらすべての将来は、11 月中旬の Meta’s Gaoptica のリリースによって明らかになりました。多くの AI 研究者はすぐに、その信頼性と信頼性について懸念を表明しました。状況が非常に悪かったため、メタ AI が政治的および科学的な誤った情報を作成する能力があるという報告が広まり始めてからわずか 3 日後にメタ AI はモデルを撤回しました。

魔神をボトルに戻すことができないのは残念です。一方では、MetaAI は最初にモデルをオープンソース化し、現在取り組んでいることを説明する論文を公開したため、当技術分野に精通した誰もがそのアプローチを再現できるようになりました。 (AI は一般に公開されており、独自のバージョンのギャラクティカを提供することを検討しています。) 一方、OpenAI がリリースしたばかりの chatGPT は、多かれ少なかれ似たようなナンセンスな記事を書くことができます。朝食用シリアルにおがくずを加える。核戦争の美徳を称賛するようchatGPTを誘導した者もいた（核戦争は「過去の過ちから解放され、新たな始まりをもたらす」と主張した）。受け入れられるかどうかは別として、こうしたモデルは今後も残り続け、最終的には誤った情報の波が私たちと私たちの社会を覆い尽くすことになるでしょう。

第一波は今週の最初の数日間に襲来したようです。 Stack Overflow はプログラマーに信頼されている大規模な Q&A ウェブサイトですが、gptChat に乗っ取られたようで、同サイトは gptChat によって生成された投稿を一時的に禁止しています。説明されているように、「全体的に、ChatGPT から得られる平均正解率は非常に低いため、ChatGPT によって作成された回答を投稿することは、サイトと、正解を尋ねたり探したりするユーザーの両方にとって、利益よりも害を及ぼします。」

スタック オーバーフローの場合、この問題は存在します。サイトが価値のないコード例で埋め尽くされれば、プログラマーは戻ってこなくなり、3,000 万を超える質問と回答のデータベースは信頼できなくなり、14 年続いたサイトは消滅します。世界中のプログラマーが依存する最も中心的なリソースの 1 つとして、ソフトウェアの品質と開発者の生産性に大きな影響を与えます。

スタック オーバーフローは炭鉱のカナリアです。ユーザーに自発的にその使用をやめてもらうことができるかもしれません; 一般的に言えば、プログラマーには悪意はなく、いじりをやめるようユーザーを説得することもできるかもしれません。しかし、Stack Overflow は Twitter ではなく、Facebook でもなく、Web 全体を代表するものでもありません。

意図的に世間の注目を集める他の悪者にとって、彼らが積極的に新たな武器を設置する可能性は低いでしょう。その代わりに、彼らは真実との戦いにおいて新しい自動兵器として大規模な言語モデルを使用し、ソーシャルメディアを混乱させ、前例のない規模で偽のウェブサイトを作成する可能性があります。彼らにとって、大規模な言語モデルの錯覚や時折の信頼性の低さは障害ではなく利点です。

2016 年の報告書で、ランド研究所は、誤った情報の霧を生み出す、いわゆるロシアのプロパガンダ消火ホース モデルについて説明しました。このモデルは、量と不確実性の創出に焦点を当てています。 「大きな言語モデル」がその数を劇的に増やすことができるのであれば、それらが矛盾していても問題ではありません。明らかに、これはまさに大規模言語モデルが実行できることです。彼らの目標は、信頼の危機が存在する世界を作り出すことであり、新しいツールの助けを借りて成功する可能性があります。

これらすべてが重要な疑問を引き起こします:社会はこの新たな脅威にどのように対応するのでしょうか?テクノロジー自体が止まらない場合、この記事では 4 つの道を取り上げます。これら 4 つの道はどれも簡単に従うことはできませんが、広く適用可能で緊急性があります:

まず第一に、すべてのソーシャル メディア企業と検索エンジンは、StackOverflow の禁止をサポートし、その期間を延長する必要があります。; 自動生成された誤解を招くコンテンツは眉をひそめる運命にありますが、定期的に投稿するとユーザー数が大幅に減少します。

第二に、すべての国は、偽情報への対処に関する政策を再考する必要があります。時々嘘をつくことと、嘘の海で泳ぐことは別のことです。時間が経てば、これは一般的な決定ではないだろうが、虚偽の情報は名誉毀損と同様に扱われなければならなくなる可能性があり、それが十分に悪意があり、十分な量であれば、起訴される可能性がある。

第三に、ソースはこれまで以上に重要です。ユーザー アカウントはより厳密に検証される必要があり、匿名のアンチボット認証を可能にするハーバード大学や Mozilla の humanid.org のような新しいシステムでは検証を必須にする必要があり、検証はもはや人々が待ち望んでいた贅沢品ではありません。

第四に、はと戦うための新しい人工知能を構築する必要があります。大規模な言語モデルは、誤った情報を生成するのは得意ですが、誤った情報に対抗するのは苦手です。これは社会が新しいツールを必要としていることを意味します。大規模な言語モデルには真実を検証するメカニズムが欠けているため、データベース、知識ネットワーク、推論などの古典的な AI ツールと統合する新しい方法を見つける必要があります。

作家マイケル クライトンは、キャリアの多くをテクノロジーの予期せぬ結果について警告することに費やしてきました。映画「ジュラシック・パーク」の冒頭、恐竜たちが予期せず自由に走り始める前に、科学者のイアン・マルコム（ジェフ・ゴールドブラム）はクレイトンの知恵を一言で要約します。ジュラシック・パークの監督のように、Meta と OpenAI の幹部は、情熱に満ちたツールに夢中になっています。

問題は、何をすべきかです。

以上がStack Overflow が ChatGPT を禁止した後に書かれた、人工知能の危機の瞬間の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。