GPT-4は懸念を引き起こし、マスク氏を含む何千人もの技術関係者がより強力なAI開発の一時停止を求めている

3月29日、アメリカOpenAI社の人工知能会話モデルChatGPTが世界的な注目を集めました。投資家のマイクロソフトは、その背後にある最新モデルである GPT-4 が将来の人類に与える影響を評価し始めました。 GPT-4 は、人間のような言語を生成できる大規模なマルチモーダル モデルであり、模擬司法試験に合格し、上位のスコアを獲得できるなど、さまざまな専門的および学術的な標準テストで人間レベルのパフォーマンスを実証しています。 10%。

しかし、GPT-4には社会や人間に悪影響を与える可能性のある潜在的なリスクもいくつかあります。テスラの創設者イーロン・マスク氏と1000人以上の人工知能専門家や業界幹部らは、公開書簡の中で、セキュリティプロトコルのセットが共有され、独立した専門家による監査が行われるまで、GPT-4より強力なシステムの開発を6か月間一時停止するよう求めた。彼らはまた、高度なAIシステムが引き起こす可能性のある経済的および政治的不安定にも言及し、開発者に対し政策立案者と協力して規制機関を設立するよう求めた。

この書簡は非営利団体Future of Life Instituteによって発表され、マスク氏、Apple共同創設者のスティーブ・ウォズニアック氏、Stability AI CEOのエマド氏も含まれており、モスタク氏を含む1,000人以上が署名した。

この書簡には、「強力な人工知能システムは、その効果がプラスであり、そのリスクが制御可能であると確信できる場合にのみ開発されるべきである。」

さらに、ユーロポール欧州国際刑事警察機構は、倫理的問題も提起しました。そして月曜日には、ChatGPTなどの高度な人工知能に関する法的懸念が表明され、そのようなシステムがフィッシング、偽情報、サイバー犯罪に悪用される可能性があると警告された。 Microsoftが支援するOpenAIのChatGPTは昨年のリリース以来、ライバル各社に同様の製品の発売を促し、多くの企業がそれや類似のテクノロジーを自社のアプリや製品に統合している。

IT House の理解によれば、OpenAI は以前、GPT-4 をより事実に即し、制御可能にし、安全範囲を超えないようにするために 6 か月をかけて繰り返し調整してきたと述べました。まだ）。

以上がGPT-4は懸念を引き起こし、マスク氏を含む何千人もの技術関係者がより強力なAI開発の一時停止を求めているの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。