OpenAIの創設者を含む約400人の著名人がAIのリスクについて警告する公開書簡に署名

経済監視ネットワーク記者任暁寧 東部時間5月30日、米国の非営利団体である人工知能セキュリティセンター（CAIS）は共同公開書簡を公式ウェブサイトに掲載し、次のように述べた。 AIは「パンデミック」や「核戦争」に匹敵し、人類に滅亡のリスクをもたらす可能性があるという。

公開書簡には一文しかありません:「人工知能によってもたらされる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと同じレベルで世界的な優先事項になるべきです。」

現在、OpenAI CEOのサム・アルトマン氏、Google DeepMind CEOのデミス・ハサビス氏、Anthropic CEOのダリオ・アモード氏など、大手AI企業3社のトップを含む370名以上のAI業界の大物が上記の共同公開書簡に署名している。

チューリング賞受賞者で人工知能の「ゴッドファーザー」として知られるジェフリー・ヒントン氏とヨシュア・ベンジオ氏もこの公開書簡に署名した。

署名リストには、中国工程院の学者で清華大学知能産業研究所所長の張雅琴氏、清華大学人工知能倫理・ガバナンス研究センター所長の曽毅氏など、中国人学者も名を連ねている。中国科学院オートメーション研究所、清華大学准教授のZhan Xianyuan氏。

このリストは主に世界的に有名な大学の教授で構成されており、次に人工知能の科学者、そして元エストニア共和国大統領のケルスティ・カルユライド氏などの政治家も含まれています。

このリストに載っている人の数はまだ増え続けています。経済監視ネットワークの記者は、CAISの公式ウェブサイトで、人工知能の科学者や著名人（幹部、教授、指導者）が署名入りの声明を提出し、確認メールを受け取ることができることを確認した。

CAIS は、米国サンフランシスコにある非営利団体で、人工知能のセキュリティに重点を置いています。彼らは公式ウェブサイトで、人工知能（AI）が安全に開発および適用できる限り、世界に多くの利益をもたらすことが期待されると述べた。人工知能は目覚ましい進歩を遂げていますが、人工知能の安全性に関しては、解決すべき基本的な問題がまだ多くあります。彼らの使命は、安全性研究を実施し、AI 安全性研究分野を確立し、安全基準を提唱することによって、人工知能に関連する社会規模のリスクを軽減することです。

今年 3 月には、数千人の外国の著名人も AI のリスクについて警告する公開書簡に署名しました。 3月29日、テスラの創設者イーロン・マスク氏、チューリング賞受賞者のヨシュア・ベンジオ氏らは非営利団体フューチャー・オブ・ライフ研究所のウェブサイトで共同発表を行い、GPT-4より強力なAIシステムの開発中止を求めた。 「社会と人類に潜在的なリスクをもたらす」と述べ、少なくとも6カ月の猶予期間を設けた。

現在、OpenAI は GPT-5 の開発を停止しています。

ヨシュア・ベンジオ氏は署名の理由について言及し、この公開書簡は学界と産業界に次のことを思い出させることができると述べた：私たちは時間をかけてこれらの制度をよりよく理解し、国民の保護を強化するために国内および国際レベルで必要な枠組みを開発する必要がある. .この公開書簡への署名の影響はそれほど大きくないかもしれないが、少なくとも社会全体で議論を引き起こすことになるだろう。

海外では、ChatGPT の使用が広がるにつれて、暴露のリスクが徐々に増加しています。 3月28日、ベルギーのメディアLaLibreによると、30歳のベルギー人男性が、EleutherAIが開発したオープンソースの人工知能言語モデルであるチャットボットELIZAとの数週間にわたる集中的なコミュニケーションの後に自殺した。

5月22日に国防総省近くの地域で起きた爆発を示す写真は、ソーシャルメディア上ですぐに拡散した。偽写真の広範囲にわたる拡散により、S&P500指数は短期的に約0.3％下落し、上昇から損失に転じた。その後、米国防総省の報道官は、これがAIによって生成された偽の写真であることを確認したが、この写真には、街路灯が少し曲がっていたり、歩道にフェンスが生えていたりするなど、明らかなAIによって生成された特徴があった。

AI カバーソングがトレンドになったことを受け、世界の音楽市場の 3 分の 1 近くを支配するユニバーサル ミュージックは、Apple や Spotify などのストリーミング メディア プラットフォームに対し、同社のメロディーや音楽性を侵害する AI 作品を禁止するよう求める書簡を発行しました。歌詞の著作権。

以上がOpenAIの創設者を含む約400人の著名人がAIのリスクについて警告する公開書簡に署名の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。