上院司法公聴会：AIは制御が難しく、悪意のある分子が生物化学兵器の開発に利用する可能性がある

海外メディア TechCrunch によると、7 月 26 日、米国上院司法委員会は昨日、人工知能に関する公聴会を開催し、会議中、多くの AI 業界関係者が、人間の存在について警告したとのことです。急速に発展する AI を適切に制御できないため、AI は今後数年間で深刻な危害を引き起こす可能性があり、悪意のある分子が監視を回避する AI ツールを使用して生物化学兵器を作成する可能性があります。

公聴会の議長を務めた上院司法委員会小委員会のリチャード・ブルメンソール委員長は、人類は当時信じられなかった新技術を発明できる能力を証明したと述べた。同氏はAIをアメリカの第2次「マンハッタン計画」やNASAの第2次「有人月面着陸計画」と比較したが、聴衆の業界代表者らはAIに対してさらなる懸念を示した。 アメリカのAIスタートアップ、アンスロピック社のダリオ・アモデイ最高経営責任者（CEO）は公聴会で、最先端のAI技術がわずか2年で危険なウイルスやその他の生物化学兵器を作成するために使用されるのではないかと懸念していると述べた。

、同社は以前 Google から 3 億米ドル (IT House 注: 約 21 億 4,700 万元) の投資を受けており、「より信頼性の高い」 AI モデルをトレーニングするために Google のデータセンターに依存しています。

モントリオール大学の AI 教授であり、「現代 AI 科学の父」であるヨシュア ベンジオ氏は、GPT-4 などのモデルによって達成された大きな飛躍に衝撃を受けたと述べ、## を信じていると述べました。 #現在、各国はAIの開発を制御し、原子力技術規制ルールと同様のシステムを確立するために協力することを積極的に実行する必要があります。

カリフォルニア大学バークレー校のコンピューターサイエンス教授であるスチュアート・ラッセル氏は、現在の人工知能の仕組みは予測不能に満ちていると考えており、他の制御可能で強力なテクノロジーと比較すると、現段階の人工知能には、これはスーパー管理ツールであるため、人工知能の真の意図と人工知能が実行する可能性のあるすべてのアクションを正確に理解することはできません。

レポートによると、過去 6 か月間、業界は一般に、人工知能の重要な点は次のとおりであると信じてきました。ハリウッド大作映画に「スーパーAI」が登場するかもしれない時期が数十年からわずか数年に早まり、「スーパーAI」がもたらす可能性のあるさまざまな問題について各界から広く懸念が広がっている

以上が上院司法公聴会：AIは制御が難しく、悪意のある分子が生物化学兵器の開発に利用する可能性があるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。