AI規制に関してマスク氏は「旗を振り続け」続け、スナク氏も警告を発している！

木曜日、世界初の人工知能セキュリティサミットが英国で閉幕し、マスク氏と英国のスナク首相とのAI対話は業界の注目を集めた

その中で、マスク氏はAIの監視強化の重要性を改めて強調し、スナク氏もAIが核戦争と同様のリスクをもたらす可能性があると警告した。

AIの監督

二人の会話の中で、マスク氏は人工知能を「歴史上最も破壊的な力」と表現し、最終的には「最も賢い人間よりも賢いものを手に入れることになる」と語った。

同時に、彼は人工知能を「両刃の剣」に例えました。同氏によれば、この技術は少なくとも80％の確率で人類にとって有益であり、20％の確率で危険であり、人類が直面する「最大の脅威」の一つになる可能性があるという。

「人工知能は善をもたらす可能性を秘めていますが、悪をもたらす可能性もゼロではありません。」

人工知能が仕事にどのような影響を与えるかについてマスク氏は、人間の労働力は排除されるだろうと予測しています。

"ある日、 私達はします 作業は必要ありません。自分の欲求を満たす仕事がしたければ仕事を探すこともできますが、AIがすべてをやってくれるようになるでしょう。 」

「これが人々を快適にするかどうかは不透明であり、今後の課題の1つは、私たちが人生の意味をどのように見つけるかということになるでしょう。」

マスク氏は最近、規制について新たな見解を表明しており、「規制は確かに煩わしいものですが、長年にわたって、私たちは仲裁が良いことだと認識してきました。」と信じています。

同氏は、大手 AI 企業の活動傾向や潜在的な問題を迅速に発見するために、AI 企業の開発活動を監督する中立的な「第三者審判」組織の設立を提案しました。

効果的な人工知能の規制ルールを開発するには、その開発を深く理解する必要があるため、十分な理解がないまま時期尚早に関連ルールを策定することを心配していません。

人工知能のリスクを「管理し、軽減する」ために政府が何をすべきかについて質問されたマスク氏は、政府介入の必要性を認め、「1％未満の規制」には同意しないと述べた。

マスク氏は過去 10 年間、人工知能が人類の実存的脅威となる可能性があると警告してきました。人工知能のトレンドが世界中に広がる中、マスク氏は今年7月、「現実の理解」を目的としたxAIチームを結成すると発表した。彼はかつてこう言いました。「人工知能の安全性の観点からすれば、好奇心旺盛で宇宙を理解しようとする人工知能は人類にとって有益です。」

マスク氏とスナク氏は、「ターミネーター」シリーズや他のSF映画を参考に、ロボットが危険な方法で制御を失うことを防ぐために物理的な「スイッチ」が必要かもしれないという点で同意した。スナク氏は「同じプロットの映画はどれも、基本的に人々が映画の電源を切ることで終わる。」と述べた。

会議でスナク氏はまた、AIは核戦争に匹敵する規模のリスクを人間にもたらす可能性があると警告した。彼は、高度な AI モデルが公衆にもたらすリスクを懸念しています。

「このテクノロジーを開発している人々は、AI がもたらす可能性のあるリスクを提起していますが、それについてあまり警戒しないことが重要です。このテーマについては議論があります。業界の人々はこれについて同意しておらず、私たちも確かなことを知ることはできません。」 」

「しかし、それがパンデミックや核戦争の規模のリスクを引き起こす可能性があると信じる理由があります。だからこそ、私たちは指導者として、人々を守るために行動し、措置を講じる責任があり、それがまさに私たちが行っていることなのです。」

「ブレッチリー宣言」

前日、人工知能セキュリティサミットにおいて、英国政府は「ブレッチリー宣言」を発表した。

世界初の人工知能協定は、中国、インド、米国、欧州連合を含む 28 の国と地域の代表によって署名され、承認されました。この協定は、最先端の人工知能モデルの制御不能と悪用のリスクに対処することを目的としており、人工知能が「壊滅的な」損害を引き起こす可能性があると警告しています

AI のマニフェストには、AI が世界に大きなチャンスをもたらすと記載されています。 AI には、人間の幸福、平和、繁栄を変革または強化する可能性があります。同時に、AI は日常生活の分野でも重大なリスクをもたらします

「すべての問題は重大であり、我々はそれらに対処する必要性と緊急性を認識しています。」

AI によってもたらされるリスクの多くは本質的に国際的な問題であるため、国際協力を通じて対処するのが最善です

「これを達成するために、私たちは、AI がすべての人の利益のために、安全で人間中心、信頼できる責任ある方法で設計、開発、導入、使用されるべきであることを確認します。」

この声明では、関係者全員が、潜在的に有害な機能および関連する可能性のある影響に対処し、透明性と説明責任を提供するために状況に応じて適切な計画を策定することが奨励されていると述べられています。特に、虐待や管理の問題、その他のリスクの拡大を防止します。

協力という文脈において、この宣言は 2 つの主要な点に焦点を当てています: まず、共通の懸念事項である AI セキュリティ リスクを特定し、それに対する科学的かつ証拠に基づいた「認知的理解」を構築し、能力が向上し続けるにつれてこれを維持します。そしてAIが私たちの社会に与える影響に対する、より広範なグローバルなアプローチです。

2. 各国はリスクに基づいた政策を策定し、相互に協力する必要があります。 「この課題を前進させるために、私たちはまだ完全には理解されていない AI のリスクと能力についての理解を深めるために、最先端の AI 安全科学研究の国際的な包摂的なネットワークを支援することを決意しています。」

次回の人工知能セキュリティサミットは2024年に韓国とフランスが主催すると報じられています。

以上がAI規制に関してマスク氏は「旗を振り続け」続け、スナク氏も警告を発している！の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。