ホームページ > 記事 > テクノロジー周辺機器 > MITのアンドリュー・マカフィー博士がAI規制への新たなアプローチを明らかに
人工知能の誕生以来、人工知能をどのように規制するかについての議論が絶えることはありません
しかし、実際には、AI をどのように規制するかは非常に複雑なトピックです。EU の人工知能法や米国の人工知能責任ポリシーなど、国や地域によって規制政策や枠組みも異なります。中国の「生成型人工知能サービス管理に関する暫定措置」などでは、AIの定義、分類、リスク分類、責任分担などについて、いくつかの規範や要件を打ち出している。
ポルトガルのリスボンで最近開催された 2023 年の Web サミットで、MIT スローン経営大学院の主任研究員であるアンドリュー マカフィー氏は、新しいアイデアである「パーミッションフリー イノベーション」をもたらしました。この概念は、これまでに提案された人工知能規制の多くの計画とは真っ向から対立しています。
「許可不要」は本当に災難をもたらさないのでしょうか?
この注目度の高いスピーチの中で、彼は上流ガバナンスとパーミッションレスイノベーションという 2 つの概念について言及しました。このうち上流ガバナンスとは、技術革新が起こる前に、それがもたらすリスクや影響を予防的に監督・管理することを意味しますその反対は、許可のないイノベーションです。これは、政府やその他の機関から事前に許可を得ることなく、新しいテクノロジーや新しいビジネス モデルを実験および探索する自由を指します。
アンドリュー・マカフィーは、次の 3 つの理由から、無料のイノベーションを明確に支持しています。
アンドリューは、この問題は基本的に規制のタイミングの問題である、つまり「予防的ガバナンス」は実行されるべきではなく、的を絞った規制が実行されるべきである、と考えています。例えば、カメラ付きスマートフォンが登場した当初は、それを使って女性のスカートをこっそり撮影する人もいたが、当時は携帯電話のカメラがまだ新しいものであったため、女性の権利を保護するための関連法は存在しなかった。
その後、関連立法機関は、開発後のテクノロジーの使用を規制するための関連法規制を速やかに導入しました。つまり、包丁で人を傷つけた場合、規制によって包丁の切れ味を失わせるのではなく、より安全な包丁となるよう管理を強化する必要があるのです。
私たちがよく言うように、「開発の問題は開発を通じて解決しなければなりません。」 AIも同様で、AIの開発過程で発生する問題を動的に解決することが我々がやるべきことであり、AIの開発には何らかの危険が生じるからといって立ち止まることはできず、開発を制限することで危険を回避したいと考えています。アンドリュー氏の原文の言葉を借りれば、監督が真にその役割を果たすためには、「間違いを犯さないことを保証する」のではなく、「間違いを修正しやすくする」ことが必要である。
第二に、アンドリューは、私たちが AI の害を過大評価している可能性があると考えています。
AIの誕生以来、AIがもたらす大惨事に関するさまざまなニュースが絶えることはなく、核戦争やパンデミックなどと並べて、AIを「パンドラの箱」のような存在と考える人も少なくありません。センセーショナルなレベルに達しました。
しかし、アンドリュー博士は、私たちは AI に集中しすぎて、他の多くのより危険なテクノロジーを無視している可能性があると考えています。バイオテクノロジーを例に挙げると、誰もが審査や許可を必要とせずに関連する知識や機器にアクセスできます。バイオテクノロジーの分野で働く場合、審査や許可なしで多くのことができますが、これは不合理なバランスです。
最後に、そしておそらく最も重要なことですが、この「許可のないイノベーション」は創造性と想像力を刺激します
私たちは、イノベーションとは予測不可能で分散型の活動であるという基本的な常識を持っています。これがその中核的な特性です。特に AI がますます進歩する場合、将来の開発の方向性を予測することは困難です。強力な現在、方向性は今後の発展の兆しは、私たちが気づかないところに現れるかもしれません。
講演の冒頭で、彼は言語学習ソフトウェアである Duolingo APP についても言及し、これがパーミッションレス イノベーションの利点を説明できるのではないかと考えました。このアプリは最新のAI技術を活用し、より便利に、より早く、低コストで英語力を評価します。しかし、テクノロジーが市場に投入される前に、データ保護、アルゴリズムの透明性、人間による監視などの一連の要件を満たす必要がある場合、イノベーションのスペースとスピードが制限され、良い機会を逃すことになります。イノベーションのために。
パーミッションレスイノベーションはテクノロジーの分野でのみ使用されるわけではありません
実際、このパーミッションレス イノベーションの利点は、人工知能の分野にだけ反映されているわけではありません。2023 年の Web サミットの講演で、アンドリュー氏は、それぞれ mRNA とチャーチルの対話に関する 2 つの例についても言及し、パーミッションレスなコンセプトがいかに革新的であるかを示しています。他の分野でも使用できます
今年ノーベル医学・生物学賞を受賞したカタリン・カリコ氏は、10年間学界を離れていたが、当時、mRNA研究の方向性は一般に楽観的ではなかった。現時点でアイデアがあるとすれば「力があれば」 「将来を見据えたガバナンス(上流ガバナンス)」が介入すると、資金やプロジェクト、その他さまざまな理由でmRNAの研究が「将来を見据えて」放棄される可能性が高く、これは間違いなく人類全体にとって非常に深刻です。 . 大きな損失。
実は、「将来を見据えたガバナンス」の根幹は、将来を的確に判断することにあります。しかし、ブレイクアウトがどの方向に起こるかは誰にも予測できないことは明らかです。判断を誤ると、優れたイノベーションの多くの機会を失うことになります。これは、パーミッションレス イノベーションの概念の重要性を反映しています。
別の例は、第二次世界大戦勃発前夜の 1938 年に起こりました。戦争の影がヨーロッパを覆いました。当時のイギリス首相チェンバレンは、ミュンヘンとの接触の後、「宥和政策」の傑作である有名な「ミュンヘン協定」に署名しました。ヒトラー:ヒトラーと和平協定を結ぶことで平和を買えると考えている。しかしイギリスに戻った後、チャーチルは真実を明らかにし、チェンバレンや当時流行していた宥和的な傾向と決別した。彼はこう言った:「あなたは戦争と恥辱(ナチスとの契約の署名を指す)の間で選択できると考えたので、恥辱を選んだのですが、それでも戦争は避けられないのです。」アンドリュー氏が信じていることがわかります。 AIがもたらす危機は「予防的ガバナンス」では回避できないかもしれない。つまり、人類の前にあるのは「マイクロマネジメントの強化」か「混乱」の二者択一ではなく、どちらを選択してもAIによる混乱は避けられないのかもしれない。
もちろん、この原則には中国でもよく知られた名前があり、基本的なものを放棄し、劣ったものを追求します。人工知能が急速なトレンドになっている現在、新しい波にどう立ち向かうかに積極的に焦点を当てるのが良い姿勢かもしれません
以上がMITのアンドリュー・マカフィー博士がAI規制への新たなアプローチを明らかにの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。