OpenAI、「超インテリジェント」人工知能を制御する新チームを発表

米国現地時間7月6日水曜日のニュースで、人工知能スタートアップのOpenAIは、「超知能」アプローチの指導と制御を開発するための新しいチームを結成すると発表した。人工知能システムに。このチームは、OpenAI の主任科学者であり共同創設者である Ilya Sutskever が率いています。

サスクウェル氏と OpenAI 調整チームの責任者であるジャン・ライク氏はブログ投稿で、人間より優れた知能を持つ人工知能が 10 年以内に出現すると予測しました。彼らは、そのような人工知能は必ずしも人間に対して慈悲深いわけではないため、それを制御し制限する方法を研究する必要があると警告しています。

サスクウェルとレイクは次のように書いています。「現時点では、潜在的に超知能的な AI を操作または制御し、手に負えなくなるのを防ぐために使用できるソリューションはありません。AI を調整するための現在の技術は次のとおりです。人間のフィードバックからの強化学習は、人工知能を監視する人間の能力に依存しています。しかし、人間は、私たちよりもはるかに賢い人工知能システムを確実に監視することはできません。」)、OpenAI は、新しい超連携チームを作成しており、 Susqueville と Lake が主導し、OpenAI のコンピューティング リソースの最大 20% にアクセスできるようになります。このチームは、OpenAI の旧アライメント部門の科学者やエンジニア、社内の他の部門の研究者とともに、超インテリジェント人工知能の制御という中核的な技術的課題の解決に今後 4 年間取り組んでいきます。

それでは、人間よりもはるかに賢い人工知能システムが人間の意図に従うようにするにはどうすればよいでしょうか?これには、サスクビル氏とレイク氏が「人間レベルの自動調整研究者」と表現する人々の助けが必要です。大まかな目標は、人間のフィードバックを使用して AI システムをトレーニングし、他の AI システムの評価を支援するために AI をトレーニングし、最終的にはアライメント調査を実行できる AI を構築することです。ここでの「調整研究」とは、人工知能システムが期待される結果を達成すること、または研究の軌道から逸脱しないことを保証することを指します。

OpenAI の仮説は、人工知能は人間よりも速く、より優れたアライメント研究を実行できるというものです。

「この分野で進歩するにつれて、人工知能システムがより多くの位置合わせ作業を引き継ぎ、最終的には現在よりも優れた位置合わせ技術を構想、実装、研究、開発できるようになります。」とレイク氏と同僚は述べています。 John Schulman と Jeffrey Wu は、以前のブログ投稿で仮説を立てました。 「彼らは人間と協力して、自分たちの後継者が常に人間と一致するようにするでしょう。人間の研究者は、そのような研究を自分たちで行うのではなく、AI システムによって行われた一致研究をレビューすることにますます重点を置くようになります。」

もちろんです。絶対確実な方法はなく、Lake、Schulman、および Jeffrey Wu は、OpenAI のアプローチには多くの制限があることを記事の中で認めています。彼らは、評価に AI を使用すると、AI の不一致、偏見、または脆弱性が増幅される可能性があると述べています。アライメント問題の最も難しい部分は、エンジニアリングとはまったく関係がないことが判明する可能性があります。

しかし、サスクビルとレイクは、試してみる価値があると判断しました。彼らは次のように書いています。「スーパーインテリジェントの調整は基本的に機械学習の問題であり、この問題を解決するには、優れた機械学習の専門家が（調整に取り組み始めていない場合でも）重要であると考えています。私たちはこれを広く共有する予定です。私たちの取り組みを評価し、非 OpenAI モデルの一貫性とセキュリティを促進することが私たちの仕事の重要な部分であると考えています。」

以上がOpenAI、「超インテリジェント」人工知能を制御する新チームを発表の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。