超知能とは一体何なのでしょうか？

超知能の開発は、科学者の間で終わりのない議論のテーマです。スーパーインテリジェンスは、汎用人工知能 (AGI) のより伝統的な概念から進化しました。今後 10 年間で、この強力なテクノロジーが出現する可能性があり、重要な地球規模の問題を解決すると同時に、潜在的に人権の喪失または消滅を引き起こす可能性があります。

OpenAI (米国の人工知能研究会社) の戦略には、人間レベルの能力を備えた研究者の自動調整を作成し、大規模なコンピューティング リソースを活用して超知能を反復的にトレーニングして調整することが含まれています。スーパー インテリジェンス アライメントと呼ばれるこのプロセスには、AI アライメント テクノロジの革新、広範な検証、敵対的ストレス テストが必要です。

この課題に対処するために、OpenAI は多大なリソースと研究を投資し、優れた研究者やエンジニアが協力することを積極的に奨励しています。しかし、汎用人工知能から超知能への用語の移行が、人工知能のリスクと利点をめぐる進行中の議論に大きな影響を与えるかどうかはまだわかりません。

スーパーインテリジェンスの可能性は、史上最も影響力のあるテクノロジーの 1 つと考えられている OpenAI によって強調されており、地球規模の重大な問題を解決する能力を備えています。それでも、超知性には大きなリスクがあり、それが権力の喪失や、さらには人類の滅亡につながる可能性があることを認めている。

OpenAI は、スーパーインテリジェンスは手の届かないところにあるように思えるかもしれませんが、今後 10 年以内に実現できるかもしれないと信じています。スーパーインテリジェンスを人間の意図と整合させるという課題に対処するには、これらのリスクを管理するための新しいガバナンス機関を設立する必要があります。驚くべきことに、OpenAI で使用される用語は、従来の汎用人工知能 (AGI) ではありません。その理由は次のとおりです。

私たちは、より高いレベルの機能を強調するために、一般的な人工知能ではなく超知能に重点を置いています。今後数年間でこのテクノロジーがどの程度の速度で発展するかについては不確実性が非常に高いため、より有能なシステムを調整するために、より困難な目標を目指すことを選択しています。

現在の AI アライメント技術では、人間のフィードバックに基づいて改善する強化学習などの方法はありますが、潜在的な超知能 AI をまだ完全に制御することはできません。人間は、私たちよりもはるかに賢いシステムを確実に監視することができず、既存のテクノロジーを超知性の領域に拡張することはできません。 OpenAI は、これらの課題を克服するには科学的および技術的なブレークスルーの必要性を強調しています。

OpenAI のアプローチは、人間のレベルにほぼ近い能力を備えた自動アライメント研究者を開発することを目的としています。膨大なコンピューティング リソースは、取り組みを拡大し、スーパーインテリジェンスを繰り返し微調整するために使用されます。この作業の主要な手順には、スケーラブルなトレーニング方法の開発、生成されたモデルの検証、調整パイプラインのストレス テストが含まれます。 OpenAI の発表のタイトルによれば、このコンセプトは「スーパーインテリジェント アラインメント」と呼ばれています。

困難なタスクを人間が評価する難しさを克服するには、人工知能システムの助けを借りてスケーラブルな監視を使用して問題を解決できます。一貫性を検証するためには、監視されていないタスクに監視を適用し、問題のある動作や内部構造を検出する必要があります。アライメントされていないモデルのトレーニングは、アライメント技術の有効性を検証するのに役立つ敵対的テスト方法でもあります。

OpenAI は、この問題についてさらに学ぶことで研究の焦点が変わると予想しており、将来的にはロードマップを共有する予定です。彼らは、スーパーインテリジェンスの連携の問題の解決に重点を置いた、トップクラスの機械学習研究者とエンジニアからなるチームを結成しました。今後 4 年間で、OpenAI は総コンピューティング能力の 20% をこの作業に投入します。

成功は保証されていませんが、OpenAI は、集中的かつ協調的な取り組みによって問題を解決できると楽観的に考えています。彼らの目標は、問題が解決されたことを機械学習と安全コミュニティに納得させるための証拠と議論を提供することであり、より広範な人間的および社会的問題を検討するために、分野を超えた専門家と積極的に協力しています。

OpenAI は、これまでアライメントの取り組みに携わっていなかった人も含め、優れた研究者やエンジニアの取り組みへの参加を歓迎します。彼らは、超インテリジェント調整が最も重要な未解決の技術的問題の 1 つであると考えており、これは重要な貢献の可能性を備えた扱いやすい機械学習の問題であると考えています。

人工知能、一般的な人工知能、そして実用性と人類の破壊を伴う複雑に相互関連する問題をめぐる激しい議論が、新たな分裂を生み出しているようです。現在、語彙は多少変化していますが、これが科学なのか意味論なのかは明らかではありません。

以上が超知能とは一体何なのでしょうか？の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。