効果的な加速主義または向社会的AI。 AIの未来は何ですか？

アクセラレーション主義者のビジョン：フルスピード先

略してE/ACCとして知られる効果的な加速主義は、2022年頃に、シリコンバレー以降の核心で、迅速で自由な技術の進歩を支持しているE/ACCを支持する著しい牽引力を獲得した技術オプティミスト運動として現れました。

アクセラレーション主義者を加速するものは何ですか？

誰かが「進歩は避けられない」または「規制がイノベーションを遅くするだけです」と言うのを聞いたことがあるなら、あなたはE/ACC思考のエコーを聞いています。この哲学はいくつかの重要な信念に基づいています：

運命としてのテクノロジー：E/ACCサポーターは、技術の進歩を、重力のような止められない力と見なしています。彼らは、開発を遅らせようとする試みは無駄であるだけでなく、潜在的に有害であると考えています。

市場は最もよく知っています：彼らは自由市場のイノベーションを擁護し、規制を進行の高速道路での速度上昇と見なします。

イノベーションによる豊かさ：既存のリソースを再配布するのではなく、E/ACCは、強力な新しいテクノロジーを作成することで、誰にとっても前例のない豊かさを生み出すと考えています。

機会、リスクではありません：他の人が高度なAIで危険を見る場合、E/ACCは人類の最大の機会を見ています。私たちの最大の問題を解決し、現在の制限を超越するチャンスです。

テクノロジー投資家のマーク・アンドリーセンは、彼の「テクノオプティミストマニフェスト」でこの精神を捉えました。

向社会的ビジョン：最初に人間の価値

対照的に立っているのは、 Prosocial AIです。これは、技術開発の中心に人間と惑星の福祉を置くフレームワークです。定義上、Prosocial AIシステムは、「人と惑星のために最高のものを引き出すために、調整、訓練、テスト、および標的を絞った」。彼らの実施は、私たちが属している人間、私たちが所属するコミュニティ、私たちが参加している国、そして私たちが依存している惑星にとって、双方にとって有利な勝利です。

何がAIを本当に向社会的にしているのですか？

私たちが構築しているAIシステムが、スマートであるだけでなく、賢明であるように設計されていると想像してください。 Prosocial AIは、いくつかの核となる原則を通してこの野心を具体化します。

人間の代理店の問題：Prosocial AIは、人間の代理店から始まります。つまり、意味のある技術的選択をする能力です。このアプローチは、意識（何が起こっているのかを理解する）、感謝（さまざまな視点を認識）、受け入れ（それを改善するために取り組んでいる間に現実を認める）、および説明責任（結果の責任を負う）を重視しています。

ツールを形作ります。それから彼らは私たちを形作ります：おそらく、向社会的アプローチからの最も深い洞察は、この率直な真実で要約されています。「明日の技術が今日の人間よりも優れているとは期待できません。」言い換えれば、AIは私たちの価値を反映します - 良くも悪くも。

講演を歩く：Prosocial AIには「二重のアライメント」を要求します。私たちが言うことと実際にどのように振る舞うか、そして私たちの人間の願望と私たちが作成するアルゴリズムの間の調和を要求します。自分で練習せずにAIに思いやりをプログラムすることはできません。

速度前の安全性：向社会的支持者は、強力なAIシステムを市場に出すのではなく、徹底的なテストと堅牢な安全メカニズムを優先します。

テーブルの全員：技術者や投資家の小さなグループに数十億に影響を与える決定をさせる代わりに、Prosocial AIは多様な声で包括的なガバナンスをサポートしています。

人々と惑星の意識デザイン：このフレームワークでは、AIは人間と私たちが依存しているより広範な生態系に利益をもたらすべきです。

これらのビジョンが衝突する場所

これらの競合するフレームワークは、AI開発に対する根本的に異なるアプローチにつながります。

運転席にいるのは誰ですか？

E/ACCは、テクノロジーを独自の勢いを持つ自律的な力と見なす傾向があります。これは、人間が直接的ではなく容易にすべき自然現象のようです。対照的に、Prosocial AIは、人間が私たちが作成する技術に対して責任を負っていることを強調しています。ハンマーがどのように使用されているかについて責任を負わないように、AIシステムに倫理的責任を委任することはできません。古いことわざ「ゴミ、ゴミ」はまだ続いています。逆にすることができます - 値で、値。ジゴ対生体。そのシフトには人間の選択が必要です。

リスクを比較検討します

リスク計算は、これらのアプローチ間で劇的に異なります。 E/ACCサポーターはしばしば、最大の危険はゆっくりと発展することにあると主張します。潜在的に経済的優位性を失うか、緊急の問題を解決できる技術的なブレークスルーの欠落を失います。

Prosocial Advocatesは、適切な保護手段なしで前進することで、プライバシーを損なうシステムにつながる可能性があること、不平等を増幅する、または実存的なリスクをもたらす可能性があると反論します。 AIの研究者であるスチュアートラッセルは、「私たちが大切にするものを完全にキャプチャしない客観的な関数に最適化するシステムが、arbitrarily意的に悪い結果につながる可能性がある」と述べています。

道路のルール

これらの違いは、ガバナンスのアプローチにまで及びます。

E/ACC Playbook ：最小限の前払いルール、市場競争がイノベーションを促進し、問題が発生した後にのみ問題に対処します。

Prosocial Playbook ：展開前に確立された思慮深いガードレールは、多様な利害関係者を含む継続的な監視で確立されています。

The Human Element：テクノロジーの不足している作品

向社会的アプローチを特に特徴的にするのは、技術的なソリューションだけでは十分ではないという認識です。私たちのAIの質は、最終的に私たちの人類の質を反映します。

このように考えてみてください。AIシステムが、Xで人々がどのように相互作用するか、または人間の行動に対する私たちの最高の願望に基づいて倫理的な決定を下したいですか？私たちが大切にすることと私たちが頻繁に行動する方法との間のギャップは、AI開発の基本的な課題を生み出します。

この洞察は、AI倫理についての通常の会話をひっくり返します。 「AIを人間の価値とどのように整列させるのですか？」と尋ねる代わりに。 「自分の行動を保持すると主張する価値にどのように合わせて調整するのですか？」と尋ねなければなりません。有益なAIを開発するには、より良いアルゴリズムとより良い人間、つまり知恵、思いやり、責任を一貫して実証する人々が技術的な創造物に反映されることを望んでいることを示唆しています。

共通の基盤を見つける

それらの違いにもかかわらず、これらのフレームワークはいくつかの重要な領域を共有しています。

テクノロジーの変革力：どちらも、社会を再構築するAIの前例のない可能性を認めています。

技術的な卓越性：価値のあるイノベーションと最先端の機能の両方。

人間の繁栄：どちらも、たとえ彼らがこれを異なって定義していても、人類に利益をもたらす技術開発を追求すると主張しています。

これが私たちのAIの未来にとって何を意味するのか

これらのアプローチの間の緊張は、今日行われている実際の決定で行われます。

企業の優先事項：ハイテク企業は、開発速度を最大化することと安全調査への投資を選択します。

才能の決定：エンジニアと研究者は、自分の努力に集中する場所を決定しています。境界を押し広げたり、有益な結果を確保したりします。

ポリシーの選択：議員は、イノベーションのインセンティブまたは保護ガードレールに優先順位を付けるかどうかを決定しています。

教育の焦点：大学とトレーニングプログラムは、技術的スキルと倫理的理解のバランスを取ります。ゴールデンパスは、自然および人工知能の全体的な理解を利用するための二重リテラシーへの投資です。

前方の道

効果的な加速主義と向社会的AIの間の議論は、単なる学術的ではありません。これは、ますます強力な技術を開発するため、道路のフォークを表しています。最も有望な道は、両方の視点からの洞察を組み込んでいる可能性があります。技術的ダイナミズムを維持しながら、この進歩が真に人間と惑星の福祉に役立つことを保証します。

ますます明らかになっているのは、技術開発を人間開発から分離できないということです。これまで以上に強力なツールを構築するにつれて、これらのツールを有益な目的に向けるために必要な知恵、価値、責任を同時に育てなければなりません。

明日のAIの質は、最終的に今日の人類の質を反映します。倫理は抽象的な意図ではなく、不変の領土をナビゲートする際の現実的で緊急の意味を持つ野心です。人間は、人道的なビジョンを持つ人間のために、ハイブリッドの未来を設計しなければなりません。効果的な加速主義と向社会的AIの間の緊張は、最も重要なアライメントの問題が私たち自身の中の問題である可能性があることを思い出させます。それは、深く人間の挑戦にとって技術的な挑戦ではありません。

以上が効果的な加速主義または向社会的AI。 AIの未来は何ですか？の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。