ユヴァル・ハラリ氏の最新スピーチ: 人工知能は人類文明のオペレーティング システムに侵入したばかりです!

人工知能技術の最新の進歩は人々を驚かせる一方で、「人間の脳を機械が置き換える」「人工知能の脅威と監視」といった問題も再びクローズアップされています。

2023 年 4 月 29 日、フロンティアズ フォーラムで、『人類の簡単な歴史』、『未来の簡単な歴史』、および『今日の簡単な歴史』の著者であるユヴァル ハラリ氏も、次のように発表しました。人工知能と人類の未来についての基調講演、自身の見解を述べる。

彼は、人工知能が平均的な人間のレベルを超えて言語を習得していると信じています。人工知能は言語を習得することで、人類の文明システムを侵略する鍵を握っています。

私たちに対する人工知能の脅威は、想像よりも深刻である可能性があります。

2016 年、ユヴァル ハラリは「人類の台頭と未来」コースを教えるためにカオスにやって来ました。「認知は人類の進歩のための武器である」という結論の多くは、今日でも考えさせられるものです。インテリジェンス「デザインが人類の進化を決める。」Chaosアプリを開くと授業を視聴できます。

以下はスピーチの全文です。

著者丨Axin

この記事は「CITIC Publishing」とカオス アカデミーの共同制作です。記事の最後にカオス ロードから 書籍 2 冊が発送されます

この会議の焦点は、人類が直面している 生態危機であり、良くも悪くも 人工知能はこの危機の一部であることを私は知っています。人工知能はさまざまな方法で生態系の危機を解決するのに役立ちますが、環境を悪化させる可能性もあります。

実際、人工知能は生態系の意味を変える可能性があります。なぜなら、40 億年間、地球の生態系には有機生命体しか含まれておらず、現在または近い将来、

最初の無機生命体 の出現、または少なくとも無機媒体の出現が見られるかもしれないからです。

20 世紀半ばのコンピューター時代の始まり以来、人々は常に人工知能に対する恐怖を抱いてきました。この恐怖は、「ターミネーター」や「マトリックス」など、多くの古典的な SF 作品の誕生に影響を与えました。

このような SF シーンは文化的な象徴となっていますが、通常、学術的、科学的、政治的な議論では真剣に取り上げられません。 SF 作品では一般的に、人工知能が人類に重大な脅威をもたらす前に、

2 つの重要なマイルストーン —— をジャンプする必要があるという前提が設けられているため、これも理解できます。

第一に、AI は感覚を持ち、意識、感覚、感情を発達させなければなりません。そうでなければ、なぜ世界を征服しようとするのでしょうか? 第二に、AI は物理世界の中で自らの向きを調整するように適応する必要があり、ロボットも同様に効率的に動作できなければなりません地球は家、都市、山、森の中で動き、活動していますが、それらが物理的な世界で動くことができないなら、どうやって世界を征服することができますか？

人工知能が 2023 年 4 月までにこれら 2 つのマイルストーンに到達するには程遠いようです。ChatGPT やその他の新しい AI ツールをめぐる誇大宣伝にもかかわらず、

これらのツールにわずかな認識、感覚、または感情があるという証拠はありません## ＃。物理世界における活動に関して言えば、自動運転技術は常に注目を集めていますが、自動車が人間の道路を支配する時期は遅れています。 しかし、悪いニュースは、

人工知能が人類文明の存続を脅かすためには、実際には意識も、物理世界で移動する能力も必要ないということです。ここ数年、新しい人工知能ツールがパブリックドメインに導入され、

非常に予期せぬ方向から人類文明の存続を脅かす可能性があります。これらの新しい AI ツールが何ができるのか、そしてどれほどの速さで進化し続けるのかを理解することさえ困難です。 実際のところ、AI は自ら学習して改善することができるため、これらのツールの開発者でさえ自分が作成したものの完全な機能を知っているわけではなく、彼ら自身もこれらのツールの新機能と高品質に驚かれることがよくあります。 ここにいる皆さんはすでに理解していると思います

新しい人工知能ツール

書く、絵を描く、作曲する、コーディングなどの最も基本的な能力のいくつか。しかし、人々の音声や画像のディープフェイク、法案の作成、コンピューター コード、契約、法的文書の抜け穴の発見など、多数の

他の機能が登場予定です。しかしおそらく最も重要なことは、

新しい AI ツールには人間との深く親密な関係を構築する能力があるということです。 これらの能力のそれぞれについて十分に議論する価値がありますが、それらが何を意味するのかを理解するのは難しいため、この質問はシンプルにしてください。これらすべての能力を全体として捉えると、非常に非常に大きな 1 つの能力に要約できます。それは、言葉、画像、音声など、言語を操作し生成する能力です。 現在の人工知能革命の最も重要な側面は、人工知能が人間の平均レベルを超える能力で言語を習得しているということです。 AI は言語を習得することで、銀行から寺院に至るまで、あらゆる機関の扉を開けるマスターキーを保持しています。なぜなら、言語は私たちが銀行に指示を与えるために使用するツールであり、私たちが心の中で大きな決断を下すために使用するツールだからです。

この問題を別の視点から見ると、人工知能が人類文明のオペレーティング システムに侵入したところです。 人類の歴史におけるあらゆる文化のオペレーティング システムは言語です。この文明世界の始まりにおいて、私たちは言語を使って神話と法律、神とお金、芸術と科学、友情と国を創造しました。

たとえば、人権は生物学的に客観的な事実ではなく、私たちのDNAに刻まれているわけでもありません、人権は私たちが物語を語ったり、法律を制定したりすることで言語を使って作り上げるものです; 神それは生物学的または物理的な現実ではなく、私たち人間が言語を使用し、伝説や経典を通じて創造したものです; お金もちろん、それは物理的な存在ではありません。紙幣は単なる無の塊です。紙の価値そして現在、世界のお金の90％以上は紙幣ですらなく、コンピューター内で送信される単なる電子情報であり、お金に様々な価値を与えることができるのは物語だけです。多くの銀行家、財務大臣、仮想通貨の大物は実際の価値をあまり生み出していませんが、彼らは非常に有能なストーリーテラーです。

現在、チェスのようなゲームでは誰もコンピューターに勝つことはできません。同じことが私たちの政治、経済、さらには宗教の分野でも起こったらどうなるでしょうか?

ChatGPT やその他の新しい人工知能ツールについて考えるとき、人々は多くの場合、ChatGPT を使用して論文を書く子供たちのような例に惹かれます。もし子供たちがChatGPTを使って作文を書いたら、学校システムはどのような惨事に直面するでしょうか?まったく寒いです。

しかし、この種の質問は全体像を見逃しています。学校の論文のことは脇に置いておきましょう。たとえば、2024 年の次の米国大統領選挙について話し、新しい人工知能ツールが与える影響を想像してみる必要があります。これは、新しいカルトによって、政治的マニフェスト、フェイクニュース記事、およびその教団独自の聖書を大量生産するために悪用されています。将来、人間以外の知性が聖書を作成した史上初の宗教が現れるかもしれません。

もちろん、歴史を通じて宗教は、聖書は人間以外の知性によって作成されたと主張してきました。これまでは不可能でしたが、やがて現実となり、広範囲に影響を与えることになります。

さて、より平凡なレベルで言えば、私たちは間もなく、同じ人間だと思っている人々とオンラインで中絶、気候変動、またはロシアとウクライナの紛争について長時間議論することに気づくかもしれませんが、実際はそれは人工知能ロボットです。

ユヴァル ハラリの素晴らしいレッスンは Chaos アプリにあります

問題は、AI ロボットに政治的見解を変えるよう説得するのに時間を無駄にするのは無意味だということですが、AI ロボットと長く会話すればするほど、AI ロボットは私たちについて学び、私たちの社会を変えるためのメッセージを磨き上げる方法を学ぶようになるのです。政治的見解、経済的見解、その他何でも。

人工知能は、言語を習得することで人々と親密な関係を築き、親密さの力を利用して私たちの意見に影響を与えることもできます。

先ほども述べたように、AI が独自の意識や感情を持っているという兆候はありませんが、人間と誤った親密さを持つためには、

AI は独自の感情を持つ必要はありません。私たちの感情を刺激できればいいのです。

それに愛着を持ちましょう。 2022 年 6 月、Google エンジニアのブレイク・ルモイン氏は、開発中の人工知能チャット ロボット LaMDA にはすでに知覚能力があると公に主張しました。この話で最も興味深いのは、ル・モイン氏の解釈ではなく、彼はおそらく間違っており、結局職を失うことになったということです。本当に興味深いのは、彼がこの AI チャットボットを保護するために、高給の仕事を失う危険を冒すことを厭わないということです。

AI が人々に職を失うリスクを与える可能性があるとしたら、AI は他に何をさせることができるでしょうか?

あらゆる心と精神の政治的戦いにおいて、親密さは最も効果的な武器です。 人工知能は、大規模に何億もの人々と親密な関係を築く能力を獲得したばかりです。

おそらく皆さんご存知のとおり、過去 10 年間、ソーシャル メディアは人間の注意をコントロールするための戦場となってきました。現在、新世代の人工知能の出現により、戦場は注目から親密さへと移りつつありますが、これは非常に悪いニュースです。

人工知能が私たちと親密な関係を築こうと奮闘する中、人間社会と人間の心理はどうなるでしょうか?こうした関係は、私たちに特定の製品を購入したり、特定の政治家に投票するよう説得するためにも利用できます。

偽りの親密さを生み出さなくても、 新しい人工知能ツールは人間の意見や世界観に劇的な影響を与え、

人類が必要とするすべての情報の源となるでしょう。

AI に何でも教えてもらえるのに、なぜ自分で検索する必要があるのでしょうか?人工知能にニュースを教えてもらえるのに、なぜ新聞を読む必要があるのでしょうか? AI に何を買うべきかを教えてもらえるとしたら、広告の意味や目的は何でしょうか?

非常に短期間のうちに、ニュース広告業界全体が崩壊する可能性が非常に高いです。 そして、AI、または AI を制御する人々や企業は、非常に非常に困難になるでしょう。強力な。

私たちは人類の歴史の終わりについて話しているかもしれませんが、これは歴史の終わりではなく、人類支配の時代の終わりにすぎません。

人工知能が文化を引き継いだとき、歴史の流れはどうなるでしょうか?数年以内に、人工知能は人類の文化全体を消化し、私たちが何千年にもわたって創造してきたすべてのものを消化し、多数の新しい文化創造物と新しい文化産物を生み出し始めることができます。 覚えておいてください、私たち

人間は現実と直接接触したことがありません

。私たちは常に文化に縛られており、常に文化の檻を通して現実を経験しています。私たちの政治的見解はジャーナリストの報道や友人の話に影響され、性的指向は映画やおとぎ話に影響され、歩き方や呼吸法さえも文化的伝統の影響を受けます。 以前は、この

文化の繭

は常に他人によって織られていました。印刷機、ラジオ、テレビなどの以前のツールは、人間の文化的アイデアや創造物を広めるのに役立ちましたが、それらだけで何か新しいものを生み出すことはできませんでした。印刷機では新しい本を作ることはできませんが、それは人間が行うことです。 人工知能は、印刷プロセス、ラジオ、歴史上のどの発明とも根本的に異なります。なぜなら、

人工知能はまったく新しいアイデアや新しい文化を生み出すことができるからです。

最初の数年間は、AI はその初期に AI を「育てた」人間のプロトタイプを主に模倣するかもしれませんが、時間の経過とともに、 AI 文化は、これまで人間が踏み込んだことのない方向に大胆に進むことになります。

何千年もの間、私たち人間は本質的に他人の夢や空想の中で生きてきました。私たちは神を崇拝し、美しいアイデアを追求し、人間の詩人、預言者、政治家の空想に人生を捧げます。近い将来、私たちは人工知能の夢や空想を生きることになるかもしれません。

この潜在的な危険にどう対処するかは、SF 作品の想像力とは大きく異なります。以前は、人々は主に知的機械によってもたらされる物理的脅威を心配していたため、「ターミネーター」ではロボットが街を走り回り、人々を撃ちましたが、「マトリックス」では、人間社会を完全に制御するには、まず人工知能が人間の身体を制御する必要があると想定していました。人間の脳をコンピュータネットワークに直接接続しますが、これは間違いです。

人間の言語を習得している限り、人工知能はマトリックスのようなファンタジーの世界で生き残ることができます。人間を制御し操作するために人間の脳にチップを埋め込む必要は実際にはありません 何千年もの間、預言者、詩人、政治家は言語と物語を使って人間を制御し、操作し、社会を再構築してきました。それだけ。

殺人ロボットに私たちを撃たせる必要はありませんが、本当に必要であれば、人間自身に引き金を引かせることができます。

今日の人工知能に対する恐怖は、20 世紀半ばからフランケンシュタインのイメージが登場した時代までのほぼ 200 年間、人類の最後の数世代だけを悩ませています。しかし、何千年もの間、人類はより深い恐怖に悩まされてきました。 人間は常に、人間の思考を操作し、幻想を作り出す物語、画像、言語の力を高く評価してきました。

したがって、人間は古来より空想の世界に閉じ込められることを恐れてきました。 17 世紀、デカルトは、悪魔が彼をさまざまな幻覚に陥らせ、見たもの、聞いたものすべてを作り出してしまうのではないかと恐れました。古代ギリシャでは、

プラトン

は、有名な「寓話」を語りました。 「洞窟」では、人々のグループが洞窟に閉じ込められ、何もない壁に直面しています。彼らは壁に映るさまざまな影を見て、これらの影を現実と間違えます。古代インドでは、仏教とヒンズー教が信じています。人間は「マヤ」と呼ばれる場所に住んでいます。マヤはファンタジーに満ちた世界です。 仏陀は、私たちが普段現実だと思っていることは、多くの場合、私たちの心の中の単なるフィクションであると言いました。 人々はこうしたフィクションを信じているために、全面戦争を始めたり、他人を殺したり、自ら命を絶つことさえするかもしれません。そのため、AI 革命は私たちをカードの悪魔、プラトンの洞窟、そしてマヤと対面させることになります。そして、私たちが注意しないと、

幻想のカーテンが人類全体を包み込む可能性があります

、そして私たちは決してそのカーテンを引きはがすことはできなくなり、

あるいはその存在に気づくことさえできなくなります

、これが現実だと思うからです。 これが突飛に聞こえるなら、過去数年間の ソーシャルメディア を見てください。ソーシャル メディアは、コンテンツの作成に生の人工知能ツールが使用されない、これから起こることを少しだけ体験させてくれます。コンテンツ作成では、人間がストーリーやビデオなどを作成し、人工知能がどのストーリーやビデオが私たちの目に入るかを選択します -

最も注目を集め、最もバイラルなコンテンツ

。

これらの人工知能ツールは非常に原始的ですが、幻想のカーテンを作り出し、社会の二極化を悪化させ、私たちの精神的健康を損ない、民主主義を不安定にするのに十分です。 何千人もの人々が、これらの幻覚を現実と誤解しています。

ユヴァル ハラリの素晴らしいレッスンは Chaos アプリにあります

米国は強力な情報技術を持っていますが、前回の選挙で誰が勝ったのか、気候変動は本当なのか、ワクチンで病気を予防できるのかについて国民の意見が一致していません。より大きな被害をもたらす可能性があるのは、ソーシャル メディア アルゴリズムよりも強力な新世代の人工知能ツールです。

もちろん、人工知能には大きなプラスの可能性があります。私がそれについては話さないのは、人工知能を開発する人々が自然にそれについて話すからであり、私のような歴史家や哲学者の仕事はしばしば危険性を指摘することであることを付け加えておく必要がある。

もちろん、人工知能は、がんの新しい治療法の発見から、私たちが直面している生態学的危機の解決策の発見まで、数え切れないほどの方法で私たちを助けてくれます。

新しい AI ツールが悪いことではなく、良いことを行うために

使用されるようにするには、まずその真の機能を理解し、 非常に慎重に規制する必要があります 。 1945 年以来、私たちは原子力技術には 2 つの側面があることに気づきました。安価で豊富なエネルギーを生産することで人類に利益をもたらすことができますが、物理的手段によって人類の文明を破壊する可能性もあるのです。私たちは自国の安全を確保し、核技術の公正な利用を促進するために国際秩序を再構築しました。

私たちは今、私たちの精神的および社会的世界を一掃する可能性がある

新しい大量破壊兵器

と戦わなければなりません。核兵器と人工知能の最大の違いは、核兵器ではより強力な核兵器を作成できないことです。しかし、AI はより強力な AI を生み出すことができるため、AI が制御不能になる前に迅速に行動する必要があります。 同様に、

政府は、安全性を確認する前に、より革新的な AI ツールのパブリック ドメインへの公開を直ちに禁止する必要があります。

繰り返しますが、私は人工知能の研究を中止することについて話しているのではありません。最初のステップは、一般公開をやめるということです。一般公開しなくてもウイルスに取り組むことはできます。人工知能に取り組むことはできますが、あまり早く一般に公開しないでください。

人工知能の競争を遅らせなければ

、この信じられないほど強力なテクノロジーを効果的に規制することはおろか、何が起こっているのかを理解する時間さえありません。 AI の公的展開が遅れると、民主主義がより冷酷な権威主義体制に後れを取るのではないかと疑問に思うかもしれません。絶対にそうではありません、まったく逆です。 AI の無規制な展開は、民主主義を権威主義体制に負けさせる原因となります。なぜなら、もし私たちが混乱を解き放ったとしても、権威主義体制は開かれた社会よりも容易に混乱を封じ込めることができるからです。 民主主義は本質的に公開対話であり、対話は言語に依存します。人工知能が言語をもつということは、人工知能が意味のある公開対話を行う能力を破壊し、その結果、

民主主義を破壊する可能性があることを意味します。

混乱が起こるのを待っていると、それを民主的に管理するには手遅れになってしまいます。 AI に対するタイムリーな規制がなければ、私たちはもはや有意義な公の場での会話を行うことができなくなります。 要約すると、私たちは基本的に

宇宙人知性体と遭遇したのは宇宙ではなく地球です。彼らが私たちの文明を破壊する可能性があるということ以外、私たちは彼らについてほとんど知りません。

したがって、AI が私たちを制御する前に、こうした無責任な社会への導入を直視し、規制する必要があります。

提案できる規制措置はたくさんありますが、私が一番お勧めするのは

AI に自分が AI であることを明らかにさせることです

誰かに話しかけても、それが人間なのか人間なのかわかりません。 AI、これは民主主義の終わりです。有意義な公開対話の終わりを意味するからです。

今聞いたスピーチについてどう思いますか?皆さんの中には、警戒している人もいるかもしれませんし、これらの技術を開発している企業や、それを規制しない政府に対して怒っている人もいるかもしれません。他の人は私に腹を立て、私が脅威を誇張しているか、国民を誤解させていると考えるかもしれません。 あなたがこの件についてどう感じたとしても、私の言葉は知的だけでなく感情的にも確実に影響を与えると確信しています。私は、あなたの物事の考え方を変え、さらには何らかの行動を起こすきっかけとなるかもしれない話をしました。 あなたが今聞いたスピーチのストーリーを作成したのは誰ですか?使用されている画像は人工知能の助けを借りて作成されたものですが、この

スピーチ

のテキストは数人の協力を得て私自身が書いたものであることを保証します。少なくともあなたが聞いた言葉

は人間の思考の文化的産物

、複数の人間の思考の産物ですが、絶対に確信できますか?

1 年前、これほど複雑で強力なテキストをパブリック ドメインで作成できたのは、地球上の人間の心以外にありませんでした。しかし、今は違います。あなたが聞いているテキストは、人間以外の知性によって生成されたものである可能性があります。

それでは、この問題について少し、あるいはそれ以上の時間をかけて考えてください。ありがとうございます!

この記事に添付されている写真は、ユヴァル ハラリ氏のスピーチのビデオからの抜粋です。ビデオはユヴァル ハラリ チームによって公式に提供されました。チェン グアンユー氏の強力なサポートに感謝します。無断使用は著作権侵害となります。

·インタラクティブなメリット·

「人類概説三部作」は、イスラエルの歴史家、哲学者、ベストセラー作家であり、オックスフォード大学の博士号を取得したユヴァル・ハラリによって書かれています。新版の序文は著者自らが、現在を踏まえて人類の運命を再考して書きました。

混沌とした「1 つ」の考え方と組み合わせると、将来、人間は AI に取って代わられると思いますか?人間はどのようにして独自性を維持しているのでしょうか？

すべてのコメントの中から読者 2 名を選出し、それぞれに「人類の簡単な歴史 3 部作」のセットをプレゼントします。

『人類略史 三部作』ベストセラー10周年記念版

以上がユヴァル・ハラリ氏の最新スピーチ: 人工知能は人類文明のオペレーティング システムに侵入したばかりです!の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。