GPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!

OpenAI のチャットボットは世界に衝撃を与えました。

しかし、このテクノロジーが偽情報を広め、危険なことを人々に勧める手段でもあることに人々が気づくと、一部の批評家はアルトマンの無謀な行動を非難しました。

多くの業界リーダー、人工知能研究者、学者は、ChatGPT が Web ブラウザーや iPhone の誕生と同じくらい重要な根本的な技術的変化であると考えています。しかし、テクノロジーの将来について同意できる人はほとんどいません。

これにより、誰もが必要な時間とお金をすべて手に入れることができるユートピアが実現すると考える人もいます。人類を滅ぼす可能性があると信じている人もいます。他の人たちは、テクノロジーが誰もが言うほど強力になることは決してない、と主張することにほとんどの時間を費やし、涅槃も終末もまだ遠くないと主張します。

過去 1 週間にわたり、1,000 人を超える人工知能の専門家や技術リーダーが、OpenAI やその他の企業に対し、次のようなシステムへの取り組みを一時停止するよう求めてきました。 ChatGPTの仕事は「社会と人類に重大なリスクをもたらす」と述べた。

OpenAI の CEO として、アルトマンはこれらの一見矛盾した見解をそれぞれ何らかの方法で体現しており、無数の可能性のバランスを取りながら、この奇妙で強力な、欠陥のある欠陥のあるテクノロジーを未来にもたらすことを望んでいます。 。

#つまり、彼はあらゆる方向から批判されることが多いということです。しかし、OpenAI の社長であるグレッグ ブロックマン氏は、これが適切であると考えています。「両極端の人々を同じように不快にさせるのであれば、それは正しいことをしているということです。」

マンハッタン プロジェクトのリーダー、ロバート オッペンハイマー氏原爆は科学の進歩の必然の産物であり、ウルトラマンはオッペンハイマーと同じ誕生日であると信じていた。 OpenAI のテクノロジーについて語る際、アルトマン氏の次の言葉も引用しました:「テクノロジーが起こるのは、それが可能だからです。」彼は、人工知能が何らかの形で実現し、彼ですら想像できないことを行うだろうと信じています。素晴らしいことです。私たちはそれが引き起こす可能性のある害を軽減する方法を見つけることができます。

この姿勢は、ウルトラマン自身の成長の軌跡を反映しています。彼は、効果的な個人スキルによって成功と富に向かってかなり着実に上り詰めました。彼が良いことが起こると信じているのは当然だ。

しかし、彼はまた、もし自分が間違っていれば、脱出方法があるとも言いました。Microsoft などの投資家との契約において、OpenAI の取締役会は、適切なタイミングでいつでもテクノロジーを閉鎖する権利を留保します。

セルフプル

ウルトラマンは菜食主義者でありながら牛を飼うという矛盾の中に生きている人物です。

彼は、自分の会社が開発したテクノロジーについて話すとき、テクノロジーが「私たちの最も差し迫った問題のいくつかを解決し、生活水準を真に向上させ、人間の意志と創造性を活かす方法を見つけるだろう」と信じています。

しかし、それがどのような問題を解決するのか、彼は完全には確信していません。同時に、この技術が権威主義政府の手に渡った場合、深刻な危害を引き起こす可能性があることを同様に懸念している。

ベンチャーキャピタル会社Thrive Capitalのパートナーで、OpenAIの取締役顧問としてアルトマン氏と協力したケリー・シムズ氏は、常に自分自身と議論しているように感じたと述べた。

問題は、ウルトラマンの 2 つの側面が最終的に両立するかどうかです。災害？もちろん、ウルトラマンはこれがどのように起こるかを見届けようと決意している。

2014 年から 2019 年までシリコン バレーのスタートアップ アクセラレータ兼シード投資家である Y Combinator の社長として、彼は次々と新規企業にアドバイスを送り、現在ではよく知られている企業のいくつかに賢明な投資を行いました。 Airbnb、Reddit、Stripe。

彼は、テクノロジーが指数関数的な成長を達成できるかどうかを見極める能力に誇りを持っています。

私はお金には興味がありません

個人の富がさまざまな上場企業や民間企業に結びついているシリコンバレーの多くの人々と同じように、アルトマンも次のような人です。彼ら 。そして彼の富は驚くべきものではありません。

彼は OpenAI の株を持っていません。彼が会社から得ている唯一の収入は、年収約6万5000ドルと、Y Combinatorによる同社への過去の投資の一部だけだ。

Y Combinator の創設者であるポール グレアムは、アルトマンのパートナーであり指導者であり、アルトマンの動機を次のように説明しました。 「金持ちにならない仕事に就くというのか? 一つの答えは、多くの人は十分なお金を手に入れたらそうするだろうということであり、サムもそれをした。そしてもう一つの答えは、彼は権力が好きだということだ。」

ビル・ゲイツはこんな人に違いない

1990年代後半、19世紀アメリカの博物学者で哲学者の名をとった私立プレップスクール、ジョン・バローズの生徒会にはアンチが溢れていた。 -ゲイの感情、恐怖。

21 世紀初頭、17 歳の学生ウルトラマンは学校の文化を変え始め、教室に「安全な場所」の標識を貼るよう教師を一人ずつ説得しました。彼のような人々をサポートする方法としてのドア 同性愛者の学生からの声明。

同校の高度なコンピューター サイエンス コースを教えているジョージアン ケプチャー氏は、アルトマンを最も才能のあるコンピューター サイエンスの生徒の 1 人だと考えています。 「彼は他の人たちに協力してもらい、自分のアイデアを実行に移すよう説得することができました。アルトマンはまた、かつて特に同性愛嫌悪的な教師に安全な場所の標識を設置するよう依頼して成功したこともあったと語った。」

## 1 年生のとき、彼はアンドリュー ン教授の人工知能とロボット工学の研究室で働きました。アンドリュー ン教授は後に Google の主力人工知能研究室を設立しました。しかし彼は、スタンフォード大学に短期間滞在していた間、他の大学の活動よりも夜間にポーカーをプレイすることで多くのことを学び、そのポーカーが人間の見方やリスクの評価方法を教えてくれたと語った。

「時間の経過とともに人々が持つパターンに気づく方法、非常に不完全な情報で意思決定を行う方法、より多くの情報を得るために苦労する価値があるときの判断方法など、素晴らしいゲームです。 "

アルトマンと 10 年間仕事をしてきたグレアムは、セントルイス出身のアルトマンにも同じ説得力があると感じています。「彼には天性の能力があり、人々に物事を行うよう説得することができます。それは生まれつきのものではなく、少なくとも彼が20歳になる前に完全に発達していました。サムに初めて会ったとき、彼は19歳でした、そして私はこう思いました：『ビル・ゲイツはきっとこういう人だ』」

グラハムが Y Combinator の社長を辞任したとき、28 歳のアルトマンを後継者に選んだのはシリコンバレーの人々に衝撃を与えました。なぜなら、これはプログラマーやエンジニア、あるいは人為的な雇用を目的としたものではなかったからです。諜報研究者であり、彼は議題を設定し、チームを編成し、契約を締結しようとしていた人でした。

YC の社長として、アルトマンは会社の拡大をほぼ諦め、新しい投資ファンドと新しい研究所を設立し、会社に毎年コンサルティングを提供させました。数百にまで拡大しました。

彼はまた、マスク氏を含むグループとともに 2015 年に設立した非営利団体 OpenAI など、投資会社以外のいくつかのプロジェクトにも取り組み始めました。 YC さんは、ウルトラマンが自分自身を疲弊させているのではないかとますます心配するようになり、彼が言うように、世界に真の影響を与えるであろうプロジェクト、つまり人工知能に再び注意を向けることに決めました。

彼の兄によると、自分は人工知能の研究を通じて世界を変えることができる数少ない人物の一人であると信じていました。

2019 年、OpenAI の研究が軌道に乗り始めたとき、アルトマン氏は Y Combinator の社長を辞任し、従業員数 100 人未満の会社に注力する機会を捉えました。 、給与計算書の開き方さえ知らない会社。

1 年以内に、彼は OpenAI を営利部門を備えた非営利企業に変えました。そうすれば、人間の脳ができることなら何でもできる機械を作るための資金を調達できるだろう。

彼は、「億万長者のサマーキャンプ」と呼ばれることが多いテクノロジーリーダーの年次集会でマイクロソフトの CEO サティア・ナデラと会い、その後ナデラと直接会い、マイクロソフトの最高技術責任者であるケビン・スコットが交渉を行った。取引。

OpenAI 社長のブロックマン氏は、アルトマンの才能は人々のニーズを理解することにあると述べました。最も重要なことを言い、それを伝える方法を見つけるのが、彼が何度も繰り返し使っているアルゴリズムです。」

この合意により、OpenAI と Microsoft が運動の中心に立つことになります。 、検索エンジンから電子メールアプリ、オンライン家庭教師に至るまで、あらゆるものを再構築しようとしている動きです。そして、これが起こっているスピードは、このテクノロジーを何十年も追跡してきた人々さえも驚かせています。

この熱狂の中でも、ウルトラマンは相変わらず冷静だった。マイクロソフト CTO のスコット氏は、ウルトラマンは最終的にはスティーブ ジョブズ、ビル ゲイツ、マーク ザッカーバーグと同じくらい偉大になるだろうと信じています。

「彼らはテクノロジー業界の構造、そしておそらく世界の構造に消えることのない足跡を残した人々です。サムもそのような人々の一人になると思います。 》

夢への長い道のり

#Yudkowsky と彼の作品は、OpenAI と DeepMind の作成において重要な役割を果たしました。彼はまた、人工知能が実存的リスクであると信じ、いつか世界を破壊することを恐れる合理主義者や有能な利他主義者の広大なオンライン コミュニティの誕生にも貢献しました。

OpenAI を含む多くのトップ人工知能研究所の研究者は、この非常に影響力のあるグループに属しています。彼らはこれを偽善とは考えていません。彼らの多くは、自分たちはこのテクノロジーを構築するのに最適な立場にいるため、他の人よりも危険性をよく理解していると信じています。

アルトマン氏は、有能な利他主義者が人工知能の台頭において重要な役割を果たしており、業界に危険性を警告できると信じています。また、彼らは危険を誇張しているとも考えている。

OpenAI が ChatGPT を開発している間、Google や Meta を含む他の多くの企業が同様のテクノロジーを構築していました。しかし、このテクノロジーを世界と共有することを選択したのは、ウルトラマンと OpenAI でした。

現場の多くの人がこの決定を批判し、失敗する技術やでっち上げられる技術、すぐに拡散するために使用される可能性のある技術のリリース競争を引き起こすと主張している。すぐに誤った情報を流します。

イタリア政府は金曜日、プライバシーと未成年者が危険なコンテンツにさらされることへの懸念を理由に、国内でのChatGPTの使用を一時的に禁止した。

アルトマンは、このテクノロジーを完全にリリースする前に完全に密室で開発およびテストするよりも、誰もがリスクと対処方法をよりよく理解できるように段階的に共有する方が良いと考えています。このほうが安全です。

それは「非常にゆっくりとした離陸」になるだろうと彼は語った。人間の知性が役に立たない世界など想像もできないと彼は語った。もし自分が間違っていたとしても、人間の過ちは償えると考えたのです。

彼は OpenAI を、彼が言うところの収益力のある会社に再構築しました。これにより、マイクロソフトなどの投資家に利益を約束して数十億ドルの資金を確保することができた。しかし、こうした利益には上限があり、追加の収益は2015年に設立された非営利団体OpenAIに吸い上げられることになる。

彼の壮大なアイデアは、OpenAI が AGI を作成することで世界の富のほとんどを獲得し、この富を人々に再分配するというものです。

しかし、富を再分配する方法がわかりません。彼は、この新しい世界ではお金の意味は異なるかもしれないと信じていますが、「AGI がこの問題の解決に役立つと思います。」

以上がGPT-4 ボス: パニックにならないでください。私には計画があります。AGI の未来は本当に明るいです!の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。