ChatGPTの父がバランスマスターになる：お金もAI技術のセキュリティも欲しい

4 月 3 日のニュース、OpenAI の最終目標は、安全な汎用人工知能を開発することです。同社の CEO であるサム アルトマンは、テクノロジーによる収益を人工知能の継続的な進歩を推進するために活用することと、非営利団体を活用して人工知能テクノロジーの安全性を確保することの両方を行う必要があります。彼の親しい友人たちは、それはバランスの芸術だと言います。

OpenAI の 37 歳 CEO、アルトマンは、コンピューターが人間と同じように相互に通信し、学習できるようになることを常に夢見てきました。彼は ChatGPT によって人工知能ブームの最前線に躍り出ました。アルトマン氏は、最も鮮明に覚えているのは、子供の頃、8 歳の誕生日プレゼントとしてもらった Macintosh LC II を寝室でプレイして夜更かししたことだと語った。そのとき、アルトマンは突然気づきました。「いつか、コンピュータは考えることを学ぶようになるだろう。」

ここ数か月間、アルトマンは人工知能の未来を構築するだけでなく、その商業化にも熱心に取り組んできました。昨年 11 月、彼が率いる OpenAI 企業は、人間と同じように記事を書くことができるチャットボットである ChatGPT をリリースし、テクノロジーの歴史の中で最もバイラルな製品の 1 つとなりました。投資家向け文書によると、ChatGPT がインターネット上で普及するにつれて、OpenAI は記録的な速さで小規模な非営利組織から数十億ドル規模の企業に成長しました。これは、OpenAI が営利部門を設立し、マイクロソフトから 130 億ドルの資金提供を受けていることも一因となっています。

このような成功は、微妙なバランスをとる行為の一部でもあります。アルトマン氏は、人工知能が無謀に社会に導入された場合に何が起こるかについても懸念していると述べた。アルトマン氏は8年前、利益を利用して人工知能の強力なモデルの開発を推進することは危険だと主張し、同氏らは非営利研究組織であるOpenAIを共同設立した。

アルトマン氏は、AI開発を奨励するために利益を利用することに慎重だ。同氏は、シリコンバレーでは珍しいことだが、OpenAIの株を直接保有していないという。ご存知のとおり、成功したシリコンバレーの新興企業の創設者は通常、保有する株式によって富を得ます。

アルトマン氏は、経済的利益について次のように述べています。「ほとんどの人と同じように、私も富の数字が上昇するのを見るのは好きですが、それがすべての要因にはなりたくないのです。」 OpenAI はアルトマン氏に「給与は次のとおりです。」 「中程度」としているが、具体的な数字は明らかにされていない。アルトマン氏は、OpenAIに投資しているベンチャーファンドに少額の株式を保有しているが、それは「取るに足らない」ことを明らかにした。

アルトマンは、初期の頃、新興企業への投資によって「必要以上に」多額のお金を稼ぎました。彼はサンフランシスコ地区の邸宅とナパバレーの別荘を含む 3 つの不動産を所有しています。彼は不動産や家族の投資を管理するために数十人を雇いました。

アルトマンの目標は、新しい秩序を確立し、機械を使って人々を解放し、より創造的な仕事に自由に従事できるようにすることです。アルトマンのシナリオでは、人工知能に取って代わられる仕事の代償として、誰もがベーシックインカムを受け取ることになる。彼は、人間は人工知能を非常に好むようになり、高度なチャットボットは「人々の意志の延長」になる可能性があるとさえ信じています。

アルトマン氏は、長期的には将来の人工知能に関する決定を監督するグローバルなガバナンス構造を確立し、人工知能技術に対するOpenAIの経営陣の影響力を段階的に減らしたいと述べた。

支持者らは、アルトマン氏がOpenAIを率いる理想的な候補者だと主張している。しかし多くの人は、アルトマン氏のビジネスの洞察力があまりにも発達しすぎており、ビジネスや社会生活を再構築するテクノロジー革命に耐えられず、常にシリコンバレーの思考に浸っていると言う。

投資家文書によると、OpenAI と Microsoft は今年 1 月に 100 億ドル相当の契約を締結し、Microsoft は OpenAI の営利部門の 49% を所有することになります。この企業提携は、アルトマン氏の人工知能技術の商業化への積極的な推進と相まって、OpenAI の初期のリーダーたちを挫折させた。彼らは、これらの決定は株主の影響外でAIを開発するという当初の約束に違反していると主張している。

テスラのCEOイーロン・マスク氏もOpenAIを批判した。マスク氏は2015年にOpenAIの設立に参加したが、管理や開発の方向性を巡る争いから2018年に辞任した。今年2月、マスク氏はTwitterで、OpenAIはもともと「Googleを牽制しバランスをとるためのオープンソースの非営利団体として設立されたが、現在は最大限の利益を追求し、クローズドなリソースを持つ企業となっており、実際にはMicrosoftによって管理されている」と述べた。 「会社です。それは私の意図では全くありませんでした。」 マスク氏の批判について尋ねられると、アルトマン氏は立ち止まった。先週発表された公開書簡の中で、マスク氏やアップル共同創設者のスティーブ・ウォズニアック氏らシリコンバレーの著名人らは業界全体に呼びかけた。技術競争が制御不能になる事態を避けるため、OpenAIの最新技術GPT-4よりも高度な人工知能の開発を6カ月以内に停止する。

人々は長い間、テキストや画像の生成に優れているだけでなく、人間と同じように理解して学習することができ、さらには人間よりも優れたパフォーマンスを発揮する一般的な人工知能を想像してきました。アルトマン氏は、OpenAIは必ずしも汎用人工知能を開発する最初のチームである必要はないが、彼らの最終的な使命は安全な汎用人工知能を開発することであると述べた。

投資家向け文書によると、OpenAIは投資家に利益の上限を設けており、一定水準を超えた収入は所属する非営利団体に流れ込むことになる。利益上限の具体的な値は、投資時間に応じて、投資資本の 7 倍から 100 倍の範囲です。 OpenAIとマイクロソフトはまた、アルトマン氏とマイクロソフト最高技術責任者のケビン・スコット氏を含む共同セキュリティ委員会を設立した。 MicrosoftとOpenAIがリリースした製品が危険すぎると委員会が判断した場合、同委員会はそれらの製品を撤回する権限を有する。

OpenAI への初期の寄付者である億万長者のベンチャーキャピタリスト、ピーター ティールは、アルトマンの親しい友人です。同氏は、一般的な人工知能の可能性により、同様のテクノロジーが宇宙を創造したという考えをアルトマンに与えたと述べた。ティール氏は、人間と機械がいつか融合するという考えを長年支持してきました。

ChatGPT のリリース後、競合する一連の人工知能システムも登場しました。今年2月、Googleは独自のチャットボットBardをテストし、3月に一般公開すると発表した。

「彼らは競ってプレスリリースを発行した。明らかに彼らは今では遅れをとっている。」とアルトマン氏は競合他社について語った。

OpenAI は、設立憲章で、他のプロジェクトが自社よりも汎用人工知能の開発に近づいた場合、既存の研究活動を放棄すると約束しました。同社は、これは人間の安全を最優先するためであると述べました。危険な人工知能の開発競争を避けるためです。」インテリジェンス システム。

サンフランシスコのミッション地区にある OpenAI の本社には、石の噴水、多肉植物、シダが生い茂るオフィスがあります。アルトマン氏は、自分が設計した中央階段について噴出しています。そのため、同社の 400 人の従業員は、毎日近くで会う機会があります。月曜日から水曜日まで、従業員は対面で仕事をする必要があります。建物には大学風のカフェテリア、セルフサービスのバー、図書館もあります。図書館のデザインは、マンのお気に入りのパリの書店とデザインのインスピレーションを組み合わせたものです。スタンフォード大学図書館の最上階にある静かな学習スペースであるベンダー ルームの様子

アルトマンは、グレーのスウェットシャツ、ジーンズ、光沢のある白いシャツ スニーカーという典型的なテクノロジー CEO の服装を着ていました。非常に控えめに。

アルトマンはセント ルイスの郊外で、4 人兄弟の長男として育ちました。母親は皮膚科医、父親は弁護士として働いていました。さまざまな仕事がありました。アルトマンの父親の本当の職業について、家族は言いました。

アルトマン氏は、父親が彼に教えてくれた教訓の 1 つは、「他人を助けるために最善を尽くすべきだ。時間がなくても、方法を見つけなければなりません。 「

アルトマンの母親は、息子が 2 歳のときに家族のビデオレコーダーを使い始め、13 歳のときにサマーキャンプからの帰りのチケットを自分で交換したと語った。アルトマンが小学 3 年生で勉強していたとき、彼女はこう語った。 , 彼は地元の公立学校の教師のコンピューターの問題を手助けし始めました。中学校では、私立のジョン バローズ スクールに転校しました。

「彼は本当に、本当に頭が良くて勤勉だったため、教師たちは彼を気に入っていましたが、同時にとても社交的でした」と当時の校長アンディ・アボットは語った。「彼は楽しくて、素晴らしい性格を持っていました。 ”

アルトマンはその後、スタンフォード大学に行き、人工知能の研究室で研究を行いました。2 年生として、位置情報ベースのソーシャル ネットワーク サービス会社である Loopt を共同設立しました。この会社は、後にスタートアップ アクセラレータ Y の一部となりました。コンビネーターの最初のクラス。アルトマンは後に学校を去った。

Loopt は軌道に乗らず、2012 年に 4 億 3,400 万ドルで売却されたが、Sequoia Capital Um を含む投資家からの資金調達に近づいた。

その後、アルトマンはベンチャー企業を設立した資金を提供し、ティール氏や Y コンビネーターの共同創設者ポール グラハム氏などの友人を作りました。これらの人々は、アルトマン マン氏の会社がシリコン バレーで影響力のある証券会社に成長するのに役立ちました。アルトマン氏は私財を使って、クラウド ソフトウェア会社を含む数十の企業への投資に成功しました。 Asana と掲示板サイト Reddit.

Y Combinator に在籍中、アルトマン氏は、DeepMind のような大規模な研究機関が公の場で潜在的に危険な AI テクノロジーを開発していることをますます懸念するようになりました。人間社会を乗っ取る AI マシン。

アルトマン氏もマスク氏も、自分たちの研究所を建てる時期が来たと判断しました。最終的に、彼らが所属していたチームは、非営利団体 OpenAI に 10 億ドルの設立資金を約束しました。

OpenAI は当初、ロボットにルービック キューブの解き方を教えるなど、いくつかの小さなプロジェクトを試みて失敗しました。2017 年、OpenAI は多数の従業員を解雇しました。

OpenAI 研究者らはすぐに次のように結論付けました。一般的な人工知能を実現する方法は、人間の読み書き方法を模倣するコンピュータプログラムである大規模な言語モデルにあるとアルトマン氏は、そのようなモデルは大量のテキストコンテンツでトレーニングする必要があり、多くの計算能力を必要とする、と述べた。 OpenAI は非営利団体であるため、大規模な融資を受ける条件がありません。

「このプロジェクトがどれだけの費用がかかるか、私たちは知りませんでした。」とアルトマン氏は言いました。「当時は知りませんでした。」

アルトマン氏は、その年にさまざまなプロジェクトを検討したと述べました。政府からの資金提供を求めたり、新しい仮想通貨を立ち上げたりするなど、OpenAI のためにより多くの資金を調達するためのオプション。同氏は「研究に資金を提供しようとする人は誰もおらず、非常に困難な時期だった。」

事情に詳しい関係者によると、アルトマン氏とマスク氏の間の緊張は高まり続けたという。マスク氏は研究の遅々として進まないことに不満を抱き、OpenAIをもっとコントロールしたいと考えていた。

OpenAI の幹部らは最終的に、まったく異なるアイデアを思いつき、非営利の親組織に直属する営利部門 OpenAI LP を設立しました。

人材採用プラットフォーム LinkedIn の共同創設者であるリード ホフマンは、当時 OpenAI のアドバイザーであり、後に同社の取締役会のメンバーになりました。同氏は、このアイデアは、OpenAIテクノロジーの商業化から利益を得ることを熱望する投資家を惹きつけ、OpenAIの開発を加速することであると述べた。ホフマン氏は「人は何かを最初に達成したいし、基準を設定したいと思う。開発のスピードが道徳的、倫理的な問題の一部になるのはそのためだ」と語った。この決定により、マスク氏の運用哲学は OpenAI からさらに遠ざかったと考えられます。 2018 年 2 月に、彼は OpenAI と決別しました。

会議に出席した元従業員によると、マスク氏は全職員会議で辞任を発表したという。マスク氏は当時、テスラを通じてより多くのリソースにアクセスできるため、一般的な人工知能を開発する可能性が高まると考えたと説明した。

元従業員らによると、若い研究者はマスク氏が当時安全性の問題を考慮していたかどうか疑問を呈したという。マスク氏は目に見えてイライラし、インターンを「バカ」と罵り、従業員を唖然とさせたという。彼らの多くがマスク氏を直接見たのはこれが最後だった。

その後すぐに、OpenAI の幹部がこの若い研究者に「愚か者」のトロフィーを注文し、後にそれを枕の上に置いて彼に渡しました。 「楽しまないといけない」とアルトマンは言った。 「これは企業文化の一部です。」

マスク氏の退社は、OpenAI にとって転機となった。その年の後半、OpenAI の経営陣はアルトマン氏が会社を率いることを従業員に伝えました。彼は正式に OpenAI CEO に就任し、2019 年初めに営利部門の設立に貢献しました。

当初約束した10億ドルの寄付のうち、約1億3000万ドルを受け取ったとOpenAIは述べた。営利部門が設立されたことで、OpenAI はさらなる寄付を必要としなくなりました。マスク氏はツイッターで、OpenAIに約1億ドルを寄付したと述べた。

会議に出席した元従業員らによると、マスク氏は全職員会議で辞任を発表した。マスク氏は当時、テスラを通じてより多くのリソースにアクセスできるようになり、一般的な人工知能を開発する可能性が高まると信じていると説明した。

元従業員によると、若い研究者がマスク氏に安全性の問題を考慮したかどうか尋ねたことがあるという。マスク氏は目に見えてイライラしており、インターンを「クソ野郎」と呼んで従業員にショックを与えていたという。彼らの多くがマスク氏を直接見たのはこれが最後だった。

その後すぐに、OpenAI の幹部は「愚か者」のトロフィーを注文し、贈り物として研究者の枕元に置きました。アルトマン氏は次のように述べた: 「ある程度の楽しみを持たなければなりません。それが会社文化の一部です。」

マスク氏の退職は OpenAI にとって転機となりました。その年の後半、OpenAI の経営陣はアルトマンが会社を率いることを従業員に伝えました。彼は正式に OpenAI の CEO となり、2019 年に営利部門の創設を開始しました。

当初発表された10億ドルの寄付のうち、約1億3000万ドルを受け取ったとOpenAIは発表した。営利目的のユニットを設立した後、OpenAI はそれ以上の寄付を必要としなくなりました。マスク氏はツイッターで、OpenAIに約1億ドルを寄付したと述べた。

一方、アルトマンは投資家を探し始めた。 2018 年の夏、彼はアイダホ州サンバレーで開催された Allen & Co. の年次総会に出席しており、階段の吹き抜けで Microsoft CEO のサティア ナデラに偶然遭遇しました。 Altman 氏は OpenAI を Nadella 氏に紹介し、彼の関心を引きました。その冬、正式な交渉が始まった。

「後で戻ってきて、この人が唯一の適切なパートナーだと言ったのを覚えています」とアルトマン氏は思い起こす。 「彼らは安全なものを手に入れ、人工知能も手に入れました。そして彼らは資本と多くの計算能力を持っています。」

OpenAIの元従業員らは、アルトマン氏が交渉過程で契約内容を即座に発表したと語った。この提携が、企業の世界の外で人工知能を開発するというOpenAIの当初の約束に反するとみなされるのではないかという懸念を和らげるために、スタッフ全員が常駐している。

しかし、一部の従業員は今でもこれは悪魔との取引だと信じています。 OpenAIの主任セキュリティ研究者であるダリオ・アモデイ氏と彼の代理人は、この契約によりMicrosoftが十分なセキュリティテストに合格する前にOpenAIテクノロジーを販売することが可能になるのではないかと懸念していた。彼らは、OpenAI テクノロジーはまだ大規模リリースの準備には程遠く、ましてや世界最大のソフトウェア会社の 1 つと協力することはできないと考えています。彼らは、テクノロジーが誤動作したり悪用され、予測不可能な損害を引き起こす可能性があることを懸念しています。

一部の元従業員は、この取引により OpenAI が Microsoft と結びつき、汎用人工知能が最初に達成された場合にそれを実現するという OpenAI の設立憲章を果たすことが困難になることを Amodei が懸念していると述べた人もいます。別のプロジェクト。

Microsoft は当初、OpenAI に 10 億ドルを投資しました。この契約により、OpenAI に必要な資金がもたらされますが、いくつかの制限も伴います。 OpenAI は、Azure クラウド サービスを通じてのみ人工知能モデルをトレーニングするために Microsoft の巨大サーバーを使用することに同意し、OpenAI テクノロジーを Microsoft 製品にライセンスして使用しました。

ナデラ氏は最近のインタビューで「崖の端に立ったとき、できることは飛び降りて、安定して着地できることを祈ることだけだ」と述べ、これをプラットフォーム変革のプロセスと呼んだ。 。

ニューヨーク大学の心理学と神経科学の名誉教授であり、機械学習企業の共同創設者でもあるゲイリー・マーカス氏は、「この契約は、非営利の地位を獲得するというOpenAIの取り組みを完全に台無しにするものです。原則は守られました。」##と述べた。

#マーカス氏は、アルトマン氏が「180度方向転換し、私の意見では人間の安全を懸念して口先だけで言っただけだ」と信じている。

アルトマン氏はこれに同意しなかった。 「ミッションにとって重要だと考えるすべての原則を保持できるということだ」と投資も含めて述べた。収益の上限と、一般的な人工知能が先に達成されれば方向転換して別のプロジェクトを支援するという約束などだ。の上。

この資金提供により、間違いなく OpenAI の研究開発の進歩が加速され、研究者は大規模な言語モデルを改善するために必要な重要なコンピューティング能力を獲得できるようになります。 OpenAI は、より強力な言語モデルである GPT-3 を迅速に開発し、2020 年 6 月にアプリケーション プログラミング インターフェイス (API) を介して開発者にそのテクノロジーを販売しました。

元従業員によると、アルトマン氏とアモデイ氏はAPIリリース問題を巡って再び衝突したという。 Amodei は、製品のリリースは小規模なユーザー グループに限定し、段階的に実施して世間の注目を減らし、セキュリティ チームにテストにもっと時間を与えるべきだと考えています。

数か月後、アモデイは他の人たちとともに OpenAI を去り、競合する人工知能研究所 Anthropic を立ち上げました。アルトマン氏は「彼らは、安全な汎用人工知能を入手する方法について我々と意見が一致していない。」

AnthropicはGoogleから3億ドル以上の投資を受け、今年3月に人工知能をリリースした。 API を介してこのロボットを呼び出すことができます。

最近の投資家レポートによると、Anthropic は安全な汎用人工知能を開発するために「大規模な商業化に取り組んでいる」と述べ、9 月に「その約束に沿った商業化手法をリリースする予定」と述べています。 ”。 Anthropic は、製品からビジネス価値を生み出す可能性を秘めた人工知能のセキュリティおよび研究会社として設立されました。

投資家向け文書によると、Microsoft は最初の契約から 3 年間で OpenAI に総額 30 億ドルを投資しました。

昨年 11 月、ChatGPT はリリース後わずか 5 日で 100 万人以上の登録ユーザーを獲得し、このスピードには Altman 氏も驚きました。これに先立ち、OpenAI はテキスト プロンプトに基づいて複雑な画像を生成できる DALL-E 2 を発表しました。

ChatGPT が普及した後、人々は詩を書いたり、誕生日パーティーを計画したりするなど、さまざまな興味深い用途にこのチャットボットを使用し、インターネット上で激しい議論を巻き起こしました。

UBS アナリストによると、今年 2 月までに ChatGPT のアクティブ ユーザー数は 1 億人に達し、これはコンシューマ アプリケーション史上最速の普及率です。

アルトマン氏の側近は、OpenAI の優先事項のバランスを取る彼の能力を称賛しています。ティール氏は、「理想主義」と「現実」のバランスをとるのにこれほど適した人はいないと語った。

アルトマン氏は、さらなるセキュリティテストを実施するため、GPT-4の最新バージョンのリリースを今年3月まで延期したと述べた。 GPT-4 モデルの使用時に問題が発生すると多くのユーザーが報告しています。たとえば、Microsoft の Bing 検索に統合すると、GPT-4 が間違った答えをでっち上げてしまいます。

アルトマン氏は、「正しいアプローチは、人々を巻き込み、これらのシステムを探索し、研究し、より安全にする方法を学ぶことです。」と述べています。初期投資により、Microsoft は OpenAI が収益上限に達する前に利益の約 49% を受け取ることになります。これは、以前に取り決められた 21% よりも高い額です。非営利の親会社OpenAIが残りの収益を受け取ることになる。

アルトマン氏は、OpenAI に加えて、暗号通貨サービスをすべての人に提供することを目標に、共同設立した会社 Worldcoin など、他のプロジェクトにも投資してきました。

近年、アルトマンは運転資金のほぼすべてを 2 つの会社に投資しています。アルトマン氏は、核融合によるカーボンフリーエネルギーの生成方法を研究しているヘリオン・エナジーへの3億7,500万ドルの投資は、「実際の実証で純エネルギーの増加を生み出す」に近いと述べた。

さらに、彼は「細胞再プログラミング、血漿療法、オートファジー」などの革新的な技術によって人間の寿命を10年延長することを目標として、レトロ社に1億8,000万米ドルを投資しました。

アルトマン氏は、こうした問題は人工知能を使うよりも倫理的に対処する方がはるかに簡単だと述べた。 「核融合をやっているのであれば、それは間違いなく利点です。それは良いことです。人工知能を開発しているのであれば、それは非常に良いものになる可能性もあれば、非常に悪いものになる可能性もあります。」

以上がChatGPTの父がバランスマスターになる：お金もAI技術のセキュリティも欲しいの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。