ホームページ >テクノロジー周辺機器 >AI >OpenAI CEO: 巨大 AI モデルの時代は終わった、マスク氏の TruthGPT が暴露
ここ数か月、OpenAI ChatGPT の強力な生成的会話機能により、AI への新たな関心と投資が引き起こされました。国内外での ChatGPT のような研究開発ブームに伴い、会話型 AI とその背後にある大規模モデルはますます楽観的になりつつあります。
しかし、先週のMITのビデオスピーチで、OpenAI CEOのサム・アルトマン氏は別の声明を発表した。彼は、ChatGPT を生み出した 研究戦略はもう終わったと警告しました。今後どこで進展が起こるかは不明だ。
ここ数年にわたり、OpenAI は既存の機械学習アルゴリズムを利用し、以前に拡張した新しいアプローチを開発してきました。言語関連の人工知能の分野では、目覚ましい進歩が続いています。最新の開発である GPT-4 は、数兆のテキスト単語と数千の強力なコンピューター チップを使用してトレーニングできます。GPT-4 は、言語、数学、プログラミング、視覚、医学、法律、心理学などのさまざまなタスクで優れたパフォーマンスを発揮します。
サム・アルトマン氏は、モデルを大きくしても(巨大モデルなど)、さらなる新たな進歩はもたらさないと述べています。
サム アルトマンのコメントは、新しい AI アルゴリズムの開発と展開の競争を示しています 予想外の展開がありました。昨年 11 月に ChatGPT が発表されて以来、Microsoft はその基礎となるテクノロジーを使用して、それに基づくチャットボットを Bing 検索に追加し、Google も Bard の競合製品を発売しました。多くの人が、仕事や個人的なタスクを完了するために新しいチャットボットを試してみたいと考えています。 一方、Anthropic、AI21、Cohere、Character.AI など、資金豊富なスタートアップ企業の多くは、OpenAI に追いつくために、ますます大規模なアルゴリズムの構築にリソースを注ぎ込んでいます。 。
しかし、Sam Altman 氏の言葉は、GPT-4 が、より大規模なモデルを開発し、より多くのデータを供給するという OpenAI 戦略における最後の主要な開発となる可能性があることを示しているようです。いくつかの手がかりは、彼が個人的に反論した GPT-5 に関する噂からも見ることができ、現在 GPT-5 のトレーニングを行っておらず、短期的にはトレーニングを行うつもりはないと述べた。
GPT-4 について説明した論文の中で、OpenAI は、モデルをスケーリングすると利益が逓減すると推定しています。 OpenAI が構築できるデータセンターの数と構築できるスピードには物理的な制限もあります。 大規模なモデル設計とアーキテクチャ自体の理由に加えて、莫大なコストも大きな理由です。レポートによると、ChatGPT にはトレーニング用に少なくとも 10,000 個の GPU が必要で、継続的な動作を確保するにはさらに多くのリソースが必要です。 AI とハイパフォーマンス コンピューティング向けに設計された Nvidia の最新の H100 GPU の価格は、なんと 30,603 ドルであり、間違いなく高価です。
アルトマン自身も、GPT-4 のトレーニングには 1 億ドル以上の費用がかかったことを認めました。
Cohere 共同創設者の Nick Frosst (以前は Google で AI に取り組んでいた) は、スケーリングが常に機能するとは限らないというアルトマンの考えは真実であると述べています。 ##。彼はまた、Transformer (GPT-4 および競合製品の中核となる機械学習モデル タイプ) の進歩は拡張の範囲を超えていると考えています。モデルにパラメータを追加する以外にも、Transformer をより良く、より便利にする方法は他にもたくさんあります。
新しい AI モデルの設計やアーキテクチャ、そして人間のフィードバックに基づいたさらなる微調整が多くの研究者に求められるものになりますすでに、探査のための有望な方向性の検討に取り組んでいます。 マスク氏はAIプロジェクトをTruthGPTと名付けた
マスク氏側はGPT-4が社会問題を引き起こすのではないかと懸念しており、開発一時停止に署名したと述べたGPT-4 よりも堅牢なシステムを少なくとも 6 か月間使用できます。しかし現実には、マスク氏はOpenAIと直接競合する新しい人工知能スタートアップX.AIに取り組んでいる。 マスク氏は、人工知能やハイエンドのグラフィックス処理などの集中的なタスクに必要なコンピューティングを強化するシステムである、Nvidia から数万個の GPU を買収したと伝えられています。
マスク氏は、ChatGPTと競合する人工知能スタートアップを設立する計画があるという報道を認めた。マスク氏はフォックスとのインタビューでこの計画を発表し、「私はTruthGPTと呼ばれる人工知能プラットフォーム、つまり真実の探求を最大限に高め、宇宙の性質を理解できる人工知能を作成します。これがおそらく最善の道だと思います」と述べた。 (AIの)安全性、つまり、宇宙の理解に関心を持つAIは人類を滅ぼす可能性が低い、なぜなら私たちは宇宙の興味深い部分だからだ」
マスク氏はまた、次のように述べている。インタビューでは、人工知能はたとえその力がどれほど小さくても、文明を破壊する可能性があると信じていると語った。
以前、マスク氏は2015年にOpenAIの現CEOであるサム・アルトマン氏らとOpenAIを共同設立したが、マスク氏は2018年に同社の取締役会を退任した。マスク氏が当時述べた理由はテスラとの潜在的な利益相反を避けるためだったとされるが、後にマスク氏は別の理由があり、もう一つの理由はOpenAIチームが行っていることに同意できないことだったと述べた。
これとは別に、セマフォーは3月、マスク氏が2018年に同社のCEOに就任しようとしたが、アルトマン氏らが拒否したため辞任したと報じた。
マスク氏は取締役を辞任して以来、OpenAIを繰り返し批判してきた。今年の 2 月にも、彼は現在の OpenAI は彼が望んでいたものではまったくないと述べ、OpenAI をマイクロソフトが管理するクローズドソースの利益最大化企業であると述べました。」
マスク氏の度重なる打撃に直面して、アルトマン氏は、それでもなおマスク氏をアイドルの一人とみなしており、「マスク氏はAGIに強い関心を持っていると思う。
Musk 氏が TruthGPT の構築を検討したのはこれが初めてではないことは言及しておく価値があります。彼は2月に、我々に必要なのはTruthGPTだとツイートした。
TruthGPT の詳細については、マスク氏はこれ以上の情報を明らかにしていませんが、今後のさらなる情報に期待できます。
以上がOpenAI CEO: 巨大 AI モデルの時代は終わった、マスク氏の TruthGPT が暴露の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。