チューリング賞受賞者 LeCun: ChatGPT には大きな制限があり、自己回帰モデルの寿命は 5 年を超えません。

今年上半期はAI業界で最もエキサイティングな半期と言えるでしょう。

さまざまな GPT や AGI のプロトタイプの急速な開発の背後には、異なる見解を持つ 2 つの陣営があります。

あるグループは、ChatGPT が率いる生成 AI は非常に強力で、革命的なトレンドの波を推進することができ、進歩を続けることに問題はないと考えています。

もう一方のグループは、私たちの開発が少し早すぎると考えています。禁止されているだけでなく、しばらくの間はやめなければなりません。そして道徳の観点から言えば、一致する制約が少なすぎます。

AI 分野の大きな勝者であるヤン・ルカン氏は、これについては異なる見解を持っています。

#全面禁止?実現不可能

LeCun氏は、ChatGPTのパフォーマンスには驚かず、人工知能研究の一時停止には賛成ではないと述べた。

「これは予想とは反対の結果を生み出すかもしれません。」

彼は、人工知能は人間の知性を増幅させるものであるかもしれないと述べました。新しいルネッサンスの起源。

ChatGPT この大規模な言語モデルは「自己回帰」です。この AI は、最大 1 兆 4000 億語のコーパスから単語を抽出し、与えられた一連の文の最後の単語 (次に出現する必要がある単語) を予測するようにトレーニングされています。

クロード シャノンが 1950 年代に実施した関連研究は、この原則に基づいていました。

原則は変わっていません。コーパスのサイズとモデル自体の計算能力が決まります。

LeCun 氏は、「現時点では、このタイプのモデルに依存して長くて一貫したテキストを生成することはできません。これらのシステムは制御できません。たとえば、ChatGPT に直接メッセージの生成を依頼することはできません。

第二に、ChatGPT によって生成されたテキストは情報源として 100% 信頼できるものではありません。 GPT は補助ツールのようなもので、従来の運転支援システムと同様に、自動運転機能をオンにしてもハンドルを握る必要があります。今日私たちがよく知っている自己回帰言語モデルの寿命は非常に短く、5 年が考慮されています 5 年の期間が経過すると、もう誰も過去のモデルを使用しなくなります。研究の焦点は、これらのモデルを制御可能にする方法を見つけることにあるべきです 言い換えれば、私たちが研究したい AI は、与えられた目標に従って推論して計画を立てることができる AI であり、その安全性と安全性を確保できなければなりません信頼性の基準は一貫しています。この種の AI は感情を感じることができます。」

人間の感情の大部分は、目標が達成されるかどうかは、何らかの形の期待に関連しています。

このような制御可能なモデルを使用すると、長くて一貫したテキストを生成できます。

LeCun のアイデアは、将来的には、電卓や検索エンジンなどのさまざまなツールからのデータを混合できる拡張モデルを設計することです。

ChatGPT のようなモデルはテキストでのみトレーニングされるため、ChatGPT による現実世界の理解は不完全です。これに基づいてさらに発展させたい場合は、世界全体の感覚認識と世界構造に関連するいくつかの内容を学ぶ必要があります。

そして、これらのより複雑な内容は、単にテキストを読むだけでは達成できません。これは、今後数年間の最大の課題の 1 つです。

オープンソースは終わりです

権力への欲求は人間に特有のものです。そして、AI がますます強力になったからといって、このような欲求を持つことはありません。

個人の行動が共通の利益を過度に害しないように法律を制定する方法を知っているのは人類だけです。

OpenAI はもともとオープンな研究プロジェクトでしたが、現在は終了しています。 OpenAIはその研究については一切言及しなかったが、これは研究分野では珍しいことだ。

問題は、言語モデルのトレーニングに費用がかかり、数千万ユーロかかるため、スタートアップ企業にはそれを行う余裕がないことです。

これは、Microsoft と OpenAI の合併の主な理由でもあり、将来のモデルを改善するにはグループの共同コンピューティング能力が必要です。 これが、DeepMind と Google Brain が最終的に統合された理由です。

LeCun 氏は、最終的には市場に関して、開発者はオープン プラットフォームの共通エコシステムに移行するだろうと述べました。このような技術を少数の企業だけが管理しているとしたら、それは問題です。

歴史的に、Facebook と改名された Meta はどちらも、オープンソース プロジェクト LlaMa などのオープンな基礎研究を積極的に推進してきました。

1990 年代初頭、Sun Microsystems と Microsoft はサーバーを運用する権利をめぐって争っていました。確立されたままのインターネット テクノロジーはすべてオープンソースであることを忘れないでください。

LeCun 氏は最後に、現時点では、このようなオープンソース AI プラットフォームを阻止する鍵は法的問題であると述べました。 EUが将来的にAI産業の構造化を推進したいのであれば、この種のオープンソースプラットフォームは不可欠です。

以上がチューリング賞受賞者 LeCun: ChatGPT には大きな制限があり、自己回帰モデルの寿命は 5 年を超えません。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。