メタ人工知能の開発エラー、GPUの使用が間に合わず相手に遅れをとった

内部メモによると、2022 年の夏の終わりに、Meta の CEO であるマーク ザッカーバーグ氏が、会社のコンピューティング能力、特に最先端の人工知能を扱う。

このメモは、メタ社が人工知能研究への注目度の高い投資を行っており、成長を支えるために同社が人工知能への依存度を高めているにも関わらず、主要なシステムには高価な人工知能に最適化されたソフトウェアおよびハードウェアシステムを採用していないことを指摘している。ソーシャルメディア巨人のペースが遅いため、規模が拡大するにつれてイノベーションに追いつくことが困難になっている。 Meta が AI への取り組みをサポートするには、「物理インフラストラクチャの設計、ソフトウェア システム、安定したプラットフォームを提供するためのアプローチを根本的に変更する」必要がある。

この再編によりメタ社の資本支出は四半期当たり約40億ドル増加し、2021年のほぼ2倍となり、4カ所にデータセンターを建設する計画が一時停止または中止されたと同社は明らかにした。

そしてメタ社は深刻な経営難に直面しており、昨年11月以来前例のない人員削減を実施している。

同時に、昨年 11 月の ChatGPT の出現により、生成 AI 製品をリリースしたテクノロジー大手間の競争が始まりました。 5 人の関係者によると、生成 AI には大量のコンピューティング能力が必要であり、そのためメタ拡張の緊急性が高まっています。

情報筋は、Meta による人工知能への GPU の適用が遅いことが主な問題の 1 つであることを明らかにしました。 GPU チップは、多数のタスクを同時に実行でき、数十億個のデータの処理に必要な時間を短縮できるため、AI 処理に最適です。しかし、GPUチップはより高価であり、チップメーカーのNvidiaが市場の80％を支配し、対応するソフトウェアでリードを維持していると情報筋は述べた。

昨年まで、Meta は主に AI ワークロードを実行するために大量の通常の CPU を使用していました。 CPU はコンピューターの世界の主力チップであり、何十年にもわたってデータセンターを支配してきましたが、人工知能の仕事では十分なパフォーマンスを発揮しません。

これにより、AI の分野で競合他社が Meta を上回る結果となりました。彼らは GPU チップを使用し、より優れた AI ソフトウェアを備えているため、新しい AI 製品やサービスをより迅速に開発できます。

Meta は、2 つの情報源によると、AI をトレーニングするために社内で設計された独自のカスタム チップの使用も開始しました。しかし 2021 年には、この 2 つの側面からなるアプローチは、コアに GPU を使用して構築されたアプローチよりも遅く、効率が低いことが判明しています。 GPUチップは、さまざまなタイプのモデルを実行する際にもMetaのチップよりも柔軟性があると2人の情報筋は述べた。

その後、ザッカーバーグが会社をメタバースに軸足を移したとき、コンピューティング能力の不足により、会社はTikTokの台頭やApple主導の広告プライバシーの変更などの脅威に対応できなくなりました。

これらの問題は、元メタ取締役会メンバーのピーター・ティール氏の注目を集めました。 2022年初め、彼は理由を説明することなく辞任した。この件に詳しい2人の関係者によると、ティール氏は退任前の取締役会で、ザッカーバーグ氏とその幹部らはメタバースの開発に集中しすぎてメタの中核であるソーシャルメディア事業を無視していると指摘した。 TikTokなど。

Meta は 2022 年にカスタム チップを発売する計画を立てていましたが、その後断念し、代わりに同年に数十億ドル規模の Nvidia GPU チップを発注しました。現時点で、Meta は、2015 年に TPU と呼ばれる独自のカスタム バージョンの GPU の導入を開始した Google などの競合他社に遅れをとっています。

メタは次に、人工知能部門の再編を開始し、その責任者に 2 人の新しいエンジニアを任命しました。その間、数十人の幹部がメタを去り、そのほぼ全員がAIインフラストラクチャのリーダーに代わった。

次に、Meta は、より多くの電力を必要とし、より多くの熱を発生するチップである GPU の導入に対応するために、データ センターの改修を開始しました。専用ネットワーク接続。この作業には、クラスターの熱を管理するための大規模なネットワーク容量と新しい液体冷却システムが必要であり、それらの「完全な再設計」が必要です。

作業が進むにつれ、Meta は、人工知能モデルのトレーニングと推論の実行の両方ができる、GPU に似た、より野心的な新しいチップを開発するという内部計画を開始します。 ２人の関係筋によると、このプロジェクトは２０２５年頃に完了する予定だという。

メタの広報担当者ジョン・カーヴィル氏は、チッププロジェクトについてのコメントを控えた。

Meta は GPU をスケールアップしていますが、Microsoft や Google などの企業は商用の生成人工知能製品を推進しており、この点では Meta は大きな進歩を遂げていません。

Meta の最高財務責任者は 2 月に、同社が現在そのコンピューティング能力のほとんどを生成的な作業に費やしていないことを認めました。 「基本的に当社の人工知能機能はすべて、広告、ニュースフィード、リールに使用されています。リールは若いユーザーに人気のあるMetaのTikTok風のショートビデオフォーマットです」と同氏は語った。

4 つの情報筋によると、Meta は 11 月に ChatGPT が開始されるまで、生成 AI 製品の開発を優先していませんでした。同社のAI研究部門は2021年後半から技術プロトタイプをリリースしているが、それらを製品化することには注力していない。しかし、投資家の関心が高まり続ける中、ザッカーバーグ氏は2月、新しい高レベルの生成AIチームの創設を発表し、この分野での同社の取り組みを「加速する」と述べた。

最高技術責任者のアンドリュー・ボズワース氏も今月、生成人工知能は彼とザッカーバーグ氏が最も多くの時間を費やしている分野であると述べ、メタ社が今年新製品を発売すると予測した。

新しいチームに詳しい関係者 2 人によると、チームの作業は初期段階にあり、後で微調整してさまざまな製品に適合させることができるコア プログラムである基本モデルの構築に焦点を当てているとのことです。

メタの広報担当カービル氏は、同社は1年以上にわたりさまざまなチームで生成人工知能製品を開発していると述べた。彼は、ChatGPT が立ち上げられてから数か月で作業が加速したことを認めました。

以上がメタ人工知能の開発エラー、GPUの使用が間に合わず相手に遅れをとったの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。