検索
ホームページテクノロジー周辺機器AI30,000 個の A100 は高すぎるため、Microsoft の 300 人が 5 年間秘密裏に独自の AI チップを開発しました。 TSMC 5nm、ChatGPT は約 30% 節約

ChatGPT をトレーニングするために、Microsoft は十分な資金を費やしました。

ChatGPT が消費する総計算能力は、1 秒あたり 1 京回計算すると、約 3640PF 日かかります。

Microsoft は、30,000 個を超える Nvidia A100 チップを接続し、数億ドルをかけて OpenAI 用にオーダーメイドのスーパーコンピューターを構築しました。

この消費が続くと、Microsoft の財布が耐えられなくなる可能性があります。

実は、Nvidiaチップの置き換え計画は2019年から社内で秘密裏に進められてきました。

The Information は、約 5 年前に Microsoft が社内コードネーム「Athena」というチップの開発を開始し、300 名が共同開発したと報じました。

当初の計画ではTSMCの5nmプロセスを使用する予定でした。

30,000 個の A100 は高すぎるため、Microsoft の 300 人が 5 年間秘密裏に独自の AI チップを開発しました。 TSMC 5nm、ChatGPT は約 30% 節約

NVIDIA に挑戦するために自社開発した Athena

言うまでもなく、「Athena」は大規模言語モデル (LLM) のトレーニング用に特別に設計されています。

さて、Microsoft が GPT-4 のすべての機能を Bing、Microsoft 365、GitHub を含む FamilyMart バケットに組み込みたい場合は、間違いなく大量のコンピューティング能力サポートが必要になります。

驚くべきことに、Athena のようなチップの開発コストは年間約 1 億ドルかかる可能性があります。

モデルをトレーニングする際、研究者は「Athena」の機能を使用して、新しいデータを処理し、同時に推論を実行できます。

このようにして、人工知能ソフトウェアを処理するために専用のコンピューターを使用しなければならないという以前の状況は緩和されました。結局のところ、AI を実行するためだけに使用されるコンピューターだけでは決して十分ではありませんでした。

なぜなら、以前は NVIDIA だけがこの種のチップを生産していたため、供給不足によりテクノロジー業界全体がこの不足を感じているからです。

まさにこのため、Microsoft は一部の社内チームに専用チップを提供しなければなりません。

30,000 個の A100 は高すぎるため、Microsoft の 300 人が 5 年間秘密裏に独自の AI チップを開発しました。 TSMC 5nm、ChatGPT は約 30% 節約

以前、調査会社セミアナリシスは、ChatGPTが1日当たり70万米ドルを消費し、各クエリのコストは0.36セントだったと推定していた。

「Athena」が競争力がある場合、各チップのコストを1/3に削減できます。

Forrester ResearchのシニアクラウドアナリストであるTracy Woo氏は、AIの爆発的な普及により大手企業がAIに殺到しており、チップ不足はサプライヤーに圧力をかけるだけでなく、AI技術企業にも圧力をかけていると述べた。 。

Google や Amazon のような大手テクノロジー企業は、独自のチップを設計、開発するのに十分な資本を持っており、他の企業もそのペースに追いつく必要があります。

Microsoft の「Athena」について話しましょう。

実際、MicrosoftのAIチッププロジェクトのリリースのタイミングは全くの偶然であり、計画されたものではありませんでした。

今年の初めに、OpenAI と Microsoft は LLM トレーニングにおいて質的飛躍を遂げました。事情に詳しい関係者によると、ChatGPTのリリースはインターネットに爆発的な影響を与え、そのためMicrosoftは「Athena」のリリースを急ぐことになったという。

ご存知のとおり、ChatGPT には 1 億人を超えるユーザーがいます。

30,000 個の A100 は高すぎるため、Microsoft の 300 人が 5 年間秘密裏に独自の AI チップを開発しました。 TSMC 5nm、ChatGPT は約 30% 節約

Microsoft は、早ければ来年にも Microsoft と OpenAI 内を含めて大規模に「Athena」を適用する可能性があると予測されています。彼らがまだ迷っているのは、Azureクラウドコンピューティングサービスの顧客に「Athena」を提供するかどうかだ。

Microsoft は、ほとんどの顧客は独自の LLM をトレーニングする必要がないため、チップのサポートは必要ないと述べています。

しかし、本当にそれを実現したいのであれば、MicrosoftはNVIDIAよりもうまくやる必要があります。結局のところ、NVIDIA のチップは 15 年間懸命に働き続けており、すべての開発者にとってベストセラーとなっています。

調査会社セミアナリシスの首席アナリストであるディラン・パテル氏は、ChatGPTの運用コストは1日あたり約70万米ドル、つまり1クエリあたり約0.36セントであると述べた。これらのコストの主な原因はサーバーであり、サーバーは高価すぎます。

しかし、OpenAIが独自に開発した「Athena」を使用し、Nvidiaに勝つことができれば、コストは3分の1に削減できます。

さらに、Microsoft は将来、Bing、Office 365、GitHub などのすべてのアプリケーションで LLM を使用したいと考えていると述べました。現在のハードウェアを導入に使用し続けると、毎年数百億ドルのコストがかかります。

30,000 個の A100 は高すぎるため、Microsoft の 300 人が 5 年間秘密裏に独自の AI チップを開発しました。 TSMC 5nm、ChatGPT は約 30% 節約

さらに、Microsoft の自社開発チップには別のデータ サポートがあります。

Microsoft 幹部は、AI の作業をサポートするためにどれだけの数のグラフィックス処理ユニットが必要になるかを予測しています。この件に詳しい関係者の1人は、Nvidiaチップに完全に依存すると法外な費用がかかるだろうと語った。

マイクロソフトとNVIDIAは昨年、スーパーコンピューターを構築するための協力プロジェクトに合意したばかりだが、チップの点では「Athena」は依然としてNVIDIAの製品と競合している。

30,000 個の A100 は高すぎるため、Microsoft の 300 人が 5 年間秘密裏に独自の AI チップを開発しました。 TSMC 5nm、ChatGPT は約 30% 節約

ただし、NVIDIA はこのデリケートな話題についてコメントすることを拒否しました。

以上が30,000 個の A100 は高すぎるため、Microsoft の 300 人が 5 年間秘密裏に独自の AI チップを開発しました。 TSMC 5nm、ChatGPT は約 30% 節約の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明
この記事は51CTO.COMで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。
LLMSでのツール呼び出しLLMSでのツール呼び出しApr 14, 2025 am 11:28 AM

大規模な言語モデル(LLM)は人気が急増しており、ツールコール機能は単純なテキスト生成を超えて機能を劇的に拡大しています。 これで、LLMSは動的なUI作成や自律的なaなどの複雑な自動化タスクを処理できます。

ADHDゲーム、ヘルスツール、AIチャットボットがグローバルヘルスを変える方法ADHDゲーム、ヘルスツール、AIチャットボットがグローバルヘルスを変える方法Apr 14, 2025 am 11:27 AM

ビデオゲームは不安を緩和したり、ADHDの子供を焦点を合わせたり、サポートしたりできますか? ヘルスケアの課題が世界的に急増しているため、特に若者の間では、イノベーターはありそうもないツールであるビデオゲームに目を向けています。現在、世界最大のエンターテイメントインダスの1つです

AIに関する国連入力:勝者、敗者、および機会AIに関する国連入力:勝者、敗者、および機会Apr 14, 2025 am 11:25 AM

「歴史は、技術の進歩が経済成長を促進する一方で、それ自体が公平な所得分布を確保したり、包括的な人間開発を促進したりしないことを示しています」とUNCTADの事務総長であるRebeca Grynspanは前文で書いています。

生成AIを介した交渉スキルを学ぶ生成AIを介した交渉スキルを学ぶApr 14, 2025 am 11:23 AM

簡単な、Generative AIを交渉の家庭教師およびスパーリングパートナーとして使用してください。 それについて話しましょう。 革新的なAIブレークスルーのこの分析は、最新のAIに関する私の進行中のフォーブス列のカバレッジの一部であり、特定と説明を含む

テッドは、Openai、Google、Metaが法廷に向かい、自分自身とセルフィーから明らかにしますテッドは、Openai、Google、Metaが法廷に向かい、自分自身とセルフィーから明らかにしますApr 14, 2025 am 11:22 AM

バンクーバーで開催されたTED2025会議は、昨日4月11日の第36版を締めくくりました。サム・アルトマン、エリック・シュミット、パーマー・ラッキーを含む60か国以上の80人の講演者が登場しました。テッドのテーマ「人類が再考された」は、仕立てられたものでした

ジョセフ・スティグリッツは、AI独占権の中で迫り来る不平等を警告しているジョセフ・スティグリッツは、AI独占権の中で迫り来る不平等を警告しているApr 14, 2025 am 11:21 AM

ジョセフ・スティグリッツは、2001年にノーベル経済賞を受賞した経済学者であり、2001年にノーベル経済賞を受賞しています。スティグリッツは、AIが既存の不平等を悪化させ、いくつかの支配的な企業の手に統合した力を悪化させ、最終的に経済を損なうと仮定しています。

グラフデータベースとは何ですか?グラフデータベースとは何ですか?Apr 14, 2025 am 11:19 AM

グラフデータベース:関係を通じてデータ管理に革命をもたらす データが拡大し、その特性がさまざまなフィールドで進化するにつれて、グラフデータベースは、相互接続されたデータを管理するための変換ソリューションとして浮上しています。伝統とは異なり

LLMルーティング:戦略、テクニック、およびPythonの実装LLMルーティング:戦略、テクニック、およびPythonの実装Apr 14, 2025 am 11:14 AM

大規模な言語モデル(LLM)ルーティング:インテリジェントタスク分布によるパフォーマンスの最適 LLMSの急速に進化する風景は、それぞれが独自の長所と短所を備えた多様なモデルを提供します。 創造的なコンテンツGenに優れている人もいます

See all articles

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

AtomエディタMac版ダウンロード

AtomエディタMac版ダウンロード

最も人気のあるオープンソースエディター

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

強力な PHP 統合開発環境

VSCode Windows 64 ビットのダウンロード

VSCode Windows 64 ビットのダウンロード

Microsoft によって発売された無料で強力な IDE エディター

WebStorm Mac版

WebStorm Mac版

便利なJavaScript開発ツール