ホームページ  >  記事  >  テクノロジー周辺機器  >  ファルコンが1年ぶりに帰ってくる! 110億パラメータと5兆5000億トークン、Llama 3を超えるパフォーマンス

ファルコンが1年ぶりに帰ってくる! 110億パラメータと5兆5000億トークン、Llama 3を超えるパフォーマンス

王林
王林オリジナル
2024-06-09 17:25:311065ブラウズ

ここ数日、OpenAI がリリースした GPT-4o に世界中の注目が集まっているようですが、同時に OpenAI の挑戦者たちも同時に歴史を作りつつあります。

5月14日、アブダビ先端技術研究評議会(ATRC)傘下のテクノロジーイノベーション研究所(TII)は、新世代のFalcon 2モデルをリリースしました。

时隔一年Falcon回归!110亿参数5.5万亿token,性能超越Llama 3

Falcon 2 11B がアクセス可能になり、Falcon 2 11B VLM が 5 月 14 日正午にオープンします

时隔一年Falcon回归!110亿参数5.5万亿token,性能超越Llama 3

新世代の「Falcon」(Falcon はファルコンの意味)がアリーナに戻ってきます。発売されるとすぐに HN ホットリストのトップになりました。

时隔一年Falcon回归!110亿参数5.5万亿token,性能超越Llama 3

昨年、ファルコンは初打ち上げで皆に衝撃を与え、圧倒的なアドバンテージでラマを上回りました。

Hugging Faceランキングによると、今回発売されたFalcon 2 11Bの性能は、再びLlama 3 8Bを上回り、平均スコアの差はわずか0.01で、首位のGemma 7Bの性能と同等でした。

时隔一年Falcon回归!110亿参数5.5万亿token,性能超越Llama 3

Falcon 2 には、Falcon 2 11B と Falcon 2 11B VLM の 2 つのバージョンが含まれています。

前者は5.5兆のトークンで訓練された大規模な言語モデルであり、後者はこれに基づいて開発された「視覚から言語へ」のモデルです。

オープンソースの大規模言語モデルとして、Falcon 2 は多言語機能を備えているだけでなく、マルチモダリティもサポートしており、視覚入力をテキスト出力にシームレスに変換できるこの機能は、今日の大規模モデルでは初めてのものです。市場。

时隔一年Falcon回归!110亿参数5.5万亿token,性能超越Llama 3

ユーザーインターフェイスに写真をアップロードしてプロンプトを入力するだけで、写真に関するテキストの説明を取得できます

多言語 + マルチモーダル

Falcon 2 11B は多言語機能を備えています、英語、フランス語、スペイン語、ドイツ語、ポルトガル語、その他さまざまな言語でタスクに迅速に応答できます。

Falcon 2 11B VLM は、視覚言語モデルとして、環境からのさまざまな視覚情報を認識および解釈できるため、医療、金融、電子商取引、教育、そして法律。

例えば、文書管理や文脈インデックス作成などのタスクに使用されており、その「視覚から言語へ」機能は、将来的には視覚障害者を助けることも期待されています。

さらに、Falcon 2 を効率的に実行するには GPU が 1 つだけ必要で、ラップトップに簡単に導入できます。

Falconの商業化プロセスを加速するために、ATRCは昨年11月に新会社AI71を設立しました

Falconモデルに基づいて、AI71はUAEの教育、医療、法律、その他の分野に参入しましたそしてすぐにUAEを超えて拡大する予定です。 Falcon のこのアップグレードは、商用化プロセスを強力にサポートします。

オープンソース Falcon へのこだわり

TII がリリースした人工知能モデルは常に世界最高のモデルであり、新しく発売された Falcon 2 11B モデルは TII の地位を再び安定させました。

さらに重要なのは、このアップデートの両方のモデルバージョンがオープンソースであり、世界中の開発者が制限なく使用でき、これに基づいて開発および展開できることです。このモデルによって実証された優れたパフォーマンスは、TII がオープンソース世界の優位性をめぐって Meta と競合すると予想されることを意味します。

アブダビ先端技術研究評議会 (ATRC) の事務局長であるファイサル・アル・バンナイ氏は、引き続きオープンソースのイノベーションを推進し、世界中の開発者が AI の旅を実現できるよう支援すると約束しました。

时隔一年Falcon回归!110亿参数5.5万亿token,性能超越Llama 3

TII の主任研究員であるハキム・ハシッド博士も次のように述べています。人工知能の使いやすさは新たな可能性をもたらし、ユーザーに画像からテキストへの対話の革新的な方法を提供します。」また、TII は、間もなく発売される Falcon 2 の次世代モデルを開発していることも明らかにしました。これらのモデルの一部は、Mix of Experts (MoE) テクノロジーによってさらに強化されます。

オープンソースとクローズドソースの戦いは未定です。しかし、いずれにせよ、TIIがAGI分野で強力な勢力となった背景には、UAEが人工知能の開発を本格的に推進し、この技術を石油に次ぐ経済の柱と位置付けていることが挙げられる。 。

ファルコンは単に「真剣な参加者」として存在するのではなく、大きな野心を持って飛ぶ「ハヤブサ」です。

以上がファルコンが1年ぶりに帰ってくる! 110億パラメータと5兆5000億トークン、Llama 3を超えるパフォーマンスの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。