The daily average usage of Tokens of Doubao model exceeds 500 billion, and the model family is upgraded again

On July 25, Chengdu Station, the first stop of the Volcano Engine 2024 "AI Innovation Tour", revealed the latest progress of the Byte Beanbao model: As of July, the average daily usage of Tokens in the Beanbao model has exceeded 500 billion, with an average of 500 billion tokens used by each company. The average daily usage of Tokens by customers increased 22 times compared with the model launch period on May 15.

1. The Doubao large model was self-developed by ByteDance, formerly known as "Skylark". It is one of the first large models in China to be registered with the algorithm. It is currently providing services to enterprises through ByteDance's cloud service platform Volcano Engine.

2. Since its release, Doubao Big Model has focused on large usage and rich application scenarios.
3. According to Zhang Xin, Vice President of Volcano Engine, within Byte, more than 50 businesses are using the beanbao model, covering collaborative office, data analysis, copywriting creation, auxiliary programming, content review, customer service, game NPC, In various scenarios such as character dialogue and education, the new technology engine based on Doubao Big Model is accelerating business innovation; in addition, Doubao Big Model’s external customers have covered more than 30 industries such as mobile phones, automobiles, finance, consumption, and interactive entertainment, and Together with well-known terminal manufacturers such as OPPO, vivo, Honor, Xiaomi, Samsung, and Asus, and more than 20 automobile manufacturers such as Geely Automobile, Great Wall Motors, Jietu Motors, Cyrus, and Zhiji Automobile, they have established the Smart Terminal Large Model Alliance and the Automotive Big Model Alliance respectively. Model Ecological Alliance.

   

   キャプション: 2024 年の「AI イノベーション ツアー」イベントに出席した Volcano Engine 副社長の Zhang Xin 氏
   このイベントでは、ビーンバッグ モデルの南西部地域の典型的な法人顧客として、ブルーカラー採用プラットフォームの Yupao Technology とインテリジェント企業が参加しました。カスタマーサービス会社Xiaoduo Technologyもそれぞれの見解を共有し、ビジネスの成長を達成するためにDoubaoの大規模モデルにアクセスした事例が提供されています。その中で、Yupao Technologyのbeanbao大型モデルは、1日の平均コール量が1億トークンを超え、そのアプリケーションシナリオは、職務要件の識別、職種の識別、求職意図の識別、推奨システムの類似性の識別などをカバーしています。
   Volcano Engine Large Model Service のアルゴリズム アーキテクトである Sun Fan 氏は、大規模モデルを使用する際に企業が直面する主な課題は、「モデル効果」、「使用コスト」、「実装の難しさ」の 3 つの側面であると指摘しました。 Doubao Big Model と Volcano Engine は、企業の問題解決を支援するために、「より強力なモデル」、「より低価格」、「より簡単に導入できる」という観点からスタートします。
   Doubaoモデルファミリーが5月に正式にリリースされたとき、主に一般モデルプロ、一般モデルlite、音声認識モデル、音声合成モデル、Vincentianを含む9つのモデルを含む、マルチモーダル機能を備えたモデルファミリーを提供したと報告されていますダイアグラムモデル。 5月の発売以来、主力モデルのDoubaoユニバーサルモデルプロは、複数の公的評価セットや専門的な第三者評価で優れた成績を収めており、国内大型モデルとして最高得点を獲得している。
   今回、Doubao モデルファミリーは、Vincentian グラフモデルと音声モデルをアップグレードしました。アップグレードされたDoubao・Vensen画像モデルは、中国語と英語の長文をより正確に理解する能力を備え、一貫したグラフィックスとテキストを備えた高品質の画像を生成でき、アップグレードされたDoubao・音声合成モデルは、テキストの感情と動的な音声速度のインテリジェントな認識を実現します。音声再現モデルはわずか 5 秒で人間の声を忠実に再現でき、さまざまな小さな言語をサポートします。
   今回、Doubaoモデルファミリーが新しいメンバーであるDoubao Tushengtuモデルを正式に発表したことは言及する価値があります。 Wenshengtu モデルに基づいた Doubao・Tushengtu モデルは、キャラクター特性の高度な復元、50 を超えるスタイル シーンの自由な変換を実現し、さまざまな創造的な拡張編集を提供します。このモデル機能は、Douyin、Jianying、Doubao、Xinghui などのバイトベースのアプリに実装されており、Volcano Engine を通じて Samsung や Nubia などの企業顧客にサービスを提供しています。現在、1 日に生成される画像の平均数は数千万枚に達しています。 。
   モデルの価格に関して、公開レポートによると、Doubao のメインモデルの推論入力価格はわずか 0.0008 元/千トークンであり、業界より 99.3% 安いです。 Volcano Engine の社長である Tan Dai 氏は、以前のインタビューで、大規模モデルの超低価格は、Volcano Engine が技術的手段を通じて大規模モデルの推論コストを最適化できるという自信から来ていると述べました。
   「今からビジネスを始める人にとって、大型モデルを呼ぶのに1万元も出せば、少し高いと感じるかもしれません。当社は価格を1%未満に下げており、お客様はそれを次の用途に使用できます。」 100元あれば、彼のアイデアはもっと簡単に試せるだろう」とタン・ダイ氏は、企業のAI変革には不確実性が満ちており、大規模なAIの適用を実現するには試行錯誤のコストをできるだけ低く抑える必要があると述べた。より速く、より多くのモデルを作成できるため、業界全体に利益がもたらされます。
   Doubao 大型モデルは、優れた効果と低価格に加えて、同じエシュロン モデルの数倍となる 1 分あたりのトークン処理制限も提供し、モデル サービスの収容力を強化します
   Sun Fan 氏によると、 Doubao の一般モデル Pro は、業界最高水準の初期 TPM (1 分あたりのトークン数) と RPM (1 分あたりのリクエスト数) を顧客に提供し、企業が高同時実行シナリオでビジネスを実装するのに役立ちます。
   現在、ByteDance はそのサポートを増やし続けています。大型モデル技術の研究への投資は、最近、視覚、音声、その他の分野で多くの優れた成果をもたらし、その能力の一部はお手玉大型モデル関連製品に応用されています
   より革新的な製品を顧客に提供することで、企業はコスト負担を軽減し、顧客がより積極的かつ大胆に試行し、大規模なモデル アプリケーションを前進させることができます。 「Sun Fan 氏は言いました。
   Volcano Engine は、Toutiao と Douyin 用の同じプラグイン サービスもアップグレードし、Web ページの解析や計算機などのプラグインを追加して、モデル機能の境界をさらに広げ、さまざまなアプリケーション ニーズをサポートしています。
   Zhang Xin 氏は、プロフェッショナル バージョン、HiAgent プラットフォーム、その他の製品、およびクラウド インフラストラクチャの最新の進歩をもたらし、Volcano Engine が高速で反復され、よりインテリジェント化、工業化、地域化が進んでいると述べました。同氏は、「ターゲットを絞った業界ソリューション、製品、最適化されたサービスを通じて、将来的には南西部地域のより多くの企業がビーンバッグモデルと火山エンジンの力を利用してビジネスイノベーションを達成し、それによって新しいものを注入すると信じている」と語った。経済発展に活力をもたらします。 ”

The above is the detailed content of The daily average usage of Tokens of Doubao model exceeds 500 billion, and the model family is upgraded again. For more information, please follow other related articles on the PHP Chinese website!