Bytedance Beanbao 大型モデルがリリース、Volcano Engine フルスタック AI サービスが企業のインテリジェントな変革を支援

Volcan Engine 社長 Tan Dai

企業は大規模モデルを適切に実装する必要がありますが、モデル効果、推論コスト、実装の難しさという 3 つの重要な課題に直面しています。複雑な問題を解決するためのサポートとして、優れた基本的な大規模モデルが必要です。また、大規模なモデルを広く使用できるようにするための低コストの推論サービスも必要であり、企業によるシナリオの実装を支援するためには、より多くのツール、プラットフォーム、アプリケーションが必要です。

——Volcano Engine 社長、Tan Dai

01.

Beanbao 大型モデルがデビュー

モデルを磨き上げるために大量使用

モデル効果は AI にとって最も重要な課題実装。 Tan Dai 氏は、良いモデルは大量に使用することでのみ磨かれると指摘しました。現在、Doubao モデルは 1 日あたり 1,200 億トークンのテキストを処理し、3,000 万枚の画像を生成します。

企業による大規模モデル シナリオの実装を支援するために、Bytedance が独自に開発した Doubao 大規模モデルが Volcano Engine を通じて正式に外部に提供され、企業は自社のビジネス シナリオのニーズに応じて柔軟に選択し、迅速に実装できます。

• Doubao はユニバーサルモデルプロです: ByteDance が自社開発した LLM モデルのプロフェッショナルバージョンで、128k の長いテキストをサポートし、シリーズ全体を微調整でき、理解、生成、ロジックなどのより強力な包括的な機能を備えています。 Q&A、要約、作成、分類などに適しています。 シナリオ;
• Dubao ユニバーサル モデル ライト: ByteDance が自社開発した LLM モデルの軽量バージョンで、プロフェッショナル バージョンよりもトークン コストと遅延が低く、企業に提供されます。柔軟で経済的なモデルの選択
• Doubao・ロールプレイング モデル: パーソナライズされたキャラクター作成機能、強力なコンテキスト認識およびプロット プロモーション機能、柔軟なロールプレイング ニーズを満たす
• Doubao · 音声合成モデル: 自然で鮮やかな音声合成能力を提供し、さまざまな感情を表現し、さまざまなシーンを実行できます
• Doubao・音声レプリカモデル: 5秒で音声の1:1クローンを実現できます。音色の類似性と自然さを高度に復元し、音声をサポートします
• Doubao・音声認識モデル: より高い精度と感度、より低い音声認識遅延、複数の言語の正しい認識をサポートします。 Doubao・Vincentダイアグラムモデル:
• より正確なテキスト理解能力、より正確な画像とテキストのマッチング、より美しい画像効果、中国文化要素の作成に優れています Doubao・関数呼び出しモデル:
• より正確な機能を提供します。関数識別およびパラメータ抽出機能、複雑なツール呼び出しシナリオに適しています。Doubao・ベクトル化モデル:
• ベクトル取得の使用シナリオに焦点を当て、LLM 知識ベースの中核となる理解機能を提供し、複数の言語をサポートします。 Tan Dai は、昨年の初めに Doubao モデル (元の名前: Skylark) が ByteDance 内で開始され、大型モデル サービスを通じて安全に登録された最初の大型モデルの 1 つであると紹介しました。 ByteDance 内の 50 以上の企業が、Douyin や Toutiao などの数億 DAU を持つ製品を含む、AI イノベーションに Doubao モデルを広く使用しています。 Dou Bao の同名の大型モデルをベースにした Doubao APP は、Apple APP Store および主要な Android アプリケーション市場でのダウンロード数において、AIGC アプリケーション* の中で第 1 位にランクされています。

*データソース: QuestMobile

ByteDance 製品および戦略担当副社長 Zhu Jun 氏

ByteDance 製品および戦略担当副社長 Zhu Jun 氏は、Doubao に基づいて AI ネイティブ アプリケーションを作成する ByteDance の製品を紹介しました。大型モデルのアイデア。同氏は、テクノロジーは急速に進化しているが、情報を効率的に入手する必要性、作業効率を向上させる必要性、自己表現の必要性、ソーシャルエンターテインメントの必要性など、ユーザーの核となるニーズは変わっていない、と述べた。 ByteDance は、自然なインタラクティブ形式でユーザーにサービスを提供し、より多くの人々の生活や仕事に参加できる適切な大規模モデルのアプリケーション フォームを見つけることを期待して、多くの研究と探索を行ってきました。 Doubao APP は、ByteDance が注力している大規模なモデル アプリケーションです。Zhu Jun 氏によると、Doubao プラットフォームの月間アクティブ ユーザーは 2,600 万人に達し、800 万人以上のエージェントが作成されました。

Doubao Big Model は Byte の社内業務に貢献するだけでなく、Volcano Engine の多くの企業顧客と共同開発も行っています。 Tan Dai は、企業が最高の結果とコストパフォーマンスを達成するには、さまざまなビジネスシナリオでさまざまな特性を備えたモデルが必要であると考えています。この目的を達成するために、Doubao Big Model は、企業がモデルの使用とコスト管理の好循環を達成するために、自社のビジネス シナリオのニーズに応じて柔軟に選択できるマルチモーダル モデル ファミリーを提供します。

02.

優れたモデルは誰にとっても手頃な価格です

Tan Dai は、コスト削減が大型モデルを「価値創造段階」に進めるための重要な要素であると考えています。 Doubao のエンタープライズ市場における主要モデルの価格は、1,000 トークンあたりわずか 0.0008 元で、1,500 文字以上を 0.8 セントで処理でき、これは業界より 99.3% 安いです。

Doubaoユニバーサルモデルpro-32kバージョンを例にとると、モデル推論入力価格はわずか0.0008元/千トークンです。市場で同じ仕様のモデルの価格は通常 0.12 元/千トークンで、これはビーンバッグ モデルの価格の 150 倍です。大型モデルの価格は「センチ時代」に突入した。

タン・ダイ氏は、大型モデルの「ローラー」価格は、企業が低コストでビジネスイノベーションを加速するのに役立つと述べた。

03.

Ark 2.0 アップグレード

大型モデルの価値創造を促進

昨年、Volcano Engine は、ワンストップ大型モデル サービス プラットフォーム Volcano Ark をリリースしました。サービスとしてのモデル 効率的かつ安全な環境でさまざまなモデルを適用します。今年、Volcano Engine は Ark プラットフォームを包括的にアップグレードしました。アップグレードされた Volcano Ark 2.0 では、モデル エフェクト、コア プラグイン、システム パフォーマンス、プラットフォーム エクスペリエンスが大幅に向上し、企業が大規模モデルの価値創造を促進できるようになります。

プラグインとツールチェーンの点では、Ark 2.0はインターネットプラグインをアップグレードし、ToutiaoやDouyinと同じ検索機能を提供し、マルチモーダルインタラクションを使用しながら大量の高品質データをリアルタイムで接続します。テキスト、画像、音声などのメソッドと、業界をリードする意図認識機能により、モデルの情報取得機能が大幅に向上し、アップグレードされたコンテンツ プラグインにより、同じソースからの大量のコンテンツが Toutiao と Douyin に提供され、マルチモーダル インタラクション。意図に基づいた垂直コンテンツ情報の取得と、より強力なコンテンツの適時取得を提供し、大規模なモデルがコンテンツを深く理解、取得、生成できるようにします。パフォーマンスの取得、第 2 レベルのストリーミング ナレッジ ベース インデックスの更新、埋め込まれたビーンバッグ ベクトル化モデルにより、検索の性別と精度の関連性が向上します。 上記のコア プラグインのアップグレードに加えて、Volcano Ark 2.0 では、システムの収容能力、セキュリティ保護機能、アルゴリズム サービス機能も包括的にアップグレードされました。システム容量の面では、豊富な GPU コンピューティング リソースと数分でのキロカード容量の拡張と縮小の超弾力性を提供し、セキュリティ保護の面でビジネスの安定性とコストの管理性を確保し、セキュリティ サンドボックスを通じて信頼できる実行環境を構築します。多次元のセキュリティ アーキテクチャにより、データのセキュリティが保証されます。さらに、Volcano Engine は、顧客が独自のデータ価値を解放し、大規模なエンタープライズ モデル アプリケーションを簡単に実装できるようにする専門的なアルゴリズム チーム サービスを提供します。

ボタンプロダクトマネージャー Pan Yuyang優れたモデルエフェクト、便利なプラグイン、強力なシステムパフォーマンスに加えて、誰もがボタンプロダクトマネージャーになれるように、シンプルで使いやすい開発プラットフォームを提供する必要もあります。 AIアプリケーション開発者。 Coze プロダクトマネージャーの Pan Yuyang 氏は、Coze は ByteDance が立ち上げた新世代 AI アプリケーション開発プラットフォームであり、低しきい値、パーソナライゼーション、リアルタイム、マルチモダリティなどの利点があり、膨大な AI リソースと豊富なリリース チャネルを統合していると紹介しました。 、大規模モデルからユーザー シナリオまでのラスト マイルを埋めるのに役立つワンクリック カスタム API サービス。

Volcano Engine は Buttons のプロフェッショナル バージョンを正式にリリースしました。 Kouzi Professional Edition は、インテリジェント エージェントを柔軟に調整する Kouzi の機能に基づいて、エンタープライズ レベルの SLA とさまざまな高度な機能をさらに提供し、AI アプリケーションの実装を容易にし、企業がエージェントのイノベーションを通じてビジネスの成長を促進することにさらに集中できるようにします。

Tan Dai 氏は、Volcano Engine は AI 時代で最もオープンで最先端のクラウド サービス プラットフォームになることに尽力していると述べました。新しくアップグレードされた Volcano Ark 2.0 は、より強力なパフォーマンス、より優れたプラグイン、より優れたサービス、安全で信頼できるソリューションを通じて、大規模なモデル アプリケーションの実装を支援します。

04.

広く実践されています

複数の業界で実りある成果をあげています

Beanbao 大型モデルと Volcano Ark 2.0 は現在、金融、自動車、スマート端末、電子商取引小売、教育、科学研究などの業界実践が実施されます。 China Merchants Bank、Haidilao Hotpot、Super Orangutan、Ctrip Travel、Feichangzhun、Liepin などの企業も、ボタン上にスマート ボディを構築しています。復丹大学や浙江大学などの有名大学も、授業や実験のための「AIティーチングアシスタント」を構築している。

招商銀行デジタル金融開発室ディレクター、Gao Xulei 氏

金融業界における AI 変革の実践者として、招商銀行はインテリジェントなアウトバウンド コール、デジタル デジタル サービスなどの数百の AI サービス シナリオを探索し、投資しています。人々、そしてインテリジェントなデータアシスタント。中国招商銀行デジタル金融開発室ディレクターのガオ・シュレイ氏は、この大型モデルは同行のビジネスチェーン全体に変革とアップグレードをもたらすだろうと述べた。 Volcano Engine と協力して、両社は共同で大規模モデルのアプリケーション シナリオと高性能インフラストラクチャを構築し、既存のシステムと製品を変革し、AI 中心のインテリジェント エージェント アプリケーションを多数生成します。

Mengniu Group副社長兼最高デジタルインテリジェンス責任者Li Qijie氏

Mengniu Group副社長兼最高デジタルインテリジェンス責任者Li Qijie氏は、生産ツールの進化、ツールの進化という3つの側面からMengniu Groupのデータを紹介しました。生産方法と組織化プロセスの進化。 Mengniu Group は、Volcano Engine と協力して技術基盤を統合し、AI 栄養専門家、AI ナニー、AI データ アナリスト、製品イノベーション アシスタント、ホットスポット クリエイティブ アシスタントなどのインテリジェント マトリックスを構築して、フロントエンドの消費者エクスペリエンスを強化し、バックエンドの支援を行っています。 - 人事の決定。

スマートターミナルラージモデルアライアンスリリース

会議では、Volcano EngineとOPPO、vivo、Honor、Xiaomi、Samsung、ASUSがスマートターミナルラージモデルアライアンスの設立を発表しました。 OPPO Xiaobu Assistant、Honor MagicBook の YOYO Assistant、Xiaomi の「Xiao Ai Classmate」、ASUS ラップトップの Douding AI Assistant などのアプリケーションはすべて、Volcano Engine の大規模モデル サービスに接続されています。

自動車大型モデルエコロジカルアライアンスを発表

同時に、Volcano Engineは、100の中国電気自動車協会と、吉利汽車、長城汽車、吉図汽車、サイラス、などの20社以上のメーカーと協力して、 Zhiji Automobile、Automobile Alliance の設立を発表 Model Ecological Alliance は、人間と車両のインタラクションの新しい形態を模索し、あらゆる自動車シナリオにおける新しい AI エクスペリエンスの向上に取り組んでいます。

2大アライアンス企業であるOPPOとJietu Motorsも、それぞれ独自の大型モデルの実践方法を共有しました:

OPPOインテリジェントアシスタント部門ディレクター、Xiaobuアシスタントチーフアーキテクト、Wan Yulong氏

OPPOインテリジェントアシスタント部門ディレクター、チーフアーキテクト、Wan Yulong氏Xiaobu Assistant の同氏は、OPPO AI 携帯電話の大規模モデル アプリケーションの実践について共有し、Xiaobu Assistant は現在 3 億 5,000 万台の端末デバイスをカバーしており、月間アクティブ ユーザー数は 1 億 5,000 万人を超えていると述べました。 Volcano Ark では、OPPO は、意図認識モデル、ネットワーク サマリー モデル、パーソナライズされたキャラクター モデル、ビーンバッグ モデルを通じて、ユニバーサル質問と回答、スマート ガール、インタビュアーなどのインテリジェント エージェントを構築し、まったく新しい AI エクスペリエンスをエンド ユーザーにもたらしました。

Jietu Automobileのデジタル化責任者Liu Hang氏

Jietu Automobileのデジタル化責任者Liu Hang氏は、Jietu Automobileはサービス能力を拡大し、大型モデルを通じてユーザーの真のニーズを洞察し、それによって改善を図りたいと述べた。販売効率と販売能力。 Volcano Engine と協力して、両社はカスタマー サービス シナリオを中心に共同作成しました。作成したスマート カスタマー サービス AI Xiaojie は、人員を節約するだけでなく、カスタマー サービス担当者が情報を迅速に取得して顧客にサービスを提供するのにも役立ちます。将来的には、Jietu Motors は、大型モデルを通じてコックピット、意思決定、マーケティングにおけるインテリジェントなアップグレードをさらに実現したいと考えています。

05.

複数の AI アプリケーションがリリースされました

迅速に実装され、すぐに使用できるようになります

大規模なモデル サービス プラットフォームに加えて、AI アプリケーションも Volcano Engine の重要なコンポーネントですフルスタックAIサービス。

昨年、Volcano Engine は、エンタープライズ デジタル インテリジェンス アップグレードの新しいモデルであるデータ フライホイールを提案しました。このモデルは、データ消費を中核的な推進力とし、エンタープライズ データ フローをビジネス フローに完全に統合し、データ資産とビジネス アプリケーションのフライホイール効果を実現します。 。企業のデータ利用をより包括的かつ便利にするために、Volcano Engine Intelligent Data Insight DataWind は、ユーザーがチャート作成、データ クエリ、および詳細なデータ分析のための自然言語対話を通じてインジケーターを生成できる AI アシスタント ChatBI を正式にリリースしました。 IM インタラクションをサポートし、複数の端末に適用でき、いつでもどこでもセルフサービス分析を実行できるため、データ消費のしきい値が大幅に低下し、読み取りとデータの使用効率が向上し、データ フライホイールの高速動作に電力が供給されます。

マーケティング シナリオ向けに、Volcano Engine は Intelligent Creation Cloud 2.0 にアップグレードされ、コンテンツ作成、マトリックス配信、広告からデータ インサイトに至るまでのワンストップのエンタープライズ コンテンツ マーケティング成長ソリューションとなり、マルチモーダルな理解と生成機能を提供するだけでなく、 、ビデオ作成効率を 25 倍に向上させ、Douyin トピック、POI、ミニ プログラム、その他のマーケティング ツールも開始し、ストア ページの露出を 600% 増加させました。現在、3,000 社以上の企業が Volcano Engine を使用して AIGC ビデオ マーケティングの成長を開始しています。

販売シナリオ向けに、Volcano Engine は Sales Copilot をリリースしました。これは、いつでも顧客のニーズを効率的にフォローアップし、複雑な製品の質問に答える際に販売を支援できる販売 AI アシスタントです。さらに、ロールプレイングを通じてさまざまなスタイルの顧客訓練をシミュレートし、セールス コミュニケーションの質を向上させるための優れたスピーキング スキルを提供します。

Volcano Engine は、2021 年の Wanwan Plan のリリース以来、オープンで共有されたエコロジーコンセプトの構築に常に取り組んできており、100 社を超える SaaS 企業のビジネス成長を支援し、10,000 件近くの顧客契約を達成してきました。 Doubao Enterprise Service Alliance は、大規模モデルの実装のための Wanyou Plan の特別プランです。 Wanyou Plan Doubao Enterprise Service Alliance は、SaaS 企業が AI のアップグレードを実現し、業界の顧客にすぐに使える AI アプリケーションを提供するのを支援するサポート プランのパッケージを提供します。

06.

AI インフラストラクチャが新たな次元にアップグレードされました

クラウド コンピューティング能力の信頼できる保証

大規模モデルの時代では、クラスター管理の複雑さ、ネットワーク パフォーマンス、安定性が重要な課題になりますクラウドインフラストラクチャ向け。上記の課題に対処するために、Volcano Engine は、リソース スケールの利点と内部および外部の共通プールの内部慣行に基づいて、大規模クラスターの構築、管理、パフォーマンスの最適化、安定性の保証に関する業界をリードする一連のソリューションを提供します。

NVIDIA ソリューションおよびエンジニアリング担当副社長 Lai Junjie

会議では、Volcano Engine が veOmniverse を正式にリリースしました。これは、相互接続された仮想環境で企業や開発者を支援する、NVIDIA Omniverse に基づく新しいクラウド開発プラットフォームを企業や開発者に提供します。世界では、ワークフローを中心に効率的に設計およびコラボレーションし、インテリジェントで現実的な仮想世界を探索および作成します。

Volcano Engine は、顧客に高安定性と高性能のクラウド インフラストラクチャを提供することに加えて、ローカル展開のニーズに応えて、Wanka クラスター ネットワーキングと 3.2T の高性能を備えた新しいハイブリッド クラウド veStack インテリジェント コンピューティング バージョンもリリースしました。ロスレス ネットワークの超大規模な利点は、エンドツーエンドのエンジニアリングによってサポートされ、97.78% のトレーニング加速率、分単位の障害検出および自己修復を実現することができます。 10種類以上のGPUに適応し、国内主流製品化したGPUをサポートします。

GPU によって実行される集中的なコンピューティングに加えて、完全な AI アプリケーションでは、ビジネスを容易に実行してイノベーションを加速できるように、継続的にコストを削減し、既存の CPU 負荷の効率を向上させる必要もあります。 Volcano Engineは、コンピューティング、ストレージ、ネットワーク、運用保守の4つのレベルで、お客様のクラウドビジネスの安定稼働を全面的にサポートします。

終わり

技術革新から商用実装に至るまで、大規模モデルはさまざまな業界で AI 変革に強力な推進力をもたらしてきました。 Volcano Engine は、ByteDance の大型モデル分野での実践経験に基づいており、大規模な使用を通じて優れたモデルを磨き上げ、テクノロジーによる究極のコスト効率を実現します。さまざまな業界での豊富な実装経験とアルゴリズム サービスを提供し、共に成長します。今後も、Volcano Engine のフルスタック AI サービスは、企業が AI 変革を実装し、ビジネスの成長の可能性を刺激するのを支援し続けます。

以上がBytedance Beanbao 大型モデルがリリース、Volcano Engine フルスタック AI サービスが企業のインテリジェントな変革を支援の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。