Baidu Intelligent Cloud Qianfan 大型モデル プラットフォームが再びアップグレードされました。5 つの大型モデルと 55 の新しいツール コンポーネントがリリースされました。

80,000 のエンタープライズ ユーザーにサービスを提供し、13,000 の大規模モデルの微調整を支援し、160,000 の大規模モデル アプリケーションの開発を支援しました。2023 年 12 月以降、Baidu Intelligent Cloud Qianfan Large Model Platform API の毎日の呼び出しは 97 件増加しました%前月比... 1年前の国内大型モデルプラットフォームの「パイオニア」から今日の大型モデル「スーパーファクトリー」まで、Baidu Smart Cloud Qianfan大型モデルプラットフォームは国内大型モデル市場を確固たる地位を占めていました。リードしたが、彼の走るペースは止まらなかった。

3 月 21 日、Baidu Intelligent Cloud は北京首港公園で Qianfan 製品発表カンファレンスを開催し、カンファレンス中に次のことを発表しました。

1. 北京市石景山区と協力して、国内初の百度インテリジェントクラウド千帆大規模モデル産業イノベーション基地を構築し、地域産業の離陸を促進します。 # 2. 「費用対効果」に対する企業の中核的な要求を満たすために、Qianfan ModelBuilder 大型モデル サービスが完全にアップグレードされ、3 つの軽量大型モデルと 2 つの垂直シーン大型モデルが新たにリリースされました。

3 により、AI ネイティブ アプリケーション開発の敷居が大幅に下がり、Qianfan AppBuilder コンポーネントの機能が完全にアップグレードされました。

(Baidu Intelligent Cloud Qianfan Large Model Industry (Beijing) Innovation Base Construction Start)

イベント中、石景山区政府党委員会委員で副区長の曹世輝氏、中関村石景山公園管理委員会副所長の崔明明氏、百度副社長の謝光軍氏、 Baidu副社長の石清華氏は、国内初となるBaidu Intelligent Cloud Ganfan Large Model Industry (Beijing) Innovation Baseの発足式を行った。

イノベーション ベースは、大型モデル テクノロジと産業イノベーションの緊密な統合の促進に取り組んでおり、両社はコンピューティングの供給の向上に注力します。パワー、モデルアルゴリズムの最適化、データオープン性の促進、デモンストレーションシーンの作成、人材の導入と教育の深化など、政府と企業が協力して人工知能産業の新たな高地を創造します。副区長の曹世輝氏は、石景山区は百度と協力して人工知能と大型モデル技術の研究開発と革新的な応用に注力し、AI産業エコシステムの構築と改善、地域のデジタル変革への支援を提供すると述べた。と産業のインテリジェントなアップグレードを実現し、新たな品質の生産性をサポートします。

(Baidu 副社長 謝光軍)

2023 、大型モデルは世界規模で爆発的な成長を示し、中国では「100モデルの戦い」が始まり、無数の大手テクノロジーメーカーと科学研究機関が大型モデルの「オントロジー」に焦点を当て、狂ったように「関与」しています。

百度の謝光軍副社長は、大型模型技術はこの1年で急速に発展し、数千の業界で段階的に導入されており、2024年は国内大型模型産業が爆発的に成長する最初の年になるだろうと述べた。アプリケーション。大規模モデルの導入シナリオ、使用コスト、アプリケーション開発、アプリケーションの効果など、企業が最も懸念している 4 つの主要な課題に対応して、Baidu Intelligent Cloud Qianfan は 2 つの側面で最新の「問題解決アイデア」を提供しました。 AI ネイティブ アプリケーション開発。

Baidu Intelligent Cloud Qianfan 大型モデル プラットフォーム「3 2」新しいモデル パッケージをリリース: エンタープライズ アプリケーションの「費用対効果」を向上大型モデル ''

大型モデルの効果は「技術派」の絶え間ない追求ですが、経済的利益は「市場派」の最終目標です。謝光軍氏は、多くの業界の顧客とのコミュニケーションの中で、大型モデルの究極の効果を追求する少数の大口顧客を除いて、より多くの企業や機関が大型モデルの使用効果、パフォーマンス、コストを総合的に考慮する必要があることを発見しました。 「価数」を比較します。今回、Qianfan プラットフォームのモデル マトリックスは、同社の核となる魅力である「費用対効果」に応えて一連のアップグレードを受けました。

(Baidu インテリジェント クラウド Qianfan 大規模モデル プラットフォーム モデル マトリックス)

Wenxin 大型モデル ERNIE 3.5 は、現在、Baidu Intelligent Cloud Qianfan 大型モデル プラットフォームで最も人気のある基本的な大型モデルの 1 つです。ユーザーの一般的な対話シナリオに向けて、ERNIE 3.5 は、指示に従い、コンテキストを学習し、論理的推論機能の 3 つの側面で機能を強化しました。アップグレードされた ERNIE 3.5 では、コピーライティングの作成、情報抽出、ツールの呼び出しといった 3 つの主要なエンタープライズ アプリケーション シナリオにおいて、アプリケーションのパフォーマンスが 24%、27%、22% 大幅に向上しました。

#第 2 に、非常に大きなパラメーターを持つ大規模モデルと比較して、軽量大規模モデルのパラメーターは小さいため、顧客は特定の使用シナリオをターゲットにしやすくなります。モデルを微調整すると、期待される結果を達成しやすくなり、コストをさらに節約できます。このカンファレンスで、Baidu Intelligent Cloud は、顧客が「効率を落とさずに量を削減」し、不必要なコストを節約できるよう、ERNIE Speed、ERNIE Lite、ERNIE Tiny を含む 3 つの軽量モデルをリリースし、パラメータは大から小までありました。

具体的には、ERNIE Speed は、3 つの軽量大規模モデルの中で「大きなモデル」として、推論シナリオで最大 128k のコンテキストを持ちます。知識に関する質問と回答などのタスクを処理する場合、コンテキストの依存関係をより適切に処理し、より一貫性のある正確な予測や回答を生成できます。同時に、ERNIE Speedをベースモデルとして特定のシナリオに合わせた微調整を行うことができ、フラッグシップのラージパラメータ大型モデルと同等以上のモデル効果が得られ、費用対効果が大幅に向上します。 。

ERNIE Speed と比較すると、ERNIE Lite はパラメータが小さいため、低計算能力の AI アクセラレータ カードでの推論処理に適しています。モデルの効果と推論パフォーマンスを考慮すると、顧客のランディング アプリケーションのコストが大幅に削減されます。 ERNIE-Bot-turbo モデルのアップグレード バージョンとして、感情分析、マルチタスク学習、自然推論などのシナリオにおける ERNIE Lite のアプリケーション効果が 20% 向上しました。推論呼び出しのコストが 53% 大幅に削減されました。

ERNIE Tiny は、3 つの軽量モデルの中でパラメータ数が最も少なく、究極の低コストと低遅延を実現するための最良の選択肢をお客様に提供します。検索、推奨、意図認識などの同時実行性が高く、遅延が少ないアプリケーション シナリオにおいて、ERNIE Tiny は優れたパフォーマンスを発揮します。特定の対話レコメンデーションのビジネス シナリオにおいて、微調整された ERNIE Tiny は、検索エンジンの推奨ワードを刺激する際に、ERNIE 3.5 と比較して対話ラウンド数を 3.5% 増加させ、コストを 32% 削減しました。

#さらに、企業では、実際のアプリケーションでのキャラクターの演奏や外部ツールの呼び出しにおける大規模モデルの効果に対して、より高い要件が求められています。この Qianfan 大型モデル プラットフォーム ModelBuilder は、エンタープライズ シナリオに対する深い洞察と Baidu 独自のビジネス ベスト プラクティスに基づいて、顧客のロールプレイング アプリケーション シナリオ (ゲームなど) に適応するために、ERNIE Character と ERNIE Functions という 2 つの垂直シーン大型モデルも立ち上げました。 NPC、顧客サービス対話など) およびツール呼び出しシナリオ (対話での外部ツールの使用、ビジネス機能の呼び出しなど)。

#企業実務において、あるスマート ハードウェア メーカーは ERNIE キャラクターに基づいたインテリジェント アシスタントを作成しました。このモデルを適用した後、キャラクターの一貫性とモチベーションが向上しました。ユーザーのチャット意欲向上効果が大幅に向上しました。旅行およびトラベル APP は ERNIE Functions を使用して、チケットの予約やフライト状況の確認などの複数の関数呼び出しを 85% の精度で実行するインテリジェントな顧客サービス アシスタントを作成します。

Qianfan AppBuilder が完全にアップグレードされました: AI ネイティブ アプリケーション開発の敷居が大幅に下がりました

QianfanAppBuilder は、産業グレードの AI ネイティブ アプリケーション開発プラットフォームとして、Qianfan の重要な部分です。 AppBuilder の最下層は、Baidu の長年の技術と実践経験に基づく大規模なモデル コンポーネント、AI 機能コンポーネントの基本コンポーネント、および典型的なアプリケーション シナリオ向けに徹底的に調整および構築された一連の高度なコンポーネントで構成されています。基本コンポーネントと高度なコンポーネントが共同でエージェントをサポートします。一方で、ワークフロー オーケストレーションを通じてより複雑なビジネス ロジックを実装できます。他方、エージェントは強力な自律タスク計画機能も備えており、ユーザーの意図を理解し、実行パスを自動的に計画できます。マルチツールの統合を実現し、オーケストレーションと実行を自動化します。これらの機能は、さまざまな開発者のニーズによりよく適合するために、ゼロコード状態とコード状態という 2 つの開発方法を通じて提供されます。

開発完了後、アプリケーションは複数のチャネルを通じて配布および統合できます。AppBuilder は、WeChat カスタマー サービスへのアプリケーションのワンクリック配布をサポートしています。 、WeChat 公式アカウント、Web./H5、Baidu Lingjing Matrix、その他の主流チャネル。 Baidu Spiritual Realm Matrix に基づいて、Baidu 検索や Baidu 情報フローなどの主流のシナリオにアプリケーションを配布およびマウントできます。アプリケーションが実際に開発されると、ユーザーに直接届き、AI ネイティブ アプリケーションの作成から開発、配布までのプロセス全体がオープンになります。

（Baidu Intelligent Cloud Qianfan AppBuilder）

アップグレードされた AppBuilder には、55 ものオープン ツール コンポーネントが含まれています。 Baidu の長年にわたる技術蓄積と独自のビジネス蓄積に基づいた大規模なモデル コンポーネントと AI 機能コンポーネントに加え、検索などの Baidu 固有のビジネス コンポーネントや、複数のシナリオに対応するサードパーティ API ツールも含まれています。 RAG (知識検索の質問と回答)、典型的なアプリケーション シナリオに従って徹底的に調整された GBI (生成データ分析) などの高度な機能コンポーネント。

AI ネイティブ アプリケーションの開発はクラウド インフラストラクチャと切り離すことができませんが、今回リリースされた基本コンポーネントには、Baidu Smart Cloud が新たに提供を開始したベクトル データベース VDB 1.0 も含まれています。 Vector データベースは、企業にとってナレッジ ベースの不可欠なコア コンポーネントであり、従来のナレッジ ベースの質問と回答システムが直面するパフォーマンスのボトルネック、メンテナンスの課題、規模の制限に対する強力なソリューションを提供します。新しくリリースされた Baidu ベクトル データベース VDB 1.0 は、包括的な運用および保守管理機能とセキュリティ保護機能を統合するだけでなく、Qianfan や LangChain などの主流のエコシステムとも互換性があり、企業が数千万の文書知識とサポートを簡単に管理できるようになります。 1,000 億のベクトル記憶規模とミリ秒レベルのベクトル検索速度。同時に、同様のオープンソース製品と比較して、VDB 1.0 のパフォーマンスは最大 10 倍向上しています。

コンポーネントに加えて、Qianfan AppBuilder によって起動されたエージェント (インテリジェント) アプリケーション フレームワークには、正確な独立したタスク計画機能があり、さまざまな用途に適しています。このツールの自動オーケストレーションの精度は 90% を超えており、この数値はまだ改善されています。 AppBuilder は、開発者がカスタム ツールにアクセスし、自動オーケストレーションと手動オーケストレーションを組み合わせて、より複雑なシナリオ アプリケーションのニーズをカスタマイズすることもサポートします。エージェント フレームワーク内のコード インタープリタ機能も、今回のアップグレードでパフォーマンスが 40% 大幅に向上し、複雑なデータ分析シナリオで生成された結果の受け入れ率が 95% と高く、さまざまなデータ分析や情報への対応が容易になりました。処理シナリオです。

さらに、AppBuilder のコードベースの開発ツールも新たに追加されました。 AppBuilder SDKは今回Agent APIをリリースし、開発者がAgentをビジネスシステムに簡単に統合できるようにすると同時に、AppBuilder SDKは主流のAIネイティブアプリケーションシナリオ向けの豊富なアプリケーション例を提供します現在Githubでオープンソースであり、さまざまなアプリケーションをサポートしていますコンポーネントを自由に呼び出せる柔軟なオーケストレーションにより、開発者は二次開発やアプリケーションの便利な統合を実現できます。

カンファレンスでは、「英作文ヘルパー」エージェント（インテリジェント（本体）アプリケーション、アプリケーションを入力するだけ）の構築方法もデモされました。 AppBuilderで開発したいアプリケーションの名前や機能を入力すると、プラットフォームがアプリケーションを自動生成し、ロールの指示を調整し、必要なツールコンポーネントを追加するだけで、すぐに英作文添削アシスタントを生成できます。公開後すぐに使用でき、アプリケーションの作成と配布は 3 つのステップで完了します。

(1分で英作文添削アシスタントを作成)

Baidu インテリジェント クラウドの観点からは、大規模モデル テクノロジの継続的な進化と画期的な進歩により、エンジニアリングの実践とユーザー ニーズの適応がますます重要になっています。シナリオを深く掘り下げて、顧客の真のニーズを発見し、それに対応することによってのみ、革新的なテクノロジーの恩恵を享受する最善の方法です。

以上がBaidu Intelligent Cloud Qianfan 大型モデル プラットフォームが再びアップグレードされました。5 つの大型モデルと 55 の新しいツール コンポーネントがリリースされました。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。