アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない

Alibaba Tongyi Lab のオープンソース マルチエージェント プログラミング フレームワークおよび開発プラットフォームである、ビルディング ブロックのようなマルチエージェント開発を実現します。AgentScope。

このプラットフォームは、使いやすいプログラミング エクスペリエンス、安定した信頼性の高いランタイム保証を提供することを目的として、マルチエージェント アプリケーション開発者向けに特別に構築されており、開発者に分散型のマルチモーダルな技術サポートを提供します。

OpenAI、DashScope、Gemini、Ollama などのさまざまなプラットフォーム用のモデル API が組み込まれており、現在の大規模モデルのオープンソース エコシステムと深い互換性があります。

AgentScope には、すぐに使えるさまざまな機能が用意されており、ドラッグ アンド ドロップするだけでマルチエージェント アプリケーションを構築できます。

分散開発の経験がない開発者でも、AgentScope プラットフォーム上で数万レベルのマルチエージェントの同時実行を簡単に達成できます。

#より多くのユーザーが独自のマルチエージェント アプリケーションを迅速かつ簡単に開発できるようにするため。 AgentScope は、次の機能を提供します。

• ドラッグ アンド ドロップ プログラミング パラダイム - AgentScope ワークステーション: ユーザーに視覚的なドラッグ アンド ドロップ プログラミング パラダイムを提供します。アンドドロップ開発インターフェイス
• インタラクティブ プログラミング アシスタント—AgentScope Copilot: AgentScope に関する開発者の質問に答えます
• #透過的で制御可能な開発プロセス - リアルタイムのアプリケーション監視: 透過的で制御可能な開発を実現するための、アプリケーションの運用コストとマルチエージェントのステータスのリアルタイム監視
• 豊富な開発リソース: 迅速かつ便利な二次開発を促進し、「最初から始める」ことなくアプリケーションを構築できます

AgentScope Workstation

AgentScope Workstation は、便利な「ドラッグ アンド ドロップ」マルチエージェント アプリケーション オーケストレーション パラダイムを提供します。

ここでは、プログラミング経験はもうあなたの想像力を制限する要素ではありません。各開発者は、コードを書かずに豊富なツールバーでお気に入りの大きなモデル、エージェント、パイプラインを選択してドラッグし、ブロックのように自由に組み合わせて、ユニークで革新的なマルチエージェント アプリケーションを作成できます。

ドラッグ アンド ドロップによって構築されたこれらのマルチエージェント アプリケーションが実際に使用可能であることを確認するために、AgentScope Workstation では、アプリケーションの正確性を確認する静的ルール チェックが導入されています。これにより、アプリケーションの正しい特性評価が保証されます。

さらなるカスタマイズと詳細な開発を求める上級開発者に対して、AgentScope Workstation は強力なサポートも提供します。

開発者は、アプリケーションを構成情報としてエクスポートし、AgentScope Workstation エンジンを使用して実行することも、AgentScope Workstation Compiler を使用してワンクリックで構成情報を Python コードに変換することもできます。このようにして、開発者はコードをさらに編集および最適化して、より洗練されたパーソナライズされたアプリケーション調整を実現できます。

AgentScope Copilot

AgentScope Copilot は、AgentScope フレームワーク自体に基づいて構築された開発アシスタントであり、次のように設計されています。開発者がマルチエージェント アプリケーションの開発プロセスで遭遇する問題を解決できるように支援します。その技術的な実装は、マルチエージェント グループ チャット (マルチエージェント会話) とデータ検索生成 (検索拡張生成、 RAG) 、エージェント コール (メンション) 、その他多くの機能。

AgentScope Copilot と対話する場合、開発者はガイド アシスタント

(ガイド アシスタント) と対話して、質問と回答アシスタントなどの専用のエージェント アシスタントを呼び出すこともできます。 （家庭教師アシスタント）またはコード プログラミング アシスタント（コーディング アシスタント）。より専門的で具体的な回答が得られます。より具体的には、コード プログラミング アシスタントは、開発者がフレームワーク内の各モジュールの定義と使用法を迅速に明確にし、より適切なプログラミングの提案を提供するのに役立ちます。

AgentScope Copilot 自体は、AgentScope フレームワークの RAG モジュールに基づいて構築されており、LlamaIndex などの一般的なデータ取得フレームワークをサポートしていることは言及する価値があります。さまざまなベクトル データベース タイプであり、さまざまな大規模な言語モデルへのアクセスをサポートします。開発者は二次開発を迅速に実行し、独自のプロジェクト用に Copilot アシスタントを簡単に構築できます。

#透明で制御可能な開発プロセス

使いやすいアプリケーション開発プロセスは、開発者にとって制御可能で透明である必要があります。

ただし、マルチエージェントのシナリオでは、多くの種類のモデル API とさまざまな呼び出しインターフェイスが存在し、モデル API の使用コストを効果的に管理および監視し、リソースの無駄や予期せぬ出費を回避する方法が、リソースの監視にとってより大きな課題となります。能力。

たとえば、検索エンジンを使用するときに複雑な Web ページを大規模モデルへの入力として取得すると、オーバーヘッドが大きくなり、開発者の認識が遅れることがよくあります。この問題を解決するために、AgentScope は以下を実装するように Monitor モジュールを設計しました。

自動 API コスト統計: さまざまなモデル API のトークン使用量を正確に記録し、現在のコストを自動的に計算して、開発者はモデル API コストのすべての支出を明確に理解できます。

予算設定と超過アラーム: 開発者が各モデル API の予算上限を設定できるようにサポートします。総支出が予算を超えると、システムは自動的にアラームをトリガーし、過剰支出を避けるために検査と調整を行うよう開発者に即座に通知します。

カスタム監視インジケーターのサポート: プリセット モデル API 関連のインジケーターに加えて、Monitor を使用すると、開発者は検索ツールのコストやデータ ストレージのコストなど、他の監視インジケーターをカスタマイズすることもできます。サービス、ネットワーク トラフィックなどを監視し、開発者がアプリケーションのステータスを包括的かつ自動的に監視できるようにします。

#△ 監視モジュール

#すぐに使える開発リソース

AgentScope豊富な組み込みツール機能、エージェント、アプリケーション例があり、開発者は軽量の変更を加えて独自のマルチエージェント アプリケーションを簡単に開発できます。

ツール機能: AgentScope は、ネットワーク検索、データベース クエリ、ファイル操作、テキスト処理など、さまざまなタイプのツール機能をサポートしています。各カテゴリには異なる実装形式が含まれています。たとえば、ネットワーク検索レベルでは、AgentScope はすでに Bing、arXiv、DBLP などの複数の検索エンジンをサポートしています。

Agent: AgentScope には、基本ダイアログ、フォーマットされたダイアログ、推論、RAG、分散エージェント、その他のさまざまな種類のエージェントを含む、さまざまな機能を持つ組み込みエージェントがあります。開発者は、さまざまなパラメータを使用してエージェント インスタンスを初期化するだけで、エージェントを必要なエージェント インスタンスに特化できます。

アプリケーション例: AgentScope には、ダイアログ (会話) 、ゲーム (ゲーム) 、および分散 (配信)# がプリセットされています。 ## およびさまざまな種類のアプリケーション。これらのサンプルは、開発者が開発コストを削減するのに役立つ一方で、アプリケーション開発のためのテンプレートやリファレンスも提供します。 開発者が AgentScope の組み込みリソースをより深く、より速く理解できるようにするために、AgentScope は、チュートリアル

(チュートリアル)

やインターフェイス ドキュメント (API など) を含む豊富で詳細なドキュメントを提供します。 Document) および設計書は、開発者が AgentScope をよりよく理解して使用できるようにするために役立ちます。 安定性と信頼性の高い

大規模モデルに基づくマルチエージェント アプリケーションは、モデルの錯覚やモデルの指示に従う能力の不足など、多くの新たな課題に直面します。マルチエージェント アプリケーションが安定して確実に実行できるようにするために、AgentScope はまずアプリケーションで発生するエラーを分類し、次にフォールト トレランス メカニズムの完全なセットと、それに応じてカスタマイズされたフォールト トレランス処理を提供します。

ランダム性指向の耐障害性

: ランダム エラーは、不安定なネットワーク状態やモデルによって生成されたコンテンツの不確実性によって発生することが多く、大規模なモデルに基づいてアプリケーションを構築する場合に最も一般的なタイプです。 。 間違い。このようなエラーは多くの場合非常に些細であり、完全に把握するのが難しいため、AgentScope は組み込みの再試行メカニズムを使用して、そのようなランダムなエラーをフィルタリングして保護し、開発者がアプリケーションのオーケストレーションにエネルギーを注ぎやすくします。

ルールベースのフォールト トレランス

: アプリケーションで発生した一部のエラーは、ルールによって修復できます。たとえば、指定された形式で応答を生成するために大規模なモデルが必要な場合、大規模なモデルは追加のコンテンツを生成することがありますが、アプリケーションの通常の動作を保証するために、事前に設定されたルールによってコンテンツを切り詰めることができます。

モデルベースのフォールト トレランス

: 大規模モデルの独自機能を使用してエラーを修正することは、マルチエージェント アプリケーションの特徴の 1 つであり、AgentScope は入力およびエラー情報を大規模モデルに提供しようとします。モデルの理解と知識を使用してエラーを修正します。

エージェント/開発者向けの耐障害性

: 事前に設定されたルールや大規模なモデルではエラーを解決できない場合、多くの場合、問題を解決するために開発者またはエージェントの介入が必要となるため、AgentScope発生した問題の解決に役立てるため、エラー、フォーマットされた属性、エラー情報、エラーの入出力情報がすべて開発者またはエージェントに送信されます。 プロンプトの最適化

マルチエージェント アプリケーションのパフォーマンスの向上は、大規模なモデルのプロンプト (プロンプト) の品質に大きく依存します。適切なプロンプトは、アプリケーションの動作が成功する確率を大幅に高めます。 AgentScope プログラミング フレームワークは、開発者がアプリケーションを継続的に最適化できるように、プロンプト チューニング モジュールを提供します。

プロンプトの自動生成: 開発者にとって、適切なプロンプトを生成することは、多くの場合、時間と労力を要する作業です。 AgentScope にはエージェントがプリセットされており、内部でインコンテキスト学習 (ICL) を使用して開発者のアプリケーション シナリオを包括的に統合し、開発者が迅速に開発を開始できるように必要なプロンプトを直接生成します。

サンプル入力のサポート: AgentScope では、開発者は複数のサンプルをテンプレートとして同時に入力でき、AgentScope はこれらのサンプルに基づいて特定の下流タスク用の特定のプロンプト ワードを生成できます。

プロンプトの動的調整: アプリケーションの実行プロセス中に、エラーを回避するための新しいルールを追加するなど、動作条件に応じて大規模モデルのプロンプト ワードをさらに調整する必要があります。 AgentScope は、エージェントが開発者および環境と対話するプロセスにおいて、その履歴データがプロンプトを調整するための基礎となります。AgentScope は、その時点のシーンに基づいてエージェントのシステム プロンプト (システム プロンプト)# を変更します。 ##これにより、動作中のエージェントのパフォーマンスが向上します。 分散並列

マルチエージェント プログラミング フレームワークとして、AgentScope は設計当初からエージェント間のコラボレーション効率の向上を主な目標の 1 つとして捉え、この目的のために分散を設計しました。スタイルモード。このモードでは、複数のエージェントを異なるプロセスやマシンで実行できるため、コンピューティング リソースが最大限に活用され、運用効率が向上します。 AgentScope の分散設計には主に次の特徴があります。

自動並列最適化

: AgentScope の分散設計はアクター プログラミング パラダイムに従い、アプリケーション プロセス オーケストレーションにおけるさまざまなエージェント間の潜在的な違いを自動的に識別できます。並列可能、自動並列最適化が実行され、動作効率が向上します。同時に、各エージェントはローカルまたはリモートのマシン上で独立して実行でき、コンピューティング リソースを最大限に活用し、大規模な展開をサポートします。

開始の敷居は非常に低いです

: AgentScope は、開発者を分散テクノロジの実装の詳細から完全に保護します。開発者は、コストなしで分散マルチエージェント アプリケーションを開発したり、既存のマルチエージェントを使用したりできます。エージェント アプリケーションを分散モードに変換して実行します。 AgentScope の分散アプリケーション オーケストレーションは、分散アプリケーションに変換すると、ローカライズされたオーケストレーション方法と完全に互換性があり、分散の背景知識がなくても、分散マルチエージェント アプリケーションを簡単にオーケストレーションできます。

大規模展開のサポート

: AgentScope は現在、単一マシン (64 コア 8 カード A100) 上で一度に 16,000 を超えるエージェント インスタンスの実行をサポートしています。スケールはマシンの数が増加するにつれて直線的に増加します。たとえば、AgentScope は、4 台のマシンのクラスタ上で 64,000 件を超えるエージェント コールを 30 秒以内に完了できます。この機能により、大規模な並列処理とエージェントのシミュレーションが可能になります。

△

ローカル モードから分散モードへの変換

マルチモーダル サポート

AgentScope は開発者のマルチモーダル使用をサポートしますデータとマルチモーダル モデルを使用して、強力なマルチエージェント アプリケーションを構築します。開発者がプロ​​グラムされたマルチエージェント アプリケーションをより直感的かつ便利に操作できるようにするために、AgentScope は開発者にとって使いやすい対話型インターフェイスである AgentScope Studio を提供します。これにより、テキスト、サウンド、画像などのさまざまなモダリティを使用できます。データは鮮明に表示されるため、開発者は作成したインテリジェントなアプリケーションを最も直感的な方法で体験し、調整できます。

△

AgentScope Studio 次に、AgentScope は開発者にさらに多くの利便性を提供していきます。また、より多くの開発者が AgentScope オープンソース コミュニティの構築に参加し、より興味深いマルチエージェント アプリケーションを探索できることを楽しみにしています。

AgentScope オープンソース ウェアハウス アドレス:

https://github.com/modelscope/agentscope

ウェルカムトライアル:

https://agentscope.aliyun.com

以上がアリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がないの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。