用於多代理人工智慧編排的開源平台

Bluemarz是一個新的Python編寫的AI框架；它也是一個專門為管理和編排多個人工智慧代理而設計的開源平台。它帶來了人工智慧開源產業所缺乏的可擴展性和靈活性。

從無狀態架構到對多種語言模型（例如OpenAI、Anthropic Claude 和Google Gemini）的支持，Bluemarz 提供了強大的解決方案來滿足企業在可擴展性、安全性和隱私方面的需求- 所有這些對於專案/組織都至關重要處理敏感資料和複雜的工作流程。讓我們簡要探討 Bluemarz 為何成為希望大規模部署 AI 代理程式的開發人員獨特且強大的工具。

Bluemarz 入門

安裝：您可以透過使用 pip 從 GitHub 安裝 Bluemarz 來運行它：

pip install git https://github.com/StartADAM/bluemarz.git

基本工作流程：Bluemarz 引入了三個主要概念：代理、會話和分配。這些允許開發人員建立靈活的工作流程，多個代理可以在同一會話中進行交互，並根據需要從不同的法學碩士中提取。以下是來自其儲存庫的簡單會話範例：https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

Bluemarz 的主要優點

Bluemarz 解決了 LangChain、LangGraph 和 Chainlit 等其他平台尚未完全解決的重大限制，特別是在多代理、多 LLM 支援和會話可擴展性方面。

是什麼讓 Bluemarz 與眾不同

無狀態且可擴展：由於其無狀態設計，在 Kubernetes 叢集或任何雲端平台上運行 Bluemarz 都很簡單，不需要會話保留，從而增強了可擴展性。
多代理彈性：您可以在單一會話中指派多個代理程式並動態新增或刪除代理程式。這意味著，如果在會話中需要人工智慧翻譯代理，則可以即時添加它，而不會中斷正在進行的對話。
企業級安全性： Bluemarz 專為適應企業環境而構建，已考慮到合規性和隱私控制。
動態代理選擇：無論是透過程式碼還是使用人工智慧驅動的選擇器（即將推出），開發人員都可以輕鬆管理代理工作流程，增加對任務分配和效能的控制。

核心組件

供應商：這些是 Bluemarz 支援的法學碩士，包括 OpenAI、Anthropic Claude 和 Google Gemini，可以靈活地使用本地模型。

會話：會話代表 Bluemarz 中完全無狀態的交互，在 LLM 提供者的基礎設施中運行和儲存會話。

代理與分配：可以動態定義代理並將其指派給會話。 Bluemarz 支援手動和編程代理分配，允許在活動會話期間進行即時更改。

使用工具擴充 Bluemarz

Bluemarz 最強大的功能之一是能夠定義可重複使用工具。工具透過將法學碩士連接到外部系統、資料來源或服務來擴展法學碩士的能力。以下是將攝氏度轉換為開爾文的工具範例：

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

定義後，該工具可以在不同的代理和會話中使用，為任何需要溫度轉換的代理提供單點配置。

Bluemarz 的真實用例

客戶支援自動化：Bluemarz 的多代理支援允許專門從事不同領域的代理在單一會話中即時協作，從而提高回應時間和相關性。
研發：開發人員可以使用 Bluemarz 來設定研究會話，讓代理程式動態存取文件或資料集。
成本控制和最佳化：Bluemarz 代理的靈活性意味著僅部署必要的代理，從而降低組織的計算成本。

結論

如果您希望為新的、強大的、靈活的開源解決方案做出貢獻，請查看：https://github.com/StartADAM/bluemarz。由於它是無狀態的、適應性強並且可以進行企業級部署，因此它應該是一個偉大的專案組合，並且可以輕鬆為人工智慧潮流做出貢獻。無論您是跨多個代理程式協調單一複雜的任務，還是需要確保可擴展性和安全性，Bluemarz 都可以提供基礎設施來支援和發展 AI 代理生態系統。

以上是用於多代理人工智慧編排的開源平台的詳細內容。更多資訊請關注PHP中文網其他相關文章！