Eine Open-Source-Plattform für die Multi-Agent-KI-Orchestrierung

Bluemarz ist ein neues in Python geschriebenes KI-Framework; Es handelt sich außerdem um eine Open-Source-Plattform, die speziell für die Verwaltung und Orchestrierung mehrerer KI-Agenten entwickelt wurde. Es bietet ein Maß an Skalierbarkeit und Flexibilität, das in der KI-Open-Source-Branche bisher gefehlt hat.

Von seiner zustandslosen Architektur bis hin zur Unterstützung mehrerer Sprachmodelle (wie OpenAI, Anthropic Claude und Google Gemini) bietet Bluemarz eine robuste Lösung, um Unternehmensanforderungen in Bezug auf Skalierbarkeit, Sicherheit und Datenschutz zu erfüllen – alles entscheidend für Projekte/Organisationen Umgang mit sensiblen Daten und komplexen Arbeitsabläufen. Lassen Sie uns kurz darauf eingehen, was Bluemarz zu einem einzigartigen und leistungsstarken Tool für Entwickler macht, die KI-Agenten in großem Maßstab einsetzen möchten.

Erste Schritte mit Bluemarz

Installation: Sie können Bluemarz zum Laufen bringen, indem Sie es von GitHub mit pip:

installieren

pip install git https://github.com/StartADAM/bluemarz.git

Grundlegender Arbeitsablauf: Bluemarz führt drei Hauptkonzepte ein: Agent, Sitzung und Zuweisung. Dadurch können Entwickler einen flexiblen Workflow einrichten, bei dem mehrere Agenten innerhalb derselben Sitzung interagieren und bei Bedarf auf verschiedene LLMs zurückgreifen können. Hier ist ein Beispiel einer einfachen Sitzung aus seinem Repo: https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

Hauptvorteile von Bluemarz

Bluemarz behebt erhebliche Einschränkungen, die andere Plattformen wie LangChain, LangGraph und Chainlit nicht vollständig gelöst haben, insbesondere im Hinblick auf Multi-Agent-, Multi-LLM-Unterstützung und Sitzungsskalierbarkeit.

Was Bluemarz auszeichnet

Zustandslos und skalierbar: Das Ausführen von Bluemarz in einem Kubernetes-Cluster oder auf einer beliebigen Cloud-Plattform ist aufgrund seines zustandslosen Designs, das keine Sitzungsaufbewahrung erfordert, einfach und verbessert so die Skalierbarkeit.
Multi-Agent-Flexibilität: Sie können mehrere Agenten in einer einzigen Sitzung zuweisen und Agenten dynamisch hinzufügen oder entfernen. Das heißt, wenn während der Sitzung ein KI-Agent für die Übersetzung benötigt wird, kann dieser im Handumdrehen hinzugefügt werden, ohne laufende Gespräche zu unterbrechen.
Enterprise-Ready-Sicherheit: Bluemarz ist so konzipiert, dass es in Unternehmensumgebungen passt, wobei Compliance- und Datenschutzkontrollen bereits berücksichtigt sind.
Dynamische Agentenauswahl:Entweder durch Code oder mit einem KI-gestützten Selektor (bald verfügbar) können Entwickler Agenten-Workflows einfach verwalten und so eine Ebene der Kontrolle über Aufgabenzuweisung und Leistung hinzufügen.

Kernkomponenten

Anbieter: Dies sind die LLMs, die Bluemarz unterstützt, einschließlich OpenAI, Anthropic Claude und Google Gemini, mit der Flexibilität, mit lokalen Modellen zu arbeiten.

Sitzungen: Sitzungen stellen Interaktionen dar, die in Bluemarz völlig zustandslos sind und Sitzungen in der Infrastruktur Ihres LLM-Anbieters ausführen und speichern.

Agenten und Zuweisungen: Agenten können dynamisch definiert und Sitzungen zugewiesen werden. Bluemarz unterstützt sowohl manuelle als auch programmatische Agentenzuweisungen und ermöglicht so Echtzeitänderungen während aktiver Sitzungen.

Bluemarz mit Tools erweitern

Eine der leistungsstärksten Funktionen von Bluemarz ist die Möglichkeit, wiederverwendbare Tools zu definieren. Tools erweitern die Fähigkeiten von LLMs, indem sie sie mit externen Systemen, Datenquellen oder Diensten verbinden. Hier ist ein Beispiel für ein Tool, das Celsius in Kelvin umrechnet:

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

Sobald dieses Tool definiert ist, kann es für verschiedene Agenten und Sitzungen verwendet werden und bietet einen zentralen Konfigurationspunkt für jeden Agenten, der Temperaturumrechnungen benötigt.

Reale Anwendungsfälle für Bluemarz

Automatisierung des Kundensupports: Der Multi-Agent-Support von Bluemarz ermöglicht es Agenten, die auf verschiedene Domänen spezialisiert sind, in Echtzeit innerhalb einer einzigen Sitzung zusammenzuarbeiten, wodurch Reaktionszeiten und Relevanz verbessert werden.
F&E: Entwickler können Bluemarz verwenden, um Forschungssitzungen zu konfigurieren, in denen Agenten dynamisch auf Dokumente oder Datensätze zugreifen.
Kostenkontrolle und -optimierung: Die Agentenflexibilität von Bluemarz bedeutet, dass nur die erforderlichen Agenten bereitgestellt werden, wodurch die Rechenkosten für Unternehmen gesenkt werden.

Fazit

Wenn Sie zu einer neuen, leistungsstarken und flexiblen Open-Source-Lösung beitragen möchten, schauen Sie sich das an: https://github.com/StartADAM/bluemarz. Da es zustandslos, anpassungsfähig und bereit für unternehmensweite Einsätze ist, sollte es ein großartiges Projekt in einem Portfolio sein und ein einfacher Einstieg in den KI-Trend. Unabhängig davon, ob Sie eine einzelne, komplexe Aufgabe über mehrere Agenten hinweg orchestrieren oder Skalierbarkeit und Sicherheit gewährleisten müssen, kann Bluemarz die Infrastruktur bereitstellen, um das KI-Agenten-Ökosystem zu unterstützen und zu erweitern.

Das obige ist der detaillierte Inhalt vonEine Open-Source-Plattform für die Multi-Agent-KI-Orchestrierung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!