AWS Multi-Agent Orchestrator: Ein Leitfaden mit Beispielen

AWS Multi-Agent-Koordinator: Erstellen eines flexiblen Rahmens für komplexe AI-Anwendungen

Jede Woche entstehen

neue generative KI-Technologien, und der AWS-Multi-Agent-Koordinator ist ein neuer Rahmen für die Verwaltung mehrerer KI-Agenten. Unabhängig davon, ob Sie ein Kundenunterstützungssystem oder eine dedizierte Mehrwerfanwendung erstellen, lohnt es sich, diesen Framework zu berücksichtigen.

Dieses Tutorial erklärt die Einzigartigkeit des AWS-Multiagent-Koordinators, bietet Schritt-für-Schritt-Anleitungen zur Einrichtung der Umgebung und entwickelt ein Demonstrationsprojekt, um den Rahmen tatsächlich zu erleben.

Was ist AWS-Multi-Agent-Koordinator?

Der AWS-Multiagent-Koordinator ist ein flexibles und leistungsstarkes Rahmen, um KI-Agenten zu verwalten und komplexe Mehrrundengespräche zu erleichtern. Die vorgebauten Komponenten werden schnell entwickelt und bereitgestellt, sodass Sie sich auf Ihre eigenen Anwendungen konzentrieren können, ohne sie von Grund auf neu zu erstellen.

AWS Multi-Agent-Koordinator liefert die folgenden Funktionen:

• Intelligent Routing: Identifizieren Sie den besten Agenten für jede Abfrage dynamisch.
• Streaming- und Nicht-Streaming-Antwort: Unterstützt zwei Agentenantwortformate.
• Kontextmanagement: Verwalten Sie Kohärenz und Geschichte in mehreren Gesprächen.
• Skalierbarkeit: Erstellen Sie einen neuen Agenten oder ändern Sie einen vorhandenen Agenten.
• Allgemeine Bereitstellung: Kann auf AWS Lambda, lokalen Umgebungen und Cloud-Plattformen ausgeführt werden.

Dieses Framework unterstützt Python und Typenkript.

Überblick über das Arbeitsprinzip des Multi-Agent-Koordinators. (Quelle)

Das obige Bild zeigt, dass der Klassifizierer verfügbare Agenten, Benutzerangebote und Vorgängergespräche berücksichtigt, um den Agenten auszuwählen, der für Benutzereingaben am besten geeignet ist. Der Agent verarbeitet dann die Anfrage. Der Workflow ist einfach und effektiv.

AWS Multi-Agent-Koordinator

einrichten

Um die Umgebung schnell einzurichten, können Sie die Anweisungen in der Dokumentation befolgen.

Erstellen Sie zunächst einen neuen Ordner und eine neue Python -Umgebung, um die erforderlichen Bibliotheken zu installieren.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Installieren Sie nach Aktivierung der neuen virtuellen Umgebung die Bibliothek

<code>pip install multi-agent-orchestrator</code>

Als nächstes müssen Sie Ihr AWS -Konto konfigurieren. Wenn Sie kein AWS -Konto haben, melden Sie sich für ein kostenloses Konto an, um die kostenlose Stufe zu verwenden. Laden Sie nach der Registrierung die AWS CLI herunter.

AWS CLI erfordert auch Konfiguration. Ausführliche Anweisungen befolgen Sie die Schritte beim Einrichten der AWS -CLI. Sie können jedoch einen einfacheren Ansatz verwenden, indem Sie den Befehl AWS -Konfigurieren konfigurieren und die AWS -Zugriffsschlüssel -ID und die Secret Access -Schlüssel bereitstellen. Sie können diese Schlüssel erhalten, nachdem Sie einen neuen Benutzer im Dashboard erstellt haben.

Zugriffsschlüssel beim Erstellen eines neuen Benutzers bereitgestellt.

Wenn Sie bereit sind, auf den Schlüssel zuzugreifen, AWS -Konfigurieren auszuführen und den Schlüssel anzugeben, wählen Sie den Regionennamen, der Ihnen am nächsten liegt (die vollständige Liste wird hier bereitgestellt) und setzen Sie das Standardausgabeformat auf JSON.

Wenn Ihre CLI korrekt konfiguriert ist, sollte der Befehl AWS STS-Get-Caller-Identität Ihre AWS-Konto-ID, Benutzer-ID und ARN anzeigen.

Jetzt, da wir die AWS CLI bereit haben, müssen wir das AWS -Grundgestein konfigurieren, um auf das erforderliche LLM zuzugreifen. Amazon Bedrock ist ein Service, mit dem Sie zugrunde liegende Modelle (wie Lama 3.2 oder Claude 3.5 Sonett) über die API testen und aufrufen können. Der Multi-Agent-Koordinator verwendet diesen Dienst, um standardmäßig zwei Modelle aufzurufen:

1. Claude 3.5 Sonett als Klassifikator
2. Claude 3 Haiku als Agent

Natürlich können diese Modelle geändert werden, aber lassen Sie uns mit der Standardauswahl fortsetzen.

Zugriff auf beide Modelle zu Amazon Bedrock & GT; Wählen Sie beide Modelle (und andere, die Sie mögen) aus und geben Sie alle erforderlichen Informationen aus. Dieser Teil ist wie folgt:

Nach Abschluss der Anfrage ist das Modell innerhalb von 1-2 Minuten verfügbar. Nachdem Sie Zugriff auf das angeforderte Modell gewährt haben, sollten Sie darauf hinweg einen "Zugriff gewährt" sehen.

Hinweis: Möglicherweise müssen Sie erstellten Benutzern Richtlinien zuweisen. Wenn Sie im nächsten Abschnitt des Artikels Probleme haben (testen Sie Ihre Einstellungen), können Sie es testen. Wenn ja, überprüfen Sie diese Seite. Insgesamt müssen Sie definierte Benutzer Zugriff auf Amazon -Bedrockung gewähren.

Testen Sie Ihre Einstellungen

Um zu überprüfen, ob alle vorherigen Schritte korrekt eingestellt wurden, verwenden Sie den folgenden Code:

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Wenn Sie eine Antwort fordern und empfangen können, funktioniert alles einwandfrei.

Demo-Projekt mit AWS Multi-Agent-Koordinator

Das AWS -Multiagent -Koordinator -Repository bietet verschiedene Probenprojekte von Typen- und Python. Wir werden nun eine vereinfachte Python -Anwendung schreiben, die zwei Agenten enthält: Python Developer Agents und ML Expert Agents.

Wir werden auch Chainlit (ein Open -Source -Python -Paket) verwenden, um eine einfache Benutzeroberfläche für die Anwendung zu implementieren. Installieren Sie zuerst die erforderlichen Bibliotheken:

<code>pip install multi-agent-orchestrator</code>

Wir verwenden den folgenden Code als Demo -Anwendung, aber lassen Sie ihn zuerst erklären:

1. Wir importieren zuerst die notwendigen Bibliotheken.
2. Wir verwenden "anthropic.claude-3-haiku-20240307-v1: 0" als Modell unseres Klassifikators. Wenn eine neue Benutzereingabe eintrifft, wählt dieser Klassifikator den zu verwendenden Agenten aus.
3. Wir übergeben den erstellten Klassifizierer an den Multientorchestrator und definieren eine gewisse Konfiguration.
4. Grundgesteinsklasse wird verwendet, um unseren Agenten zu erstellen. Geben Sie für jeden Agenten einen Namen und eine Beschreibung an. Für Agenten können Sie jedes zugängliche Modell auswählen und sie sogar mit Ollama lokal ausführen. Einstellen von Streaming = True und Nehmen von ChainLitagentCallbacks (), da der Rückruf dazu führt, dass der Agent eine Streaming -Antwort anstelle einer vollständigen Antwort zurückgibt. Schließlich fügen wir jeden Agenten zum Koordinator hinzu.
5. setzen Sie die Benutzer_Session und definieren Sie die Hauptteile, die Benutzer- und Agentenmeldungen verarbeiten.

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

Es ist Zeit, die Anwendung auszuführen. Um dies zu tun, führen Sie zuerst chainlit run app.py -w . aus. Sie können Ihre Anwendung jetzt in einer neuen Registerkarte testen, die in Ihrem Browser öffnet.

Wie im Screenshot gezeigt, stellen wir jetzt eine Benutzeroberfläche zur Verfügung, um unsere Anwendung zu testen und mit dem Agenten zu chatten.

Bitte beachten Sie, dass das System seit der ersten Eingabeaufforderung "Was ist die Hauptstadt Frankreichs?" Dies ist entscheidend, um weiterhin relevant zu plaudern und bei der Verwendung dieser Modelle unnötige Punkte auszugeben. Unsere Experten für maschinelles Lernen spielen jedoch dank der intelligenten Routing des Multiagent -Koordinators eine Rolle, um Antworten zu geben.

Schlussfolgerung

In diesem Blog -Beitrag stellen wir das neueste AWS -Multiagent -Koordinator -Framework ein, heben einige seiner einzigartigen Funktionen hervor, skizzieren die Schritte, um eine Umgebung einzurichten, die von Amazon Bedrock bereitgestellten Grundmodelle zu erkunden und ein Demonstrationsprojekt zu implementieren.

Zum Zeitpunkt des Schreibens fehlt diesem Rahmen eine umfassende und detaillierte Dokumentation. Um andere Funktionen wie Speicher- und Werkzeugnutzung zu nutzen, müssen Sie die Codebasis lesen und die bereitgestellten Beispiele für die vorliegenden Projekte anzeigen.

Es ist ratsam, das generative KI-Framework im Auge zu behalten, um mit diesem schnelllebigen Feld Schritt zu halten. AWS Multiagent Coordinator ist eine vielversprechende Wahl, die auf der Infrastruktur der AWS -Dienste basiert, und seine Entwicklung ist der Aufmerksamkeit wert.

Das obige ist der detaillierte Inhalt vonAWS Multi-Agent Orchestrator: Ein Leitfaden mit Beispielen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!