Werkzeuganruf in LLMs

Große Sprachmodelle (LLMs) sind immer beliebter, wobei die Tool-Calling-Funktion ihre Fähigkeiten über die einfache Textgenerierung hinaus erweitert hat. Jetzt können LLMs komplexe Automatisierungsaufgaben wie dynamische UI -Erstellung und autonome Aktionen übernehmen. Diese Modelle wurden auf massiven Datensätzen ausgebildet und zeichnen sich aus, um strukturierte Daten zu verstehen und zu produzieren. Damit sind sie ideal für präzise Werkzeuganwendungsanwendungen. Dies hat ihre weit verbreitete Akzeptanz in der KI-gesteuerten Softwareentwicklung angeheizt, bei der das Werkzeuganruf-von grundlegenden Funktionen bis hin zu hoch entwickelten Agenten-jetzt zentral ist. In diesem Artikel wird die Grundlagen des LLM-Tools untersucht und zeigt, wie es mithilfe von Open-Source-Tools implementiert wird, um leistungsstarke Agenten aufzubauen.

Wichtige Lernziele

• Erfassen Sie das Konzept der LLM -Tools.
• Verstehen Sie die Grundlagen der Toolanrufe und deren Anwendungen.
• Erforschen Sie die Implementierungen von Tools in OpenAI (ChatCompletions-API, Assistenten-API, Parallel-Tool-Aufruf und strukturierte Ausgabe), anthropische Modelle und Langchain.
• Lernen Sie, effektive KI-Agenten mithilfe von Open-Source-Ressourcen zu konstruieren.

*Dieser Artikel ist Teil des *** Data Science Blogathon.

Inhaltsverzeichnis

• Was sind Werkzeuge?
• Was ist Tool Calling?
• Wie funktioniert Tool Calling?
  • Beispiel Anwendungsfälle
• Werkzeuganruf mit OpenAI -Modellen
  • Verwendung der Assistenten -API
  • Parallele Funktion Aufruf
  • Strukturierter Ausgang
• Werkzeugaufruf mit anthropischer Klaude
• Werkzeuganruf mit Langchain
  • Schema -Definition mit pydantisch
• Gebäudeagenten mit Werkzeuganrufen
• Einführung von Composio
• Aufbau eines Github -Agenten
• Häufig gestellte Fragen

Was sind Werkzeuge?

Werkzeuge sind Mechanismen, die es LLMs ermöglichen, mit externen Systemen zu interagieren. Diese Tools sind Funktionen für die LLM zugänglich, die unabhängig ausgeführt werden, wenn die LLM ihre Verwendung für erforderlich hält. Eine typische Tool -Definition umfasst:

• Name: Ein beschreibender Funktion/Werkzeugname.
• Beschreibung: Ein detailliertes Werkzeug Erläuterung.
• Parameter: Ein JSON -Schema, das die Funktions-/Werkzeugparameter definiert.

Was ist Tool Calling?

Das Aufrufen von Tools ermöglicht es dem Modell, Antworten zu generieren, die mit einem benutzerdefinierten Funktionsschema entsprechen. Wenn die LLM entscheidet, dass ein Werkzeug benötigt wird, erzeugt es eine strukturierte Ausgabe, die dem Argumentschema des Werkzeugs entspricht. Angesichts eines get_weather -Funktionsschemas würde beispielsweise eine Abfrage über das Wetter einer Stadt ein formatiertes Schema der Funktionsargumente zurückgeben, sodass die Ausführung die Wetterdaten abrufen kann. Wichtig ist, dass das LLM das Tool nicht ausführt. Es erzeugt die strukturierte Eingabe für die externe Ausführung.

Wie funktioniert Tool Calling?

Unternehmen wie OpenAI und Anthropic haben Modelle geschult, um geeignete Tools basierend auf dem Kontext auszuwählen. Jeder Anbieter behandelt das Tool -Aufruf und die Antworten unterschiedlich. Allgemein:

1. Definieren Sie Tools und geben Sie eine Eingabeaufforderung an: Definieren Sie Tools mit Namen, Beschreibungen und strukturierten Schemata zusammen mit der Eingabeaufforderung des Benutzers (z. B. "Was ist das Wetter in London?").
2. LLM -Werkzeugauswahl: Das LLM bewertet die Werkzeugbedarf. In diesem Fall stoppt es die Textgenerierung und generiert eine JSON-formatierte Antwort mit Tool-Parameterwerten.
3. Extrahieren, ausführen und zurückgeben: Extrahieren Sie Parameter, führen Sie die Funktion aus und geben Sie Ausgänge an die LLM zurück.
4. Antwortgenerierung: Das LLM verwendet Toolausgänge, um die endgültige Antwort zu formulieren.

Beispiel Anwendungsfälle

• Aktionsaktivität: Verbinden Sie LLMs mit Anwendungen (Google Mail, Github, Discord), um Aktionen zu automatisieren (Senden von E -Mails, Erstellen von Pull -Anfragen, Senden von Nachrichten).
• Datenbereitstellung: Holen Sie Daten aus Wissensbasis (Web, Wikipedia, APIs), um LLMs spezifische Informationen bereitzustellen.
• Dynamische UIS: Aktualisieren Sie die Anwendungs ​​-Benutzeroberfläche basierend auf Benutzereingaben.

Die folgenden Abschnitte Detail-Tools-Ansätze in OpenAI, Anthropic und Langchain. Open-Source-Modelle (wie Lama 3) und Inferenzanbieter (wie GROQ) unterstützen auch das Toolanruf.

(Der Rest des Artikels würde detaillierte Erklärungen des Tools in OpenAI, Anthropic, Langchain, Gebäudeagenten, Composio und einem Github -Agenten -Beispiel fortsetzen, das die Struktur und den Inhalt der ursprünglichen Eingabe widerspiegelt, jedoch mit umformulierten Sätzen und Wortschatzern.)

Das obige ist der detaillierte Inhalt vonWerkzeuganruf in LLMs. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!