在LLMS中调用工具

大型语言模型（LLMS）的流行激增，工具称呼功能极大地扩展了其功能，而不是简单的文本生成。现在，LLM可以处理复杂的自动化任务，例如动态UI创建和自动操作。在大规模数据集中培训，这些模型在理解和生成结构化数据方面表现出色，使其非常适合精确的工具称呼应用程序。这加剧了他们在AI驱动的软件开发中的广泛采用，从基本功能到复杂的代理，工具称呼现在是中心。本文探讨了LLM工具呼叫的基础知识，并演示了如何使用开源工具来构建强大的代理商来实施它。

关键学习目标

• 掌握LLM工具的概念。
• 了解工具呼叫及其应用的基本原理。
• 探索OpenAI中的工具称呼实现（ChatCompletions API，助手API，并行工具调用和结构化输出），人类模型和Langchain。
• 学会使用开源资源来构建有效的AI代理。

*本文是***数据科学博客马拉松的一部分。

目录

• 什么是工具？
• 什么是工具调用？
• 工具调用如何工作？
  • 示例用例
• 使用OpenAI型号的工具通话
  • 利用助手API
  • 并行函数调用
  • 结构化输出
• 用拟人的克劳德（Claude）来调用工具
• 用兰班呼叫工具
  • 模式定义与pydantic
• 用工具调用的建筑代理
• 引入Composio
• 建造GitHub代理
• 常见问题

什么是工具？

工具是允许LLM与外部系统交互的机制。这些工具是可以访问LLM的功能，在LLM认为其使用必要时独立执行。一个典型的工具定义包括：

• 名称：描述函数/工具名称。
• 描述：详细的工具说明。
• 参数：定义函数/工具参数的JSON模式。

什么是工具调用？

工具调用使该模型能够生成匹配用户定义功能架构的响应。当LLM决定需要工具时，它会产生与工具参数模式相符的结构化输出。例如，鉴于get_weather功能模式，有关城市天气的查询将返回一个格式化的功能参数架构，从而使执行能够检索天气数据。重要的是，LLM不会执行该工具。它生成用于外部执行的结构化输入。

工具调用如何工作？

OpenAI和Anthropic的公司已经培训了模型，可以根据上下文选择适当的工具。每个提供商都以不同的方式处理工具调用和响应。一般来说：

1. 定义工具并提供一个提示：定义具有名称，描述和结构化模式的工具，以及用户的提示（例如，“伦敦的天气是什么？”）。
2. LLM工具选择： LLM评估工具的必要性。如果是这样，它会停止文本生成并使用工具参数值生成JSON形式的响应。
3. 提取，执行和返回：提取参数，运行功能，然后返回输出到LLM。
4. 答案生成： LLM使用工具输出来制定最终答案。

示例用例

• 动作启用：将LLMS连接到应用程序（Gmail，Github，Discord）以自动化操作（发送电子邮件，创建拉请请求，发送消息）。
• 数据提供：从知识库（Web，Wikipedia，API）中获取数据，以向LLM提供特定信息。
• 动态UIS：基于用户输入更新应用程序UIS。

以下各节详细介绍了OpenAI，人类和Langchain的工具接听方法。开源模型（例如Llama 3）和推理提供商（如GROQ）也支持工具调用。

（本文的其余部分将继续详细说明在OpenAI，人类，兰链，建筑代理，Composio和GitHub代理示例中呼叫工具的详细说明，反映了原始输入的结构和内容，但带有重新表达的句子和词汇。）

以上是在LLMS中调用工具的详细内容。更多信息请关注PHP中文网其他相关文章！