要启用通义千问的function calling能力,需五步:一、用json schema定义工具函数;二、在api请求中传入tools参数;三、解析tool_calls并执行对应函数;四、将结果以role="tool"消息注入上下文后二次调用;五、兼容无工具调用场景,优先检查content字段。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望通义千问模型能主动调用外部工具完成实时任务,例如查询天气、获取时间或执行计算,则需正确配置并触发其 Function Calling 能力。以下是实现该能力的具体步骤:
一、定义工具函数与 JSON Schema
Function Calling 的前提是向模型明确声明可用工具的名称、用途及参数结构,模型据此判断是否调用以及如何填充参数。工具描述必须以标准 JSON Schema 格式提供,包含 type、function.name、function.description 和 function.parameters 四个核心字段。
1、编写工具定义字典,例如定义一个天气查询函数,其中 function.name 必须与实际 Python 函数名一致。
2、确保 parameters 中的 properties 严格匹配实际函数接收的参数类型,如 location 必须为 string 类型。
3、在 required 字段中显式列出必填参数,避免模型遗漏关键输入。
二、构造带工具描述的提示词
模型需在推理时同时看到用户问题和全部可选工具的完整描述,才能做出准确调用决策。提示词中必须将 tools 列表作为独立参数传入 API 请求,不可仅在 system message 中文字描述工具功能。
1、组织 messages 列表,至少包含 system 角色(说明任务目标)和 user 角色(提出自然语言请求)。
2、在调用 client.chat.completions.create 时,将 tools 参数设为上一步定义的工具列表。
3、设置 response_format={"type": "json_object"} 强制模型输出 JSON 格式,防止自由文本干扰解析。
三、解析并执行模型返回的调用指令
当模型判定需要调用工具时,会返回 content 为空、tool_calls 字段非空的响应。该字段包含 name 和 arguments 两个关键信息,应用程序需提取后执行本地函数。
1、检查 response.choices[0].message.tool_calls 是否存在且不为空。
2、遍历 tool_calls 列表,读取每个调用的 function.name 以匹配预注册的工具。
3、使用 json.loads 解析 function.arguments 字符串,并将其作为关键字参数传入对应函数。
四、将工具结果注入上下文并二次调用模型
工具执行完毕后,原始 JSON 响应需以特定格式回填至 messages 中,作为模型生成最终自然语言回答的依据。该步骤确保模型能基于真实数据组织语义化输出,而非虚构内容。
1、构造一条 role="tool" 的消息,其中 content 字段为工具函数的原始返回值字符串。
2、将该消息追加到原始 messages 列表末尾,保持对话历史完整性。
3、再次调用 client.chat.completions.create,此时不传入 tools 参数,模型将基于工具结果生成自然语言回复。
五、处理无工具调用的兜底场景
并非所有用户请求都需调用外部工具,模型可能直接返回 content 字段。程序必须兼容该情形,避免因假定必然存在 tool_calls 而引发 KeyError 或解析异常。
1、优先检查 response.choices[0].message.content 是否非空且 tool_calls 为 None 或空列表。
2、若满足条件,直接将 content 字段作为最终响应返回给用户。
3、关键提示:必须显式判断 tool_calls 存在性,不可默认执行解析逻辑。











