Ollama怎么让模型调用自己写的函数?

风雪君_2951

风雪君_2951

2026-11-22

786人浏览

原创

Ollama模型调用本地Python函数需三步:一、在Modelfile中用SYSTEM和TEMPLATE强制模型输出CALL:func_name(...)格式;二、编写bridge.py解析该字符串并执行对应函数;三、用ollama generate获取输出后交由脚本处理,实现工具调用。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

ollama怎么让模型调用自己写的函数?

让Ollama模型调用你本地编写的Python函数,本质是绕过模型原生能力限制,通过外部程序桥接实现“工具调用”效果——模型只负责生成符合约定格式的函数调用请求,由你的脚本解析并执行真实函数。

第一步:设计可被识别的函数调用协议

模型不会自动发现或理解你写的函数,必须先定义一套它能稳定输出、你能稳定解析的文本格式。最简方案是让模型输出形如CALL:func_name(arg1="val1", arg2=42)的字符串。

在Modelfile中用SYSTEM和TEMPLATE强制约束输出结构:

创建tool-caller.modelfile,写入:

FROM qwen3:4b
SYSTEM 你是一个工具调用助手。用户提问后,你只能返回严格符合以下格式的单行文本:CALL:函数名(参数名="字符串值", 参数名=数字)。禁止任何解释、换行、额外符号。若无法调用,返回CALL:none()
TEMPLATE {{.System}}\n{{.User}}\nCALL:

【关键前提】 模型必须见过大量类似格式的训练数据才能稳定输出,qwen3系列在指令遵循上表现较好,但首次使用仍需人工校验输出是否合规。

第二步:构建调用桥接脚本

写一个Python脚本,接收模型输出,提取函数名和参数,执行对应函数:

新建bridge.py:

import re
import json
def get_weather(city):
  return f"{city}今日晴,25℃"
def calculate(a, b):
  return a + b
def parse_call(text):
  match = re.match(r'CALL:(\w+)\((.*)\)', text.strip())
  if not match:
    return None, {}
  func_name, args_str = match.groups()
  # 简单解析参数(仅支持字符串和数字)
  args = {}
  for pair in args_str.split(","):
    if "=" in pair:
      k, v = pair.split("=", 1)
      k = k.strip()
      v = v.strip().strip('"\'')
      if v.isdigit():
        args[k] = int(v)
      else:
        args[k] = v
  return func_name, args
if __name__ == "__main__":
  import sys
  model_output = sys.argv[1] if len(sys.argv) > 1 else ""
  func_name, args = parse_call(model_output)
  if func_name == "get_weather":
    print(get_weather(**args))
  elif func_name == "calculate":
    print(calculate(**args))
  else:
    print("未知函数")

Qwen Skill
Qwen Skill

通过 DashScope API 使用通义万象生成和编辑图像。这是一项技能,而非可调用工具。请先使用读取工具打开 SKILL.md 文件,然后执行……

下载

这一步操作起来很简单,直接把文件保存为bridge.py即可。注意函数名必须与SYSTEM提示词中允许的名称完全一致,大小写敏感。

第三步:串联模型输出与函数执行

用ollama generate获取模型原始输出,再交给bridge.py处理:

① 先构建模型:
ollama create tool-caller -f tool-caller.modelfile

② 运行推理并捕获输出:
output=$(ollama generate --format json tool-caller "查上海天气" 2>/dev/null | jq -r '.response')

③ 将输出传给桥接脚本:
python bridge.py "$output"

如果模型正确输出CALL:get_weather(city="上海"),脚本会打印上海今日晴,25℃。若输出含多余空格或换行,正则匹配会失败,返回“未知函数”——这是最常见出错点,务必确保TEMPLATE末尾无空格、SYSTEM禁止换行。

执行完这一步,模型调用你写的函数就完成了。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

qwen

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
MiMo Code AI 编程助手入门与智能开发实战专题
MiMo Code AI 编程助手入门与智能开发实战专题

PHP中文网为您提供MiMo Code AI编程助手入门与智能开发实战专题。作为小米MiMo团队推出的新一代终端原生AI编码代理,我们为您整理了通过官方脚本一键部署(支持Mac/Linux/Windows)及零配置接入MiMo-V2.5免费大模型的核心指南。同时,详细梳理了MiMo Code的三大核心工作模式(Build构建、Plan只读分析、Compose全流程编排)与独创的持久化记忆系统,深度解析其动态上下文压缩与双Agent协同架

2026.06.25

216

7

MiMo Code Agent开发与AI编程工作流专题
MiMo Code Agent开发与AI编程工作流专题

PHP中文网为您提供MiMo Code Agent开发与AI编程工作流专题。作为小米MiMo团队基于OpenCode二次开发并采用MIT协议开源的终端AI编程助手,我们为您深度拆解了MiMo Code的核心架构与实战工作流。专题详细梳理了其独创的“项目记忆、会话检查点、任务进度”三重持久化记忆系统,以及通过独立子Agent自动保存状态与动态上下文压缩技术,彻底解决长程任务“失忆”痛点。

2026.06.25

137

7

MiMo Code 模型能力优化与高级开发应用专题
MiMo Code 模型能力优化与高级开发应用专题

PHP中文网为您提供MiMo Code模型能力优化与高级开发应用专题。作为小米MiMo团队重磅推出的终端原生AI编程助手,我们为您深度拆解了其在底层计算与模型协同上的硬核优化。专题详细梳理了Max Mode(并行采样选优)机制,通过独立裁判模型在SWE-Bench Pro上提升10-20%的复杂任务完成率,以及基于SGLang HiCache技术的KVCache成本优化,实现百万级Token上下文的高效处理。

2026.06.25

129

7

Navicat创建数据库教程
Navicat创建数据库教程

本专题整理Navicat创建数据库相关教程,介绍新建前的准备、基础设置和创建后的检查方法。内容兼顾入门学习及实际使用需求,帮助用户了解不同数据库类型下的操作差异,为后续建表、保存数据和日常管理提供参考。

2026.11.20

0

7

Navicat入门教程大全
Navicat入门教程大全

本专题整理Navicat入门教程,从认识软件界面到开展数据库操作,介绍初次使用需要了解的知识和方法。内容兼顾连接配置、数据管理及日常使用中的疑问,方便用户按学习进度查阅,为后续实践和独立操作打好基础。

2026.11.20

0

17

Navicat数据库连接配置指南
Navicat数据库连接配置指南

从确认数据库信息到建立可用连接,本专题串联Navicat连接数据库的相关知识和操作方法。既有初次配置时需要了解的基础内容,也有连接后的检查思路,方便用户按实际需求查阅教程,逐步熟悉数据库连接的设置流程。

2026.11.20

0

10

PHP8.6数组与数据处理教程
PHP8.6数组与数据处理教程

本专题汇总PHP8.6数组与数据处理教程,涵盖CSV读取和导出、引用遍历删除、array_filter回调模式、配置键名冲突、pathinfo文件名校验、GMP大整数进制转换及UTF-8正则筛选,说明升级兼容变化、输入范围和失败处理方法。

2026.11.20

0

8

PHP8.6升级迁移教程
PHP8.6升级迁移教程

本专题汇总PHP8.6升级迁移与弃用接口改造教程,涵盖反射调用、对象属性赋值、标识符更名、构造函数与__debugInfo调整,以及插件类名检查、常量导出、ArrayIterator排序、SPL和DTO查询参数转换,帮助梳理弃用提示并完成代码兼容改造。

2026.11.20

0

10

PHP8.6安装配置与FPM运维教程
PHP8.6安装配置与FPM运维教程

本专题汇总PHP8.6正式版安装部署与FPM运维教程,涵盖Linux并存安装、独立ini配置、扩展重新编译、Nginx切换与回滚、FPM状态监控和慢日志排查,以及环境变量、请求超时、OPcache刷新和预加载配置。

2026.11.20

0

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.3万人学习