Ollama模型调用本地Python函数需三步:一、在Modelfile中用SYSTEM和TEMPLATE强制模型输出CALL:func_name(...)格式;二、编写bridge.py解析该字符串并执行对应函数;三、用ollama generate获取输出后交由脚本处理,实现工具调用。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

让Ollama模型调用你本地编写的Python函数,本质是绕过模型原生能力限制,通过外部程序桥接实现“工具调用”效果——模型只负责生成符合约定格式的函数调用请求,由你的脚本解析并执行真实函数。
第一步:设计可被识别的函数调用协议
模型不会自动发现或理解你写的函数,必须先定义一套它能稳定输出、你能稳定解析的文本格式。最简方案是让模型输出形如CALL:func_name(arg1="val1", arg2=42)的字符串。
在Modelfile中用SYSTEM和TEMPLATE强制约束输出结构:
创建tool-caller.modelfile,写入:
FROM qwen3:4b
SYSTEM 你是一个工具调用助手。用户提问后,你只能返回严格符合以下格式的单行文本:CALL:函数名(参数名="字符串值", 参数名=数字)。禁止任何解释、换行、额外符号。若无法调用,返回CALL:none()
TEMPLATE {{.System}}\n{{.User}}\nCALL:
【关键前提】 模型必须见过大量类似格式的训练数据才能稳定输出,qwen3系列在指令遵循上表现较好,但首次使用仍需人工校验输出是否合规。
第二步:构建调用桥接脚本
写一个Python脚本,接收模型输出,提取函数名和参数,执行对应函数:
新建bridge.py:
import re
import json
def get_weather(city):
return f"{city}今日晴,25℃"
def calculate(a, b):
return a + b
def parse_call(text):
match = re.match(r'CALL:(\w+)\((.*)\)', text.strip())
if not match:
return None, {}
func_name, args_str = match.groups()
# 简单解析参数(仅支持字符串和数字)
args = {}
for pair in args_str.split(","):
if "=" in pair:
k, v = pair.split("=", 1)
k = k.strip()
v = v.strip().strip('"\'')
if v.isdigit():
args[k] = int(v)
else:
args[k] = v
return func_name, args
if __name__ == "__main__":
import sys
model_output = sys.argv[1] if len(sys.argv) > 1 else ""
func_name, args = parse_call(model_output)
if func_name == "get_weather":
print(get_weather(**args))
elif func_name == "calculate":
print(calculate(**args))
else:
print("未知函数")
这一步操作起来很简单,直接把文件保存为bridge.py即可。注意函数名必须与SYSTEM提示词中允许的名称完全一致,大小写敏感。
第三步:串联模型输出与函数执行
用ollama generate获取模型原始输出,再交给bridge.py处理:
① 先构建模型:
ollama create tool-caller -f tool-caller.modelfile
② 运行推理并捕获输出:
output=$(ollama generate --format json tool-caller "查上海天气" 2>/dev/null | jq -r '.response')
③ 将输出传给桥接脚本:
python bridge.py "$output"
如果模型正确输出CALL:get_weather(city="上海"),脚本会打印上海今日晴,25℃。若输出含多余空格或换行,正则匹配会失败,返回“未知函数”——这是最常见出错点,务必确保TEMPLATE末尾无空格、SYSTEM禁止换行。
执行完这一步,模型调用你写的函数就完成了。











