Zion仅支持OpenAI兼容协议的私有大模型,需配置正确Base URL(如https://api.yourdomain.com/v1)、API Key和模型名,并启用vLLM/Ollama等的OpenAI模式,配置后须点击“保存更改”并验证调试日志中的200响应。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

在函子Zion中为智能体接入非官方托管的私有大模型服务时,必须通过标准API协议对接,不能直接填写任意HTTP地址作为“模型地址”。
确认模型服务是否符合Zion接入规范
Zion只支持符合OpenAI兼容协议(OpenAI-compatible API)的模型服务端点。如果你的自定义模型已部署为类似https://your-api.com/v1/chat/completions结构,并返回与OpenAI格式一致的JSON响应(含choices[0].message.content字段),才可继续下一步。
若你用vLLM、Ollama、LM Studio或FastChat部署了本地模型,需先启用OpenAI兼容模式——否则Zion会报错“Invalid response format”且无法解析输出。
在智能体中配置自定义模型端点
进入Zion编辑器 → 打开目标智能体 → 点击右上角「设置」→ 选择「大模型配置」→ 切换至「自定义模型」标签页。
填写三项必填字段:【API Base URL】(如https://api.yourdomain.com/v1,末尾不带chat/completions)、【API Key】(可留空或填任意字符串,若后端未校验)、模型名称(如my-llama3-70b,仅用于界面标识)。
这一步不能漏掉Base URL末尾的/v1——少写会导致404;多写/chat/completions则触发双路径拼接,Zion会请求https://xxx/v1/chat/completions/chat/completions而失败。
验证调用是否生效
方法一:在智能体「测试面板」中发送一条消息,观察右侧「调试日志」是否出现绿色200 OK及完整响应体。
方法二:前往「行为流」→ 新建一个「调用大模型」节点 → 模型下拉菜单中选择你刚填入的my-llama3-70b → 连线执行 → 查看运行时日志里的request.url是否匹配你配置的Base URL。
如果日志里显示请求发向https://api.openai.com/v1,说明你没保存配置就跳走了——Zion不会自动保存输入框内容,每改一项都必须点右上角「保存更改」按钮。











