dify成功接入lm studio需三步:一、lm studio启用openai兼容api并重启;二、dify中以openai compatible方式添加模型,严格匹配模型id;三、通过测试和curl验证接口连通性。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

当你已经用LM Studio成功加载并运行了本地GGUF模型,却在Dify后台找不到对应选项、配置后始终报错“Model not found”或“Connection refused”,说明模型服务虽已启动,但Dify尚未正确识别其OpenAI兼容接口。下面分三步完成接入。
确认LM Studio已启用OpenAI兼容API服务
打开LM Studio → 左侧导航栏点击 「Settings」 → 在「API Server」区域勾选 「Enable OpenAI-compatible API server」 → 确保端口为默认的 1234(可自定义,但需与Dify配置一致)→ 点击 「Save & Restart Server」。
这一步必须完成,否则LM Studio只提供图形界面交互,不暴露任何HTTP接口;Dify无法通过网络调用它。
启动后,浏览器访问 http://localhost:1234,若返回 JSON 格式错误提示(如{"error": "Not Found"}),说明API服务已运行;若显示连接被拒绝,则LM Studio未真正启动该服务或端口被占用。
在Dify中注册LM Studio模型(OpenAI兼容方式)
登录Dify管理后台 → 进入「模型管理」→ 「添加模型」→ 选择供应商类型为 「OpenAI Compatible」。
填写以下字段:
• 模型名称:任意英文标识,如 lmstudio-qwen7b(后续调用时会用到)
• 基础URL:http://localhost:1234/v1(若LM Studio改了端口,请同步修改)
• API密钥:sk-no-key-required(LM Studio默认不校验key,填这个即可)
• 模型ID:qwen-7b-chat(必须与LM Studio中加载的模型显示名称完全一致,区分大小写,不含.gguf后缀)
【模型ID必须严格匹配LM Studio左下角状态栏显示的模型名】。例如LM Studio界面显示“Loading qwen2.5-7b-instruct-Q4_K_M”,则此处必须填 qwen2.5-7b-instruct-Q4_K_M,少一个字符或大小写错误都会导致Dify调用失败。
验证与调试
第一步:在Dify「模型管理」页面,找到刚添加的模型,点击右侧「测试」按钮。
第二步:输入简单提示词如“你好”,点击发送。若返回正常响应文本,说明接入成功。
第三步:若测试失败,先检查LM Studio右下角是否显示 「API Server: Running on http://localhost:1234」;再打开命令行执行:
curl -X POST http://localhost:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"qwen-7b-chat","messages":[{"role":"user","content":"hello"}]}'
如果curl返回完整JSON响应,证明LM Studio服务正常,问题出在Dify配置;如果curl也失败,说明LM Studio API未生效或模型未加载。










