deepseek本地部署后接入dify需三步:一、启动deepseek服务时启用openai兼容api(加--openai-api参数),并用curl http://localhost:8000/v1/models验证返回含"id": "deepseek-7b"的json;二、dify中添加openai compatible模型,base url填http://host.docker.internal:8000/v1(docker内访问宿主机)或http://127.0.0.1:8000/v1(同宿主机),api key留空;三、在model settings或app配置中绑定该模型,状态为✅才生效,最后通过上传pdf+提问测试rag端到端连通性。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

将DeepSeek模型本地部署后接入Dify,是构建私有知识库智能体的关键一步,必须确保Dify能正确识别并调用本地运行的DeepSeek服务,否则知识检索与生成将完全失效。
确认DeepSeek服务已正常对外提供OpenAI兼容API
启动DeepSeek服务时,必须启用OpenAI风格的REST API接口,Dify仅支持该协议格式。若使用官方deepseek-ai/inference-server镜像,需在启动命令中显式指定--openai-api参数。
验证方式:执行curl http://localhost:8000/v1/models,返回包含"id": "deepseek-7b"等字段的JSON对象才算成功。返回404或空响应说明API未开启,Dify后续无法发现模型。
在Dify中注册DeepSeek为自定义模型
登录Dify管理后台 → 【Settings】→【Model Providers】→【+ Add Model Provider】→ 选择【OpenAI Compatible】。
填写以下三项为必填且不可错位:
-
Provider Name:任意英文名(如
deepseek-local) -
Base URL:
http://host.docker.internal:8000/v1(Docker容器内访问宿主机服务必须用此地址;若Dify与DeepSeek同在宿主机运行,则填http://127.0.0.1:8000/v1) - API Key:留空(DeepSeek本地服务默认无需密钥,填入任意字符串会导致认证失败)
【Base URL填错将导致Dify持续报错“Connection refused”且不提示具体原因】
配置Dify应用使用DeepSeek模型
方法一:全局默认模型设置
统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
进入【Settings】→【Model Settings】→【Default Model】→ 选择刚添加的deepseek-local → 点击【Save】。
方法二:单应用独立绑定
进入【Apps】→ 任一应用 → 【Model Configuration】→【LLM】→【Custom Model】→ 选择deepseek-local →【Confirm】。
这一步操作起来很简单,直接在下拉菜单里选中即可,但必须确保上一步中模型状态显示为✅绿色“Active”,灰色“Inactive”代表连接未通,此时切换无效。
测试端到端连通性
第一步:在Dify【Knowledge】中上传一份PDF文档并完成向量化索引。
第二步:进入【Chat】界面,输入问题如“这份文档讲了什么?”。
第三步:观察右下角状态栏——若出现Thinking… → Generating… → Done且返回结构化中文回答,说明DeepSeek已成功驱动RAG流程;若卡在Thinking…超30秒或报错Failed to fetch response,请立即检查Dify容器网络是否能ping通host.docker.internal、DeepSeek服务日志是否有POST /v1/chat/completions请求记录。










