可快速搭建DeepSeek AI工作流:一、用vLLM+OpenAI接口接入;二、Docker Compose统一编排;三、导入预置RAG模板并替换模型;四、Custom LLM节点直连私有API。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望快速搭建一个基于DeepSeek大模型的AI工作流,但又不熟悉LangChain编程或模型部署细节,则可能是由于模型接入、节点配置或流程编排环节存在断点。以下是解决此问题的步骤:
一、通过OpenAI兼容接口接入DeepSeek
Flowise本身不直接内置DeepSeek模型,但可通过标准OpenAI兼容API层(如vLLM、Ollama或LocalAI)将其抽象为通用LLM节点,从而绕过Tokenizer适配与Chat Template缺失等底层障碍。
1、启动vLLM服务并加载DeepSeek-V2模型:
执行命令:vllm serve --model deepseek-ai/deepseek-v2 --dtype bfloat16 --tensor-parallel-size 2
2、在Flowise管理界面中点击“Settings”→“LLMs”→“Add LLM”
3、选择“OpenAI”类型,填写以下参数:
Base URL: http://localhost:8000/v1
Model Name: deepseek-v2
API Key字段留空(vLLM默认无需认证)
4、保存后,在新建Flow中拖入“LLM”节点,下拉菜单即可选择“deepseek-v2”
二、使用Docker Compose统一编排Flowise与DeepSeek服务
该方法将Flowise前端、vLLM后端及模型权重封装在同一docker-compose.yml中,避免端口冲突与网络隔离问题,适合本地验证与团队共享环境。
1、创建docker-compose.yml文件,内容包含flowise服务与vllm服务两个容器
2、在vllm服务中挂载DeepSeek模型路径:
volumes: - ./models/deepseek-v2:/models/deepseek-v2
3、配置flowise服务的环境变量,指向vllm容器名:
LLM_BASE_URL: http://vllm:8000/v1
4、执行docker-compose up -d启动全部服务
5、访问http://localhost:8080进入Flowise界面,确认LLM节点可正常调用
三、导入预置DeepSeek-RAG模板并替换模型
Flowise官方社区与GitHub仓库提供多个已验证的RAG工作流JSON模板,其中部分模板已适配DeepSeek系列模型的系统提示格式与流式响应结构,可直接导入后修改模型引用。
1、前往Flowise GitHub Releases页面下载deepseek-rag-template.json
2、在Flowise界面点击“Import Flow”→“Upload JSON”,选择该文件
3、双击画布中的LLM节点,在配置面板中将model字段由“qwen2”改为:
deepseek-ai/deepseek-v2
4、检查“Prompt Template”节点是否启用DeepSeek专用system_message:
You are a helpful assistant trained by DeepSeek. Respond in Chinese unless instructed otherwise.
5、点击“Run Flow”,输入测试问题验证端到端响应
四、手动配置Custom LLM节点注入模型参数
当需精确控制temperature、max_tokens、stop_sequences等推理参数,或对接私有化部署的DeepSeek API网关时,应跳过OpenAI封装层,使用Custom LLM节点直连HTTP endpoint。
1、在Flowise中添加“Custom LLM”节点而非“OpenAI”节点
2、填写请求URL:
https://your-deepseek-gateway.com/v1/chat/completions
3、在Headers字段中添加认证信息:
Authorization: Bearer YOUR_DEEPSEEK_API_KEY
4、在Body字段中使用JSON格式定义请求体,确保包含:
"model": "deepseek-v2", "stream": true, "temperature": 0.3
5、设置Response Parsing规则,提取response.choices[0].delta.content字段作为输出










