Flowise提供可视化部署本地AI聊天机器人方案:一、Docker一键启动;二、预置镜像极简运行;三、加载文档构建RAG流;四、配置提示词测试对话;五、导出REST API嵌入业务系统。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望快速部署一个本地AI聊天机器人,但缺乏编程经验或对LangChain底层逻辑不熟悉,则Flowise提供了一套完全可视化的构建路径。以下是完成部署与创建的具体操作步骤:
一、使用Docker一键启动Flowise服务
该方法适用于所有主流操作系统(Windows需启用WSL2,macOS和Linux可直接运行),无需安装Node.js、Python环境或手动编译模型,镜像已预置vLLM推理服务与Web UI,启动后即可进入拖拽界面。
1、确认本地已安装Docker Desktop并正常运行,执行docker --version与docker-compose --version验证版本信息。
2、在终端中创建项目目录并进入:mkdir -p ~/flowise-project && cd ~/flowise-project。
3、创建docker-compose.yml文件,粘贴以下内容:
version: '3.8'
services:
flowise:
image: flowiseai/flowise:latest
ports:
- "3000:3000"
volumes:
- ./storage:/app/storage
- ./models:/app/models
4、执行docker-compose up -d启动容器,等待约90秒后访问http://localhost:3000。
二、通过预置镜像直接运行(极简模式)
该方式跳过配置文件编写,适合首次体验用户,所有依赖与vLLM服务均打包在单镜像内,仅需一条命令即可拉起完整环境。
1、在终端中执行:docker run -d -p 3000:3000 -v $(pwd)/storage:/app/storage --name flowise flowiseai/flowise。
2、观察容器日志:docker logs -f flowise,直到出现[INFO] Flowise server is running on http://localhost:3000及[INFO] vLLM inference server started successfully字样。
3、打开浏览器,输入地址并使用默认账号登录:邮箱:kakajiang@kakajiang.com,密码:KKJiang123。
三、加载本地知识文档并构建RAG问答流
此步骤将PDF、TXT等格式的业务资料转化为可检索、可问答的知识库,Flowise自动完成文本清洗、分块、向量化与Chroma本地存储初始化。
1、在Flowise画布左侧节点栏中,拖入Directory Loader节点,点击设置图标,在Directory Path中填写本地知识库路径,例如/app/storage/manuals/。
2、拖入RecursiveCharacterTextSplitter节点,连接至Loader输出端,在设置中将chunkSize设为500,chunkOverlap设为50。
AI 舌诊面诊问诊医疗系统 + 诊疗商城系统源码是一套结合 AI 辅助诊断与商品转化的健康类程序,基于浩创云、ThinkPHP(PHP)开发,支持微信服务号与 H5 端,适合做中医舌诊面诊问答、健康建议推送以及配套诊疗商品的运营。
3、拖入Chroma Vector Store节点,连接至Splitter输出端,在设置中选择Collection Name为my_knowledge_db,勾选Create Collection if not exists。
4、拖入LLM节点,连接至Vector Store的Retriever输出端,在设置中选择Model为vLLM,URL填写http://localhost:8000/v1(vLLM默认服务地址)。
四、配置提示词与测试对话
该步骤定义机器人的角色定位与回答风格,Prompt节点支持变量注入与实时预览,修改后无需重启即可生效。
1、拖入Prompt Template节点,连接至LLM节点前,双击编辑区域,输入如下中文提示:
你是一个资深技术支持工程师,仅根据以下上下文回答用户关于产品手册的问题。若问题超出上下文范围,请明确回复“我无法回答该问题”。
上下文:{{context}}
问题:{{input}}
2、点击画布右上角Test Run按钮,在弹出面板中输入测试问题,例如“保修期是多久?”,点击发送。
3、观察右侧响应区域是否返回基于文档内容的准确答案;若未命中,检查Vector Store节点是否显示Collection initialized successfully及检索结果数量是否大于0。
五、导出为REST API并嵌入业务系统
完成调试后,可将整个工作流封装为标准HTTP接口,供前端、OA或客服系统直接调用,所有数据仍保留在本地环境。
1、点击画布右上角Export按钮,选择Export as API。
2、在弹出窗口中确认Endpoint名称(如/api/chatbot),点击Generate API。
3、复制生成的curl命令示例,其中包含完整的请求头与JSON payload结构,例如:
curl -X POST http://localhost:3000/api/v1/prediction/xxx-uuid \
-H "Content-Type: application/json" \
-d '{"question":"年假如何申请?"}'
4、将该接口地址与调用方式交付给前端开发人员,或直接在Vue/React项目中使用fetch调用,无需额外鉴权配置。










