要实现Dify调用Gemini Flash的低延迟流式输出,需配置Netlify托管的openai-gemini中间件并正确设置Dify的OpenAI兼容模型参数,包括启用流式响应、设超时为45秒、添加text/event-stream请求头、取消等待完整响应。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

想让Dify调用Gemini Flash模型时响应快、不卡顿、文本流式输出几乎无延迟,必须绕开默认的blocking模式和直连限制,直接走优化后的流式通道与代理中转路径。
获取并验证Gemini Flash可用API Key
访问 Google AI Studio,用谷歌账号登录后,在左侧导航栏点击「API Keys」→「Create API key」,确保项目已启用 Gemini API(如未启用,需进入 Google Cloud Console → APIs & Services → Enable APIs → 搜索并启用 “Gemini API”)。
生成密钥后,立即在新窗口打开 /prompts/new_chat 页面,粘贴密钥测试调用是否成功——【若返回 403 或 “API key not valid” 错误,说明该密钥未绑定到启用 Gemini API 的项目】。
这一步操作起来很简单,直接把密钥粘进输入框点发送就行。但注意:密钥一旦泄露将导致配额被盗刷,切勿硬编码进前端或公开仓库。
部署openai-gemini中间件(Netlify一键方案)
打开 GitHub 仓库 https://github.com/1c7/openai-gemini,点击右上角「Deploy to Netlify」按钮,授权 Netlify 访问该仓库。
在部署配置页中:
- Environment Variables 区域填写
GEMINI_API_KEY=your_actual_key_here; - Build command 保持默认
npm run build; - Public directory 填写
dist; - 点击 “Deploy site”。
约90秒后,Netlify 将生成一个类似 https://xxx.netlify.app 的全球CDN域名。用 curl 测试:
curl -X POST https://xxx.netlify.app/v1/chat/completions \<br>-H "Content-Type: application/json" \<br>-d '{"model":"gemini-1.5-flash","messages":[{"role":"user","content":"hi"}]}'
若返回含 "choices":[...] 的 JSON,说明中间件已就位且能正常转发请求。
在Dify中配置Gemini Flash为OpenAI兼容模型
进入 Dify 控制台 → 「模型供应商」→ 点击「+ 添加模型供应商」→ 选择「OpenAI Compatible」。
填写以下字段:
- 名称:Gemini-Flash-Proxy
- API Base URL:
https://xxx.netlify.app/v1(替换为你的 Netlify 地址) - API Key:任意非空字符串(中间件已校验 GEMINI_API_KEY 环境变量,此处无需真实密钥)
- 模型列表:手动填入
gemini-1.5-flash
点击「保存」后,该供应商状态变为「已安装」。此时返回「编排」页面,在 LLM 节点中即可选择 gemini-1.5-flash 模型。
关键节点参数调优(低延时核心)
选中工作流中的 Gemini LLM 节点 → 点击「设置」→ 展开「高级设置」:
勾选「启用流式响应」;
将「超时时间」从默认30秒改为 【45】;
在「请求头」中添加:{"Accept": "text/event-stream", "Connection": "keep-alive"};
取消勾选「等待完整响应后再返回」;
这一步必须做,否则即使后端支持 streaming,Dify 也会等全部 token 生成完毕才推送,彻底失去低延时意义。
验证流式输出效果
在 Dify「调试」面板中输入测试问题,如“用三句话介绍太阳系”,观察右侧响应区域:
文字应逐字/逐词实时浮现,而非整段延迟后一次性弹出;
浏览器开发者工具 Network 标签中,找到对应请求,查看 Response Type 应为 text/event-stream;
若看到连续的 data: {"event":"add","data":"..."} 行,且间隔稳定在 200ms 内,即表示超低延时链路已生效。
大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!











