octop v0.9.18不支持直接配置google gemini,因其底层未原生集成gemini provider,且gemini api格式(contents/parts)与openai messages不兼容,需通过litellm等代理转换协议方可间接使用。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

Octop 当前版本(v0.9.18)不支持直接配置 Google Gemini。
原因很明确:Octop 是腾讯云自研的开源 AI 助手,底层模型调度和插件体系基于腾讯系模型(如 HunYuan 系列)及兼容的开放协议(如 OpenAI 兼容 API),但官方未提供对 Gemini 模型的原生接入支持,也未在文档或代码中暴露 Gemini 的 provider 配置项。
如果你看到某些教程声称“Octop 接入 Gemini”,大概率是以下情况之一:
- 通过反向代理 + OpenAI 兼容层(如
gemini-api-proxy或llama.cpp+ 自定义 adapter)模拟 OpenAI 接口,再让 Octop 走openai类型配置; - 修改了 Octop 源码中的 LLM 调度逻辑(如
llm_provider.py),手动注入 Gemini 的 HTTP 请求逻辑; - 混淆了 Octop 和其他可扩展 LLM 工具(如 Ollama、LiteLLM、OpenWebUI)。
注意:
Gemini 的官方 API(generativelanguage.googleapis.com)要求使用 Google Cloud Service Account 密钥,并遵循严格配额与认证流程,其请求格式(如 contents/parts 结构)与 OpenAI 的 messages 格式不兼容。Octop v0.9.18 的默认 LLM 模块不会自动转换协议或字段。
想让 Octop 间接用上 Gemini?可行路径
-
使用中间代理服务(推荐轻量方案):
- 部署 google-generative-ai-proxy(需自行找可信 fork,原生无官方维护)
- 或用 LiteLLM 启动一个兼容 OpenAI 格式的 Gemini 网关:
litellm --model gemini/gemini-pro --api_base https://generativelanguage.googleapis.com/v1beta --api_key YOUR_GOOGLE_API_KEY
- 然后在 Octop 的
.env或配置文件中设:LLM_PROVIDER=openai OPENAI_BASE_URL=http://localhost:4000 OPENAI_API_KEY=sk-xxx # 此处可填任意非空字符串(LiteLLM 不校验)
-
确认 Octop 是否启用自定义 provider 插件机制:
- 查看
plugins/llm/目录是否存在gemini.py或类似扩展点; - v0.9.18 源码中暂未发现该文件,说明需自行开发并注册(涉及
LLMFactory注入逻辑)。
- 查看
替代建议:更省事的选择
- 如果核心诉求是“用 Gemini 做本地 AI 助手”,直接用原生支持 Gemini 的工具更稳妥:
- Google AI Studio(网页端,免部署)
-
Ollama +
ollama run gemma:latest(注意:Gemma ≠ Gemini;Gemini 无法通过 Ollama 运行) - Open WebUI(支持添加 Gemini via LiteLLM)
验证当前 Octop 实际调用的模型
启动时加日志开关,观察输出:
LOG_LEVEL=debug python app.py
搜索关键词 llm_provider、model= 或 request to,确认实际发起的是哪类请求、目标地址是否含 hunyuan 或 openai。
不复杂但容易忽略:配置生效≠模型可用。即使强行填了 Gemini 地址,若响应格式不匹配,Octop 会解析失败并静默回退或报 KeyError: 'choices' 类错误。











