Octopv0.9.19如何配置LLM提供商模型-人工智能-PHP中文网

octop v0.9.19通过config.yaml灵活配置llm提供商，支持openai、ollama、dashscope等，需指定provider、model及认证参数，推荐环境变量注入密钥，启动日志可验证初始化成功。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

octopv0.9.19如何配置llm提供商模型

Octop v0.9.19 支持灵活配置多种 LLM 提供商，核心是通过 config.yaml 文件指定模型后端，并配合 API 密钥与连接参数完成对接。配置过程不依赖图形界面，全部由 YAML 驱动，适合自托管环境。

确认 Octop 版本与配置入口
v0.9.19 的配置文件默认位于：
~/.octop/config.yaml（Linux/macOS）或 %USERPROFILE%\.octop\config.yaml（Windows）
首次启动时若该文件不存在，Octop 会生成一个带注释的模板，关键段落为 llm: 节点。

LLM 提供商配置项说明
需明确填写三类信息：

provider: 当前支持 openai, ollama, dashscope, qwen, zhipu, azure_openai（大小写敏感）
model: 模型标识符，如 qwen2.5-72b-instruct, glm-4-flash, gpt-4o-mini，必须与所选 provider 兼容
认证与连接参数：根据 provider 类型不同，字段略有差异

常见 provider 配置示例：

Ollama 本地模型（推荐新手）

llm:
  provider: ollama
  model: qwen2.5-72b-instruct
  base_url: http://localhost:11434  # 默认端口，确保 ollama service 正在运行

DashScope（通义千问 API）

Generate images & videos with: Gemini 3 Pro Image (image) + Qwen Wan 2.6 (video) via one API key
使用AIsa生成图像与视频。仅需一个API密钥即可调用Gemini 3 Pro Image（图像）和Qwen Wan 2.6（视频）。

下载
```
llm:
  provider: dashscope
  model: qwen-max
  api_key: sk-xxxxxx  # 从 DashScope 控制台获取
```

Azure OpenAI

llm:
  provider: azure_openai
  model: gpt-4o
  api_key: xxxxxxxx
  endpoint: https://your-resource.openai.azure.com
  api_version: 2024-06-01
  deployment_name: gpt-4o-deployment

密钥安全处理建议
不要明文写入 config.yaml。Octop 支持环境变量注入：

llm:
  provider: openai
  model: gpt-4o-mini
  api_key: ${OPENAI_API_KEY}  # 启动前执行 export OPENAI_API_KEY=sk-...

验证配置是否生效
修改保存后，重启 Octop 服务：

octop serve --config ~/.octop/config.yaml

观察启动日志中是否出现 LLM provider initialized: ollama / qwen2.5-72b-instruct 类似提示；也可在 Web UI 的「设置 → 测试连接」中手动触发一次推理测试。

注意兼容性细节

v0.9.19 不支持直接调用 HuggingFace 原生模型，需通过 Ollama 或 vLLM 封装为 API 服务后再接入
若使用 qwen provider（非 DashScope），仅支持 modelscope 模型 ID，且需提前下载：modelscope download --model qwen/Qwen2.5-72B-Instruct
所有 provider 均默认启用流式响应，如遇超时，可在 llm: 下增加 timeout: 120（单位秒）

配置完成后，Octop 的多 Agent 引擎、记忆系统和 Connector 都将自动基于该 LLM 运行，无需额外适配。