Octop v0.9.24如何配置专家LLM-人工智能-PHP中文网

octop v0.9.24 通过 agent 工作区绑定专属模型与角色能力配置专家 llm，支持本地服务、云厂商 api 和内置轻量模型三类接入方式，并需在专家团中设置角色、模型、专用 system prompt 及工具白名单，再于工作区绑定场景触发逻辑并验证执行效果。

octop v0.9.24如何配置专家llm

Octop v0.9.24 中配置专家 LLM 的核心，是通过 Agent 工作区（Workspace） 绑定专属模型与角色能力，而非全局替换主模型。它不依赖修改底层代码，而是靠 YAML 配置 + Connector 路由 + 可插拔后端协同完成。

Octop 支持三类专家 LLM 接入路径：

本地模型服务：已用 vLLM / Ollama / llama.cpp 启动的 HTTP API（如 http://localhost:8000/v1），需在 Octop 后台「模型管理」中添加 OpenAI 兼容端点
云厂商模型：OpenAI、Qwen、GLM、DeepSeek 等官方 API，填入 Key 和 Base URL 即可，支持按 Token 计费隔离
内置轻量模型：v0.9.24 内置了 Qwen1.5-1.8B-Chat、Phi-3-mini 等小模型，适合做快速响应型专家（如“语法检查员”“日程摘要员”）

进入 Octop Web 控制台（http://127.0.0.1:8088），按顺序操作：

使用AIsa生成图像与视频。仅需一个API密钥即可调用Gemini 3 Pro Image（图像）和Qwen Wan 2.6（视频）。

下载

点击左侧「专家团」→「新建专家」→ 选择「自定义角色」
填写名称（如“合同审查员”）、描述、MBTI 类型（可选）
在「推理模型」下拉菜单中，选择已添加的模型实例（若为空，请先去「系统设置 → 模型管理」添加）
关键一步：在「提示词模板」区域粘贴领域专用 system prompt，例如：
你是一名持有中国律师执业证的资深合同审核专家，只回答与条款效力、违约责任、管辖约定相关的问题，拒绝回答无关话题。
启用「工具白名单」，仅勾选 PDF 解析、条款高亮、法条引用等必要插件

专家不是随时待命，而是按需激活：

在「工作区」中新建一个「法律协作」空间，将刚创建的“合同审查员”拖入成员列表
设置自动路由规则：当用户消息含关键词 “违约金”、“不可抗力” 或上传文件后缀为 .pdf 时，自动交由该专家处理
如需多专家协同（如先由“初审员”过滤，再交“终审员”），可在「Agent 引擎」中启用 Loop Engineering 流程，定义 step-by-step 的调用链

配置完成后，别跳过验证环节：

用测试账号发送：“请分析这份合同第5.2条关于违约金的约定是否显失公平？”并上传 PDF —— 观察是否命中专家、是否调用 PDF 解析工具、响应是否带法条依据
查看日志（octop/logs/agent-execution.log）确认模型请求实际发往哪个 endpoint，避免误用默认模型
若响应延迟高，检查该专家模型的 vLLM 服务是否启用 --enable-prefix-caching 和 --kv-cache-dtype fp8，这对重复合同结构识别很关键