需绕过前端ui直接在代码层实现模型切换:一、构建模型路由转发中间件,自动匹配最优模型并透传请求;二、封装统一modelproxy代理类,屏蔽api差异并标准化响应;三、通过skill生命周期钩子注入转发层;四、配置json策略文件支持热更新调度规则。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您在开发 WorkBuddy 插件或自定义技能时需实现模型切换的底层控制,但不希望用户感知切换过程,则需绕过前端 UI 交互,直接在代码层构建统一转发逻辑。以下是实现该目标的具体方法:
一、构建模型路由转发中间件
该中间件作为请求分发中枢,接收原始用户指令,根据预设策略(如任务类型、上下文长度、模型能力标签)自动选择最优模型,并将请求透传至对应后端服务,全程对上层 Skill 或 Agent 无感。
1、在 WorkBuddy 插件工程的 src/middleware/model-router.ts 中创建路由类,继承 BaseMiddleware 接口。
2、定义模型能力元数据映射表,例如:{"long-context": ["Kimi-Long", "GLM-4-Air"], "code-gen": ["DeepSeek-V3", "Qwen2.5-Coder"]},每个键为能力标签,值为支持该能力的模型 ID 列表。
3、重写 handle(request: Request) 方法,在其中解析 request.context.taskType 与 request.input.length,匹配最适配模型 ID。
4、调用 ModelProxy.getInstance().forward(request, selectedModelId) 完成透传,禁止修改 request.id 或 response.id 字段以维持会话一致性。
二、封装统一模型代理类(ModelProxy)
该类屏蔽各模型 API 协议差异,提供标准化的调用接口,使转发层无需关心底层鉴权方式、URL 格式或响应结构,确保切换行为完全透明。
1、在 src/proxy/model-proxy.ts 中声明单例 ModelProxy 类,内部维护 Map
2、为每类模型实现 IModelClient 接口,包括 init(config)(加载密钥与 Base URL)、invoke(payload)(统一封装为 OpenAI 兼容格式并发送)、parseResponse(raw)(提取 content 字段并还原 streaming chunk 结构)。
3、在 forward() 方法中,若目标模型客户端未初始化,则依据其配置自动调用 init();否则复用已有实例,避免重复鉴权开销。
4、所有模型响应必须经 normalizeResponse() 统一处理:强制补全 "model": "selected-model-id" 字段,并保持 "id" 与原始 request.id 一致。
统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
三、注入转发层至 Skill 执行链
通过 WorkBuddy 提供的 Skill 生命周期钩子,在请求进入 Skill 处理器前插入模型路由逻辑,确保所有 Skill 调用均经过统一调度,无需修改原有业务代码。
1、在插件主入口文件 index.ts 中,调用 SkillRegistry.registerMiddleware(new ModelRouter()) 注册中间件。
2、确认该注册发生在 SkillRegistry.registerSkill() 之前,以保证中间件优先捕获请求。
3、在 Skill 的 execute() 方法内,直接使用 this.ctx.llm.invoke(prompt),无需指定模型参数——实际调用由转发层动态绑定。
4、验证日志输出中是否出现 "ROUTED_TO: GLM-4-Flash via ModelRouter" 类似标记,确认中间件已生效且未被跳过。
四、配置模型能力标签与调度策略
该步骤决定转发层如何智能选型,策略定义于 JSON 配置文件,运行时热加载,无需重启插件即可调整模型分配逻辑。
1、在插件资源目录下创建 config/model-strategy.json,包含字段 "default"(兜底模型)、"rules"(数组,每项含 match、model、priority)。
2、示例 rule:{"match": {"taskType": "summarize", "inputLength": ">8192"}, "model": "Kimi-Long", "priority": 90}。
3、在 ModelRouter 初始化时读取该文件,构建内存规则树;每次路由前按 priority 降序遍历,首个 match 成功者即为选定模型。
4、修改配置后执行 WorkBuddy CLI reload --plugin my-plugin 触发热更新,验证新策略是否立即生效。










