为降低hermes agent的token消耗与api成本，需实施多模型编排：一、配置router.yaml实现任务类型与廉价模型（如qwen2.5-0.5b）的路由映射；二、在agent.yaml启用fallback_enabled并设min_confidence_score触发动态降级；三、部署本地分类器前置判断任务复杂度并分流；四、为web_search等工具单独配置model_override.yaml绑定专用廉价模型；五、在skill.md文件yaml头中声明exec_model实现技能级模型绑定。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您希望在运行Hermes Agent时降低Token消耗与API调用成本，则需避免对所有任务无差别使用高成本大模型。以下是实现多模型编排以节省开支的具体操作路径：
一、配置模型路由规则
通过定义任务类型与模型能力的映射关系，使Hermes自动将简单任务（如格式转换、关键词提取、布尔判断）路由至轻量级廉价模型，而将复杂推理、长上下文整合等任务交由高性能模型处理。该机制依赖于内置的Model Router模块，需手动编辑router.yaml文件完成策略设定。
1、打开Hermes Agent安装目录下的config/router.yaml文件。
2、在rules字段下添加新规则，例如：- task_type: "summarize_short" model: "qwen2.5-0.5b"。
3、为每类简单任务指定对应模型，支持的廉价模型包括qwen2.5-0.5b、phi-4、tinyllama及hermes-2.5-1.3b。
4、保存文件后执行hermes reload router命令激活新路由策略。
二、启用动态模型降级开关
当主模型响应超时或返回低置信度结果时，Hermes可自动切换至备用廉价模型重试，避免因单次失败触发高成本重试。该功能基于LLM输出的self-evaluation score触发，无需人工干预。
1、在config/agent.yaml中将fallback_enabled设为true。
2、在fallback_models列表中按优先级顺序填入至少两个廉价模型标识，例如["phi-4", "tinyllama"]。
3、设置min_confidence_score: 0.65作为触发降级的阈值。
4、重启Agent服务使配置生效：hermes restart。
三、构建任务前置分类器
在任务进入主执行循环前，插入一个轻量级本地分类模型（如ONNX格式的DistilBERT微调版），对用户输入进行意图识别与复杂度打分，再依据预设阈值决定是否绕过主模型直接交由廉价模型处理。此方式可减少约42%的高成本模型调用。
1、下载预训练分类器权重包至models/classifier/目录。
2、在config/pipeline.yaml中启用preprocessor: classifier。
3、配置分类阈值映射表，例如：{ "simple": "qwen2.5-0.5b", "medium": "hermes-2.5-1.3b", "complex": "hermes-4-70b" }。
4、运行hermes pipeline validate校验配置完整性，确认无误后启用。
四、绑定工具调用专属模型
部分内置工具（如web_search摘要、code_executor语法检查、file_parser结构提取）本身不依赖强推理能力，可为其单独绑定专用廉价模型，彻底隔离其对主模型资源的占用。
1、进入tools/子目录，为每个工具创建model_override.yaml文件。
2、在web_search/model_override.yaml中写入：model: "phi-4" timeout: 8。
3、对code_executor和file_parser重复相同操作，分别指定"tinyllama"与"qwen2.5-0.5b"。
4、执行hermes tools reload重新加载全部工具配置。
五、启用技能级模型绑定
每个被Hermes自动沉淀的SKILL.md文件均可声明专属执行模型。当该技能被复用时，系统将强制使用绑定模型，跳过全局路由逻辑，确保简单工作流始终运行在低成本轨道上。
1、打开任一已生成的skills/analyze_log_format.md文件。
2、在YAML Front Matter区域添加字段：exec_model: "qwen2.5-0.5b"。
3、保存后执行hermes skill index更新技能索引。
4、后续调用该技能时，无论全局路由如何设置，均会固定使用所声明模型。
