☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您希望 Hermes Agent 完全脱离云端 API，避免任何 Token 计费，必须将其后端模型切换为本地运行的 Ollama 实例。Ollama 提供标准 OpenAI 兼容接口（http://localhost:11434/v1），Hermes 可直接对接该地址完成推理，所有 token 生成均发生在本地设备，不产生外部请求与费用。
一、安装并启动 Ollama 服务
Ollama 是轻量级本地模型运行时，无需 Docker 或复杂依赖，安装后即可启动 HTTP API 服务，为 Hermes 提供底层模型能力。其默认监听端口 11434，且自动暴露符合 OpenAI 格式的 /v1/chat/completions 等接口。
1、访问 https://ollama.com/download，下载对应操作系统的安装包。
2、双击运行安装程序，按向导完成安装（Windows 用户无需勾选“Add to PATH”，Ollama 自动配置）。
3、安装完成后，打开终端（Windows：CMD 或 PowerShell；macOS/Linux：Terminal），执行 ollama serve 启动服务。
4、新开终端窗口，执行 curl http://localhost:11434，返回 {"status":"ok"} 即表示服务已就绪。
二、拉取并验证 Gemma 4 模型
Gemma 4 系列由 Google 发布，具备强逻辑与代码能力，且完全开源免费。Ollama 已原生支持 gemma4 标签，拉取后可立即用于 Hermes 推理，无需转换或量化。
1、在终端中执行命令：ollama pull gemma4（若显存有限，可改用 ollama pull gemma4:2b）。
2、等待下载完成（首次约需 5–15 分钟，取决于网络与磁盘速度）。
3、执行 ollama list，确认输出中包含 gemma4 及其状态为 latest。
4、执行 ollama run gemma4 "你好，请用一句话介绍自己"，观察是否返回合理响应，验证模型可正常加载与推理。
三、修改 Hermes Agent 的模型配置
Hermes 支持通过 YAML 配置文件指定模型提供方。将 provider 设为 openai 兼容模式，并指向本地 Ollama 地址，即可绕过所有远程 API 调用。
1、定位 Hermes 配置文件路径，通常为 ~/.hermes/config.yaml（Linux/macOS）或 %USERPROFILE%\.hermes\config.yaml（Windows）。
2、用文本编辑器打开该文件，在 model: 区块下替换为以下内容：
model:
provider: openai
api_base: http://localhost:11434/v1
api_key: "ollama"
model: gemma4
3、保存文件，确保缩进为两个空格（YAML 严格依赖缩进）。
4、重启 Hermes Agent 进程（如使用 systemd，则执行 systemctl --user restart hermes；如前台运行，先 Ctrl+C 停止再重新执行 hermes start）。
四、验证 Hermes 是否调用本地模型
Hermes 启动后会尝试连接模型服务，若配置正确，日志中应出现成功初始化消息，并在后续任务中跳过任何外部网络请求，全部 token 在本地生成。
1、启动 Hermes 时添加 --log-level debug 参数，例如：hermes start --log-level debug。
2、观察控制台输出，查找包含 "Using model provider: openai" 和 "Connected to LLM endpoint: http://localhost:11434/v1" 的日志行。
3、在 WebUI 或 Telegram 中向 Hermes 发送一条简单指令（如“写一个 Python 函数计算斐波那契数列前10项”）。
4、检查 Hermes 日志中是否出现 "LLM request sent to http://localhost:11434/v1/chat/completions"，且无任何 openai.com、anthropic.com 或其他域名的 HTTP 请求记录。
