完全私有化部署是保障Hermes Agent全链路数据主权的唯一架构,含本地Ollama直连、内网双机隔离、TEE硬件加密、零持久化内存运行及端到端AES加密五种路径,各路径均明确配置步骤与验证方法。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您关注Hermes Agent的数据安全边界,希望确保所有交互内容、记忆记录与技能沉淀均不离开自有环境,则完全私有化部署是唯一可实现全链路数据主权的架构选择。以下是保障数据隐私的多种部署路径及其关键控制点:
一、本地服务器直连Ollama模型
该方案将Hermes Agent与轻量级本地大模型(如Llama 3.2、Phi-3)共置于同一物理或虚拟服务器中,所有推理请求均在本地进程内完成,无任何网络外发行为,从根本上杜绝数据出境可能。
1、在Linux服务器上安装Ollama,并通过ollama run llama3.2拉取并运行指定模型。
2、配置Hermes Agent的config.yaml文件,将llm_provider设为ollama,base_url指向http://localhost:11434。
3、启动Agent服务时确认日志中无HTTP外部请求痕迹,仅显示ollama client connected及本地模型加载信息。
二、内网隔离双机架构
此方案适用于对合规性要求极高的企业场景,通过物理网络分隔实现计算与模型解耦,Hermes Agent运行于业务内网服务器,专用GPU服务器部署私有LLM(如Qwen2.5-7B-Instruct),两者仅通过内网TCP通信,全程未接入互联网出口。
1、在GPU服务器上部署vLLM或Text Generation Inference服务,并绑定内网IP(如192.168.10.5:8080)。
2、在Hermes Agent所在服务器的config.yaml中设置base_url: http://192.168.10.5:8080,禁用所有API密钥字段。
3、使用tcpdump -i eth0 port 8080抓包验证,仅捕获到内网双向流量,无DNS查询与公网IP连接。
三、TEE可信执行环境加固
利用Intel SGX或AMD SEV技术,在内存运行时对Hermes Agent核心组件(包括MEMORY.md读写模块、技能执行引擎、LLM输入缓冲区)实施硬件级加密隔离,即使操作系统被攻破,敏感数据仍以密文形态驻留于Enclave中。
1、在支持SGX的ECS实例上启用Intel DCAP驱动,并部署经过签名的Hermes Agent Enclave镜像。
Qwen 视频智能分析基础客户端(免费版),基于 Qwen 3.5 Plus 多模态模型对本地视频进行内容分析,支持场景描述与基础内容理解,采用默认抽帧频率和提示词,适合快速概览视频,API Key 读取自 ~/.skill-platform/skill-platform.json 的 skills 配置。
2、将MEMORY.md与USER.md路径配置为挂载至Enclave内部虚拟文件系统,而非宿主机磁盘。
3、通过sgx-lkl-run启动服务后,检查/dev/sgx/enclave设备节点活跃状态及Enclave内存用量持续稳定。
四、零持久化只读运行模式
针对临时性高敏任务(如处理涉密文档摘要),可禁用所有本地文件写入行为,使Hermes Agent仅依赖内存运行,重启即清空全部上下文,避免任何残留数据落盘风险。
1、修改hermes/core/memory.py,将save_to_disk()方法重写为空操作函数。
2、在启动命令中添加环境变量HERMES_MEMORY_MODE=volatile,强制关闭所有.md文件自动保存逻辑。
3、运行期间通过lsof -p $(pgrep -f hermes) | grep '.md'确认无MEMORY.md或USER.md文件被打开。
五、模型输入输出端到端加密
在不改变部署位置的前提下,对传输至LLM的所有提示词(prompt)及返回结果进行AES-256-GCM加密,确保即使流量被截获,也无法还原原始语义,满足等保三级对通信传输加密的强制要求。
1、在hermes/llm/adapter.py中注入加密中间件,对messages列表执行加密前处理与解密后解析。
2、将加密密钥通过KMS托管服务注入容器环境变量,禁止硬编码于配置文件中。
3、启用HERMES_ENCRYPT_IO=true后,验证日志中所有LLM交互条目均显示encrypted_prompt_len: 1247与decrypted_response_len: 892字段。










