Ollama手机版部署:在Termux中让HermesAgent调用本地大模型【Ollama】

老磊酱_5869

老磊酱_5869

2026-05-12

702人浏览

原创

可行但需替代方案:因ollama依赖glibc和systemd,termux(musl libc、无init)无法运行ollama serve;推荐用google ai edge gallery部署gemma4:e2b模型并提供http api,hermesagent通过openai兼容接口调用。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

ollama手机版部署:在termux中让hermesagent调用本地大模型【ollama】

在安卓手机上用 Termux 部署 HermesAgent 并调用本地 Ollama 模型,是可行的,但需注意硬件限制和当前生态适配性——Ollama 官方暂未发布 Android 原生客户端,不能直接在 Termux 中运行 ollama serve。不过,已有成熟替代路径:用 Google AI Edge Gallery + Gemma 4 或 Ollama 的 ARM64 兼容模型 + Termux 模拟环境 实现近似效果。

为什么不能直接在 Termux 跑 Ollama?

Ollama 的 Linux 版本依赖 glibc 和 systemd-like 进程管理机制,而 Termux 基于 musl libc,且无完整 init 系统支持。即使手动编译或使用预编译二进制,也无法稳定启动 ollama serve 服务。实测中,ollama list 或 ollama run 命令会报错“cannot connect to daemon”或“no such file or directory”。

可行方案:用 AI Edge Gallery 替代 Ollama 后端

这是目前最稳定、零编译、纯离线的安卓部署方式,已验证适用于骁龙 8 Gen2+ 设备:

飞书群聊机器人接入大模型
飞书群聊机器人接入大模型

从零搭建飞书机器人。支持 MiniMax/MiMo 等模型、工具调用(搜索/天气/百科/记忆)、Skill 架构。一站式交付可上线运行的飞书群聊 bot。基础版本,后续可自行升级能力

下载
  • 在应用商店安装 Google AI Edge Gallery(官方出品,无需谷歌服务)
  • 进入“模型库”,搜索 gemma4:e2b(约 2.5GB),下载并激活
  • 该模型自带 HTTP API 服务,默认监听 http://localhost:8080/generate
  • 在 Termux 中运行 Python 脚本,用 requests 调用该接口,作为 HermesAgent 的 LLM 后端

Termux 中对接 HermesAgent 的关键配置

需修改 HermesAgent 的 config.yaml,使其绕过原生 Ollama 适配逻辑,直连本地模型 API:

  • 设置 provider: "openai"(借用 OpenAI 兼容接口模式)
  • 设 base_url: "http://localhost:8080/v1"(注意加 /v1,AI Edge Gallery 支持此路径)
  • model: "gemma4:e2b"(仅作标识,实际由后端解析)
  • api_key: "dummy"(该服务无需鉴权)
  • 关闭 ollama_compatible(此项不生效,避免解析错误)

性能与体验注意事项

受限于手机 CPU 和内存,响应速度和上下文长度明显低于桌面端:

  • 推荐使用 Gemma 4 e2b(2B 参数),e4b 在多数手机上易 OOM
  • 单次推理建议控制在 512 token 以内,避免卡顿或崩溃
  • HermesAgent 的记忆和技能功能仍可运行,但复杂工具调用(如网页搜索)需额外配置代理或禁用
  • 首次运行需等待模型加载约 30 秒,之后响应在 3–8 秒内

不复杂但容易忽略:真正的“Ollama 手机版”尚未落地,当前最佳实践是用 AI Edge Gallery 打通模型层,再让 HermesAgent 以通用 API 方式接入。这样既保隐私、又免 API 费,还能在断网环境下持续工作。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Hermes Agent完整设置指南教程
Hermes Agent完整设置指南教程

此专题为您提供 HermesAgent最新、最全面的设置指南。内容涵盖从一键安装、模型配置(支持阿里云百炼等)到微信、钉钉等全平台接入的完整流程。无论您是新手还是进阶用户,都能在这里找到清晰的步骤说明与常见问题解答,助您快速部署并掌握这款能自我进化的AI代理,轻松开启智能化工作流。

2026.04.13

552

11

Hermes Agent完整部署教程
Hermes Agent完整部署教程

本专题聚焦开源AI智能体Hermes Agent,提供从入门到精通的完整部署教程。作为会“自我进化”的AI助手,它支持本地及云端私有化部署,具备持久记忆与技能自动沉淀能力。无论你是开发者还是效率追求者,这里都将助你快速搭建专属的“数字伙伴”,实现AI自主执行复杂任务,让工作效率倍增。

2026.04.13

374

20

HermesAgent下载安装完整教程
HermesAgent下载安装完整教程

本专区为您提供 HermesAgent最全面的安装与部署指南。作为由NousResearch推出的“可成长”AI智能体,Hermes支持Linux、macOS及WSL2环境。我们汇集了从官方推荐的一键脚本安装、手动源码部署,到Docker及云服务器(如腾讯云Lighthouse)搭建的保姆级教程。无论您是新手还是开发者,都能在此找到详细的配置步骤,助您快速拥有这位具备持久记忆与自我进化能力的AI助手。

2026.04.13

277

21

Hermes Agent使用指南汇总
Hermes Agent使用指南汇总

本专题将带你从零开始,全面掌握Hermes Agent的安装部署、核心配置、技能扩展与生态整合,无论你是想打造专属私人助手,还是探索AI自动化变现路径,这里都有最实用的实战指南。

2026.05.06

409

34

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

2026.09.23

20

15

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

2026.09.23

0

15

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

2026.09.23

0

15

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

2026.09.22

0

12

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

2026.09.22

20

13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Hermes Agent中文文档
Hermes Agent中文文档

共0课时 | 0人学习

腾讯混元大模型API参考手册
腾讯混元大模型API参考手册

共0课时 | 0人学习