可通过三步解决core本地推理服务模型更新与缓存问题:一、运行update-model.sh脚本热更新模型;二、执行core-cli cleanup命令自动清理过期缓存;三、手动删除.metadata_cache.bin并发送sigusr2信号刷新元数据。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您已部署 Core 本地推理服务,但需要更新模型版本或释放磁盘空间,则可能是由于模型文件未同步、缓存目录堆积导致服务响应迟缓或加载失败。以下是解决此问题的步骤:
一、执行一键模型更新脚本
该脚本通过比对远程模型仓库哈希值与本地模型指纹,自动拉取增量更新包并完成热替换,避免全量下载与服务中断。
1、进入 Core 部署根目录,确认存在 update-model.sh 脚本文件。
2、赋予脚本可执行权限:chmod +x update-model.sh。
3、运行更新命令并指定目标模型:./update-model.sh --model glm-4-flash --force-reload。
4、等待终端输出 [SUCCESS] Model reload completed, inference service restarted 提示。
二、触发缓存自动清理流程
该流程扫描 /cache/llm/ 目录下超过7天未访问的临时权重片段、中间激活缓存及日志快照,按安全策略逐级释放。
1、执行内置清理指令:core-cli cleanup --scope cache --ttl 7d --dry-run false。
2、确认输出中显示已标记 327 items scheduled for deletion 及预估释放空间量。
3、系统将跳过正在被推理进程锁定的活跃缓存块,仅清理就绪资源。
三、手动强制刷新模型元数据缓存
当模型配置文件(如 config.json、tokenizer.json)被外部工具修改后,Core 运行时可能仍读取旧内存映射,需主动重载元数据索引。
1、定位至模型加载路径,例如:/models/glm-4-plus/。
2、删除元数据缓存文件:rm -f .metadata_cache.bin。
3、向运行中的服务进程发送重载信号:kill -SIGUSR2 $(pgrep -f "core-server")。











