模型加载慢主因是磁盘io与反序列化，需检查冗余签名、压缩savedmodel、避免网络盘/加密卷、禁用spotlight、预热concretefunction、延迟gpu初始化，并注意m系列芯片metal初始化及lookup table首调延迟。
模型加载慢，八成是卡在磁盘读取或反序列化环节，不是代码写错了，而是默认行为没对齐硬件特性。
模型文件太大且没压缩
TensorFlow 的 SavedModel 目录里常含冗余变量、未剪枝的 checkpoint、调试用的 signature_def，直接解压加载会触发大量小文件随机读。SSD 上可能 2–3 秒，机械盘上可能超 20 秒。
- 用
saved_model_cli show --dir path/to/model --all检查是否有无用 signature 或多余 assets - 导出时显式剔除：用
tf.saved_model.save(model, path, signatures={})清空非必需签名 - 对 SavedModel 目录整体压缩：
tar -czf model.tar.gz saved_model_dir/，加载前tar -xzf model.tar.gz，实测小模型可提速 40%+ - 避免用
.h5格式加载大模型——它底层是 HDF5，单线程解压，且不支持tf.data式流式读取
硬盘 IO 路径拖后腿
模型文件放在网络盘（SMB/NFS）、加密卷、或 macOS 的 APFS 快照目录下时，tf.saved_model.load() 会反复 stat/open/mmap，每千个文件多耗 100–300ms。
- 确认路径是否本地：运行
df -h /path/to/model，输出中Type列不能是afp、nfs、hfs（APFS 加密卷） - 把模型拷到
/tmp或用户主目录下的裸 SSD 分区再试，time python -c "import tensorflow as tf; tf.saved_model.load('...')"对比耗时 - macOS 上禁用 Spotlight 索引该目录：
mdutil -i off /path/to/model，否则load()期间可能触发mds_stores进程抢占 IO
Python 层反序列化开销被低估
TF 2.x 加载 SavedModel 时，会动态构建 Python 对象图（ConcreteFunction、Variable、Trackable），尤其含自定义层或 tf.py_function 时，初始化逻辑可能执行多次。
- 用
python -X importtime -c "import tensorflow as tf; tf.saved_model.load('path')"查看哪部分 import 占最多时间 - 若
tensorflow.python.keras.saving.saved_model.load耗时高，说明 signature 解析慢；可改用tf.keras.models.load_model(path, compile=False)跳过编译阶段 - 加载后立刻调用
model.__call__.get_concrete_function(...)预热一次，避免首次predict()再触发图构建 - 别在循环里反复
load()—— 即使模型只读，也应复用对象，tf.saved_model.load()不是线程安全的，重复调用会泄漏内存
GPU 显存预分配干扰加载流程
如果代码里提前启用了 GPU（比如调了 tf.config.list_physical_devices('GPU')），TF 会在加载模型前尝试分配显存，此时若驱动未就绪或权限不足，会静默等待 3–5 秒再 fallback 到 CPU。
- 把模型加载逻辑放在
import tensorflow as tf之后、任何 GPU 初始化之前 - 确认没在加载前调用
tf.config.set_memory_growth或set_visible_devices - M 系列芯片用户特别注意：加载时若系统尚未完成 Metal 初始化（比如刚唤醒），
tf.saved_model.load()可能卡在MetalDevice::new调用里，加time.sleep(0.5)在 import 后能缓解
最隐蔽的坑是模型里嵌了大型 lookup table 或 tf.lookup.StaticHashTable，它的初始化发生在 load() 返回之后的第一次 call 中——看起来是加载快，实际首 inference 延迟爆表。得用 model(input_sample) 主动触发一次再计时。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
