不能。onnx转换器(如tf2onnx)不接受keras模型对象,必须先将keras模型以save_format="tf"保存为savedmodel格式,再用tf2onnx.convert_from_saved_model()转换;若仅有.h5文件,需先load_model再save为tf格式。

tf.keras.models.load_model() 加载模型后无法直接转 ONNX?
不能。ONNX 转换器(如 tf2onnx)不接受 Keras 模型对象作为直接输入,它需要的是 TensorFlow 的 SavedModel 格式或冻结图(frozen graph)。即使你用 model.save("my_model") 保存了 Keras 模型,也必须确保它是以 save_format="tf"(即 SavedModel)方式保存的,而非 HDF5(.h5)。否则 tf2onnx.convert.from_saved_model() 会报 ValueError: Cannot find saved_model.pb。
- ✅ 正确保存:
model.save("my_model", save_format="tf") - ❌ 错误保存:
model.save("my_model.h5")(后续需先加载再导出为 SavedModel) - 若只有
.h5文件,先用tf.keras.models.load_model("my_model.h5")加载,再调用model.save("my_model_converted", save_format="tf")
使用 tf2onnx.convert.from_saved_model() 时 shape 不匹配报错
常见错误是 Input shapes do not match the expected signature 或 None is not allowed in input shape。这是因为 ONNX 要求输入张量 shape 尽可能明确(尤其是 batch 维),而 Keras 默认导出的 SavedModel 可能保留 None(动态 batch size)。你需要显式指定 input_signature 或用 opset 兼容方式处理。
- 推荐做法:用
tf.TensorSpec构造确定 shape 的签名,例如input_signature=[tf.TensorSpec([1, 224, 224, 3], tf.float32)] - 避免只传
input_shape参数——from_saved_model()不支持该参数,那是旧版 API 的遗留写法 - 如果模型含自定义层或非标准 op(如
tf.image.resize),加--opset 15(或更高)并检查tf2onnx版本是否 ≥ 1.16
转换后 ONNX 模型 inference 结果与 TF 不一致
最常见原因是预处理差异:TensorFlow 默认 RGB 输入,但某些 ONNX runtime(如 onnxruntime)默认按 NHWC 布局解析,且未自动做归一化或通道顺序调整。不是模型转换出错,而是数据喂入前没对齐。
- 确认 TF 模型训练时的预处理逻辑(如是否除以 255、是否减均值、是否 BGR→RGB)
- 在 ONNX 推理前,用相同逻辑处理输入 numpy array,例如:
img = img.astype(np.float32) / 255.0,再np.transpose(img, (2, 0, 1))(若 ONNX 模型要求 NCHW) - 用
onnx.checker.check_model()验证模型结构合法性;用onnx.shape_inference.infer_shapes()查看各节点 shape 是否合理
Windows 下 pip install tf2onnx 失败或 import 报 DLL 加载错误
这通常源于 TensorFlow 和 Python 版本组合不兼容,或系统缺少 Visual C++ 运行库。尤其在 Python 3.11+ 或 TF 2.15+ 环境中,tf2onnx 的 wheel 包尚未完全同步更新。
- 优先使用 conda 安装:
conda install -c conda-forge tf2onnx(更稳定) - 若坚持 pip,请降级到已验证组合:Python 3.10 + TF 2.13 + tf2onnx 1.16.1
- 安装后运行
python -c "import tf2onnx; print(tf2onnx.__version__)"确认无 DLL 冲突;若仍失败,手动安装 Microsoft Visual C++ 2015–2022 Redistributable
.h5;你以为输入 shape 是“自动推断的”,其实 ONNX 需要你亲手写死。Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











