量化前须先成功导出savedmodel：确保模型可追踪、无动态shape、自定义层已注册，并用随机输入预执行；int8量化必须提供匹配签名的representative_dataset；需检查算子兼容性并优先选用tflite原生ops；量化后务必在目标设备验证精度与性能。
量化前必须确认模型能正常导出为 SavedModel
直接对 Keras 模型调用 tflite_convert 或 TFLiteConverter.from_keras_model 失败，大概率不是量化问题，而是模型本身没走通导出流程。TensorFlow 2.x 要求模型必须是「可追踪的」：不能含动态 shape、不能依赖未封装的 Python 控制流（如裸 if 或 for）、tf.function 装饰的推理函数需明确输入签名。
实操建议：
- 先用
model.save("saved_model_dir", save_format="tf")成功保存为 SavedModel 格式，再用tf.keras.models.load_model("saved_model_dir")加载验证是否可运行 - 若模型含自定义层或损失，确保已用
@tf.keras.utils.register_keras_serializable()注册，否则加载时会报ValueError: Unknown layer - 导出前用
model(tf.random.normal((1,) + input_shape))跑一次前向，确保所有子图被 trace 到
INT8 量化必须提供 representative_dataset
TFLite 的全整型量化（tf.int8）不是靠参数开关自动完成的，它需要一组真实输入样本来统计激活值分布，从而确定每层的量化缩放因子（scale/zero_point）。不提供 representative_dataset，转换器会静默降级为浮点模型，体积几乎不变，也无推理加速。
实操建议：
-
representative_dataset应返回一个生成器，每次 yield 一个dict或tuple，内容是模型输入张量（如{"input_1": tf.constant(...)}），样本数 100–500 足够，无需标签 - 输入数据类型和 shape 必须与模型签名完全一致，常见错误是用了
np.float32但模型期待tf.float32，或 batch 维度写成(32, 224, 224, 3)而非(1, 224, 224, 3) - 避免用训练集均值/标准差做归一化——量化统计依赖实际推理分布，应使用部署时的真实预处理逻辑
converter.target_spec.supported_ops 决定算子兼容性
默认情况下，TFLite Converter 只支持有限子集的 TensorFlow 算子。一旦模型含不支持 ops（如 tf.py_function、tf.scatter_nd、某些高级 RNN 变体），转换会报错 Some ops are not supported by the native TFLite runtime，即使加了量化也会失败。
安全 Python 代码沙箱：在隔离的沙箱中执行任意 Python 代码，预装 requests、NumPy、pandas 库。返回 stdout、stderr。
实操建议：
- 优先尝试
tf.lite.OpsSet.TFLITE_BUILTINS_INT8—— 它强制只用 TFLite 原生 int8 算子，能提前暴露不兼容项；若失败，再回退到TFLITE_BUILTINS（混合 float/int8）或SELECT_TF_OPS（需额外链接 TF 运行时） - 对移动端部署，禁用
SELECT_TF_OPS：它会让模型体积暴涨，且 Android/iOS 需额外打包 TF delegate，失去轻量优势 - 检查报错中的 op 名称，去 TFLite Ops 兼容列表 确认是否支持；不支持时得重写对应模块（例如用
tf.nn.depthwise_conv2d替代自定义卷积）
量化后务必在目标设备上验证精度和性能
INT8 量化必然引入误差，尤其对检测、分割类模型，mAP 可能下降 2–5 个点；而某些低比特量化（如 float16）在旧设备上反而变慢——因为硬件没有原生 fp16 单元，需模拟执行。
实操建议：
- 用
tf.lite.Interpreter加载 tflite 模型，在相同输入下对比原始模型输出，计算最大误差（np.max(np.abs(fp32_out - int8_out))），>0.1 通常需调整量化策略 - Android 上用
adb shell "time -p /data/local/tmp/benchmark_model --graph=/data/local/tmp/model.tflite"测端到端延迟；iOS 需用 Xcode 的 Time Profiler 抓帧内耗时 - 如果量化后精度崩塌，先关掉权重校准（设
converter.experimental_enable_tensorrt_converter = False），再试 full-integer 模式；仍不行就得改模型结构（如减少 BN 层、替换 Swish 为 ReLU）
真正卡住的地方往往不在代码行数，而在 representative dataset 的代表性、target_spec 的取舍、以及设备侧验证的完备性——这三步漏掉任何一环，量化就只是“看起来变小了”。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
