量化前须确认模型支持TFLite转换，优先用tf.keras.Model保存为SavedModel格式、固定输入输出形状；INT8量化需提供float32校准数据集、启用resource_variables、明确声明INT8算子集及输入输出类型。
量化前必须确认模型是否支持TFLite转换
不是所有TensorFlow模型都能直接进TFLiteConverter，尤其是含动态形状、自定义op或未冻结的SavedModel。常见报错如ValueError: Unsupported Ops in the model before optimization: TFLite_Detection_PostProcess，说明用了TF Object Detection API里未注册到TFLite的后处理层。
实操建议：
- 优先用
tf.keras.Model保存为saved_model格式（非HDF5），确保输入输出张量形状固定 - 若用
tf.estimator或tf.keras.models.load_model加载权重再构建模型，务必调用model.save('path', save_format='tf') - 对Detection模型，要么改用TFLite原生支持的SSD MobileNet v2（带
use_regular_nms=True），要么在导出前手动剥离后处理逻辑
选择INT8量化时必须提供校准数据集
TFLiteConverter做INT8量化不是“一键压缩”，它需要真实输入样本来统计激活值分布，否则会报RuntimeError: Failed to parse the model: Didn't find op for builtin opcode 'QUANTIZE'这类错误——本质是没触发量化流程。
实操建议：
- 准备至少100–500张有代表性的校准图（和训练/推理分布一致），喂给
representative_dataset函数 - 函数必须返回一个生成器，每次yield一个
dict：例如{'input_1': img.astype(np.float32)}，键名需与模型输入签名完全一致（可用converter.get_input_details()查） - 别用
np.uint8喂入——即使最终目标是INT8，校准阶段仍需float32输入，否则量化参数会严重偏移
converter.experimental_enable_resource_variables = True不能漏
TensorFlow 2.10+中，若模型含tf.Variable（比如BatchNorm层的running_mean），不设这个标志会导致转换失败，错误信息类似Op type not registered 'VarHandleOp'。
实操建议：
- 只要模型里有可训练变量（哪怕已冻结），都加上这行：
converter.experimental_enable_resource_variables = True - 该选项在TF 2.12+已默认True，但旧版TF或CI环境可能仍用旧镜像，显式声明更稳
- 配合
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]使用时，此标志是硬性前提
量化后模型体积没变小？检查是否误启了float16权重
很多人以为开了converter.optimizations = [tf.lite.Optimize.DEFAULT]就一定压缩，结果发现.tflite文件只小了5%——大概率是因为默认启用了converter.target_spec.supported_types = [tf.float16]，把权重从float32转成float16，而非INT8。
实操建议：
- 要真正减体积（通常4×），必须明确指定INT8：加
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8] - 同时设置
converter.inference_input_type = tf.int8和converter.inference_output_type = tf.int8，否则输入输出仍是float，中间计算无法全整型化 - 用
xx.tflite -v（tflite_micro/tools/benchmark）或Netron打开查看实际tensor dtype，别只信文件大小
真正起效的INT8量化依赖三要素齐备：校准数据、int8算子集、输入输出类型声明。少一个，体积和速度都不会按预期下降。
