剪枝后模型体积未减小是因为未执行strip_pruning；qat与剪枝组合需剪枝wrapper包在qat外层且避开bn层；稀疏度不足可能因block_size过大或prune_batch_norm误启；tflite转换必须启用experimental_enable_resource_variables才能保留稀疏性。
剪枝后模型体积没变小？检查是否只做了权重稀疏化
TensorFlow Model Optimization Toolkit 的 prune_low_magnitude 默认只在训练中引入稀疏性（即把部分权重置零），但导出的 SavedModel 或 HDF5 文件仍保留全部参数——零值权重照样占空间。真正减体积必须显式执行剪枝剥离（strip pruning wrappers）。
实操建议：
- 训练完模型后，务必用
tfmot.sparsity.keras.strip_pruning(model)包裹原始模型，再保存：pruned_model = tfmot.sparsity.keras.strip_pruning(trained_model) tf.keras.models.save_model(pruned_model, "pruned_stripped.h5")
- 若用
tf.saved_model.save()，同样需先 strip，否则加载时会报ValueError: Layer has no attribute 'pruning_vars'类错误 - strip 后可用
model.count_params()对比前后参数量，确认零值已被移除
量化感知训练（QAT）+ 剪枝组合失效？顺序和 wrapper 位置很关键
剪枝 wrapper 和 QAT wrapper 都会修改层行为，但二者嵌套顺序错误会导致梯度不更新或伪量化。TensorFlow 官方明确要求：剪枝 wrapper 必须包在 QAT wrapper 外层，且仅对非 BatchNormalization 层应用剪枝。
常见错误现象：
- 训练 loss 不下降、accuracy 暴跌 → 可能是
prune_low_magnitude包了tf.keras.layers.BatchNormalization，BN 层缩放因子被误剪 - 导出 TFLite 后推理结果全为 NaN → QAT 未生效，因
prune_low_magnitude直接套在了带 quantize_config 的层上
正确做法：
- 先构建基础模型，再对目标层（如
Dense、Conv2D）单独加prune_low_magnitude - 然后用
tfmot.quantization.keras.quantize_model封装整个模型（此时内部自动处理已剪枝层的量化逻辑） - 避免手动对某一层同时调用
prune_low_magnitude和quantize_annotate_layer
剪枝率设为 0.5 却发现实际稀疏度只有 10%？关注 apply_to 和 block_size
pruning_params 中的 sparsity 是目标稀疏率，但实际达成受两因素制约：一是哪些层被纳入剪枝范围（pruning_schedule 和 prune_dense/prune_conv2d），二是块状剪枝（block sparsity）是否启用。
使用场景与参数差异：
- 默认
block_size=(1, 1)→ 逐权重剪，容易接近目标稀疏率；设为(4, 4)则强制按 4×4 块裁剪，若某块内最大绝对值不够小，整块保留 → 实际稀疏度显著低于设定值 -
prune_batch_norm默认为False，但若手动开启，BN 层的gamma被剪后可能引发后续层输入分布异常 - 训练初期（
begin_step过小）或学习率过高，会导致剪枝策略还没起效模型就已发散
验证方法：训练中每 epoch 后用 tfmot.sparsity.keras.prune.get_sparsity(model) 打印当前稀疏度，观察是否平滑趋近目标值。
TFLite 转换后剪枝失效？别漏掉 experimental_enable_resource_variables
将剪枝 + 量化后的 Keras 模型转 TFLite 时，若未启用资源变量模式，TFLite Converter 会忽略所有稀疏结构，输出稠密模型——体积和延迟毫无改善。
关键配置：
- 转换前确保模型已
strip_pruning，且用tf.keras.models.load_model(..., compile=False)加载（避免编译时重加 wrapper） - TFLiteConverter 初始化后必须设：
converter.experimental_enable_resource_variables = True
- 若使用
representative_dataset做 INT8 量化，注意数据预处理需与训练一致，否则剪枝后的敏感权重会被错误校准
转换后检查：用 netron 打开 .tflite 文件，展开任意 Conv2D 节点，看 weight tensor shape 是否变小（如从 [32,3,3,3] → [8,3,3,3]），否则就是稀疏性未透传。
真正起作用的不是“加了 prune_low_magnitude”，而是 strip、QAT wrapper 嵌套顺序、block_size 选择、以及 TFLite 转换时那个常被忽略的 experimental_enable_resource_variables 开关。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
