梯度裁剪不能防止loss变nan，它只在梯度已计算后限制其范数，而nan通常在tape.gradient()中已产生；必须在裁剪前检查梯度是否为nan，并在数据输入、label、loss计算等更早环节堵住log(0)、除零、非法值等源头。
TensorFlow训练中loss变NaN，梯度裁剪真能“拦住”吗
不能。梯度裁剪只在tf.clip_by_global_norm()执行时起作用，而NaN通常已在tape.gradient()计算过程中产生——它不修复污染源，只防止已污染的梯度进一步破坏参数更新。
常见误操作是：把裁剪放在optimizer.apply_gradients()之后，或以为加了裁剪就不用查数据。实际上，裁剪前若梯度已是NaN，裁剪后仍是NaN（因为nan * 0.5 == nan）。
- 必须在
clipped_grads, _ = tf.clip_by_global_norm(grads, clip_norm=...)之前，插入检查：if any(tf.reduce_any(tf.math.is_nan(g)) for g in grads if g is not None): raise RuntimeError("NaN gradient detected before clipping") - 裁剪不是兜底方案，而是最后一道防线；真正要拦，得在
compute_loss()里堵住log(0)、除零、负数开方等源头 - 混合精度（
mixed_float16）下，FP16对NaN更敏感，此时裁剪阈值建议设为0.5–1.0，而非默认的5.0
tf.clip_by_global_norm()的clip_norm该设多少
没有通用值，但有可验证的起点：RNN/Transformer类模型从clip_norm=1.0开始，CNN或小模型可试5.0；设太大（如1e3）等于没裁，设太小（如1e-3）会让有效梯度被压成0，训练停滞。
实操中应配合监控：打印裁剪率global_norm（即裁剪函数返回的第二个值），若长期接近clip_norm，说明裁剪频繁生效，需调低学习率或检查loss尺度；若始终远小于clip_norm，说明当前梯度本身稳定，裁剪可能冗余。
- batch size增大时，梯度norm常同步增大，clip_norm也应适当上调（非线性关系，建议+20%~50%试探）
- 使用
Adam优化器时，因动量累积效应，clip_norm宜比SGD略保守（例如同模型下用1.0而非2.0） - 注意：clip_norm单位与梯度L2范数一致，不是loss单位，别拿loss值（如
2.3）直接当clip_norm
为什么加了clip_by_global_norm还是出现NaN
大概率是裁剪位置错了，或根本没覆盖到问题梯度。TensorFlow中，grads是trainable_variables对应的一组张量，但某些场景下部分变量梯度为None（如被stop_gradient断开），若未过滤就传入clip_by_global_norm，会触发隐式广播错误，间接导致NaN传播。
另一个高频坑：自定义loss里用了tf.math.log()但没防零，例如tf.math.log(tf.nn.softmax(logits) + 1e-8)看似安全，但如果logits本身含inf，softmax输出仍可能是NaN——这时裁剪完全无效。
- 务必确认
grads列表中每个元素都非None且非NaN：[g for g in grads if g is not None and not tf.reduce_any(tf.math.is_nan(g))] - 所有
log、sqrt、div操作前加tf.clip_by_value(x, 1e-8, 1e4)，尤其在loss内部手动实现交叉熵时 - 若用
tf.keras.losses.CategoricalCrossentropy(from_logits=True)，它内部已做数值稳定，无需额外clip；但若from_logits=False，输入必须是概率分布，否则易出NaN
比梯度裁剪更早该检查的三个位置
90%的NaN问题，根源不在梯度更新阶段，而在数据流入和loss计算环节。梯度裁剪只是“灭火”，而下面三处才是“关煤气阀”。
-
input张量：加载图像时OpenCV读取失败返回全0张量，shape不对却没报错；文本token化后pad_id填成-1但模型层没校验——用tf.debugging.check_numerics()插在model(input)前最直接 -
label张量：分类任务中label含非法值（如num_classes=10但label出现15），导致one-hot时索引越界生成NaN；回归任务label含inf，直接污染loss -
loss标量本身：在apply_gradients前加一句tf.debugging.assert_all_finite(loss, "loss is not finite")，它会在loss为NaN/Inf时立即中断并报栈，比靠裁剪后看结果快得多
裁剪解决不了输入污染，也掩盖不了log(0)。真正稳的训练流程，是在tf.GradientTape外就让每一份tensor都过一遍is_finite检查——这比调参快，也比重训省时间。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
