torch.isinf是最直接检测张量中inf/-inf的方法，返回布尔张量，需配合.cpu()、torch.any和torch.where定位；anomaly mode仅在反向出错时触发，前向inf易被忽略，应四点断言+fp32转换+各rank独立检测。
如何用 torch.isinf 快速定位张量里的无穷大
torch.isinf 是最直接的检测手段，它返回一个布尔张量，对应位置为 True 表示原张量该处是 inf 或 -inf（不包含 nan）。注意它对 nan 返回 False，若需同时捕获 nan，得额外加 torch.isnan。
实操建议：
- 检测前先确认张量在 CPU 上（GPU 张量需先
.cpu()），否则报错RuntimeError: isinf is not implemented for type torch.cuda.FloatTensor - 批量检查时别直接 print 布尔张量——容易漏看，改用
torch.any(torch.isinf(x))快速判断是否存在，再用torch.where(torch.isinf(x))拿到具体索引 - 对梯度张量检测，记得在
backward()后、optimizer.step()前做，否则梯度可能已被清零
为什么 torch.autograd.set_detect_anomaly(True) 有时没反应
开启 anomaly mode 不等于自动拦截所有 inf，它只在反向传播出错时（比如遇到 nan 或 inf 导致计算图断裂）才抛出带栈追踪的异常。如果 inf 出现在前向过程（如 softmax 输入过大、log(0)）、或反向中未引发数值崩溃（例如只是让某层梯度变 inf 但后续仍能算下去），anomaly mode 就不会触发。
常见错误现象：
- 模型训练 loss 突然变成
nan，但没报错——说明inf已污染中间结果，却未在 backward 阶段导致 immediate failure - 开启
set_detect_anomaly(True)后训练变慢 2–3 倍，且只在特定 batch 报错，说明问题具有数据依赖性
正确用法：把它放在 loss.backward() 外层 try/except 中，并配合 torch.autograd.gradcheck 对自定义算子做梯度验证。
前向过程里 inf 的高发场景和规避方式
很多 inf 其实诞生于前向，比如 torch.exp(1000) → inf，或 torch.log(torch.tensor(0.)) → -inf。这些值一旦进入后续运算（如除法、softmax），就会快速扩散。
使用场景与参数差异：
-
F.softmax(logits, dim=-1)：当logits差距极大（如 max-min > 88），指数后易溢出；应先减去logits.max()再算（PyTorch 内置已做，但自定义实现常漏） -
torch.norm(x, p=1)或p=2：若x含inf，结果也是inf；可先用torch.isfinite(x).all()检查输入 -
torch.bmm/torch.matmul：两矩阵含inf相乘，结果不确定（可能nan或inf），无法靠 anomaly mode 捕获
调试时容易忽略的三个细节
真正卡住人的往往不是方法本身，而是执行环境和数据状态的盲区：
- 混合精度训练（
amp）下，torch.isinf对float16张量行为不同——inf在 fp16 中是合法值，但某些 GPU（如 V100）不支持 fp16isinf，会静默失败，务必转成float32再检 - 分布式训练（DDP）中，
inf可能只出现在某个 rank，而主进程没报错；需在每个 rank 都插入检测逻辑，不能只在 rank 0 查 -
torch.nn.DataParallel已弃用，但遗留代码里若用了它，isinf检测结果可能因设备分布不均而误判——建议统一迁移到 DDP 或单卡调试
最稳妥的做法：在每个 epoch 开始前、loss 计算后、backward 前、step 前，四点都插一句 assert torch.isfinite(loss).item(), f"Loss is {loss}"，比等整个训练崩掉再回头找快得多。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
