pytorch模型推理结果不一致，大概率没调用model.eval()；训练后模型默认处于train模式，dropout随机丢弃、batchnorm使用当前batch统计量，导致相同输入输出波动，必须显式调用model.eval()并配合torch.no_grad()、固定随机种子及cudnn确定性设置才能确保稳定。
PyTorch模型推理结果不一致，大概率没调用 model.eval()
训练完的模型默认处于 train 模式，此时 Dropout 和 BatchNorm 层行为非确定：Dropout 会随机丢弃神经元，BatchNorm 则使用当前 batch 的统计量而非训练好的 running_mean/running_var。哪怕输入完全相同，每次 forward 都可能输出不同结果。
解决方法非常直接：
- 推理前必须显式调用
model.eval() - 如果用了
torch.no_grad()，它只关闭梯度计算，不改变模型模式，所以不能替代eval() - 若模型含自定义模块（比如带
nn.Dropout的 head），要确认所有子模块也都进入 eval 状态 ——model.eval()会递归生效，一般无需手动处理
即使开了 eval() 还不稳定？检查随机性源头
model.eval() 只管模型层，但 PyTorch 推理链路上还有多个潜在随机点：
-
torch.backends.cudnn.enabled = True（默认）时，cuDNN 会启用非确定性算法加速卷积，导致 GPU 上结果波动 → 加torch.backends.cudnn.deterministic = True并禁用 benchmark：torch.backends.cudnn.benchmark = False - 数据加载器
DataLoader若设了shuffle=True或num_workers > 0，可能引入顺序/多进程随机性 → 推理时应设shuffle=False，num_workers=0（或固定worker_init_fn） - 输入张量本身若来自随机采样（如
torch.randn），需提前固定种子 —— 单靠model.eval()无法控制输入源头
设置随机种子不能只写 torch.manual_seed(42)
PyTorch 的种子控制是分组件的，只设一个不够：
-
torch.manual_seed(42)：控制 CPU 张量和 CUDA（若无 cuDNN 非确定性） -
numpy.random.seed(42)：很多预处理用 NumPy，漏掉会导致图像增强等步骤不一致 -
random.seed(42)：影响 Python 原生 random、DataLoader 的 shuffle 逻辑（即使shuffle=False，某些 sampler 初始化也可能用到） - 若用多进程（
num_workers > 0），还需在worker_init_fn中为每个 worker 单独设种子，否则子进程种子继承自父进程但可能被重置
验证是否真的稳定：别只比对打印值
浮点数打印精度有限（如 print(x) 默认显示小数点后 8 位），看似相同，实际可能有微小差异。正确验证方式：
- 用
torch.allclose(a, b, atol=1e-8)比较两个输出张量，明确容忍阈值 - 避免用
==直接判断浮点张量相等（会逐元素比较 exact bit，GPU 计算路径差异易失败） - 如果模型含
torch.nn.functional.interpolate或其他插值操作，注意其align_corners参数默认值在不同 PyTorch 版本中变化过，可能导致跨环境不一致
真正稳定的推理，是模型模式、计算路径、输入数据、随机状态四者同时锁定。少一个环节，都可能让“相同代码”跑出不同结果。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
