直接用 assert a == b 比较张量会失败，因为多元素张量的布尔值未定义，触发 RuntimeError；应改用 torch.testing.assert_close()（推荐，支持容差与NaN处理）或 assert_equal()（要求完全一致，含device/shape/dtype）。
为什么直接用 assert 比较张量会失败
因为 torch.Tensor 的布尔值是未定义的，像 assert a == b 这种写法在张量不相等时会抛出 RuntimeError: The truth value of a Tensor with more than one element is ambiguous。这不是 bug，而是 PyTorch 故意禁用的——避免隐式标量转换带来的歧义。
实操建议：
- 永远不要对多元素张量用
==后接assert - 改用
torch.testing.assert_close()（PyTorch 1.12+ 推荐）或torch.testing.assert_equal()（旧版兼容） - 若需自定义容差，
assert_close支持rtol和atol参数，比手写torch.allclose()+assert更健壮
assert_close 和 assert_equal 怎么选
assert_equal 要求张量完全一致（dtype、shape、值、device 都相同），适合验证确定性运算；assert_close 更灵活，能处理浮点误差、自动广播、甚至部分 NaN 对齐，是当前推荐的默认选择。
常见错误现象：在测试 GPU 张量时忘记 to('cpu')，导致 assert_equal 报 Device mismatch；而 assert_close 默认不检查 device，容易掩盖设备迁移 bug。
实操建议：
- 数值计算类测试（如自定义 loss、grad check）优先用
assert_close，显式传check_device=True如果关心 device - 结构类测试（如模型输出 shape 是否符合预期）可用
assert_equal，但先确保a.shape == b.shape和a.dtype == b.dtype - PyTorch torch.testing.assert_equal，别尝试从新版本 backport
assert_close
如何为含随机性的张量操作写可重复测试
像 torch.nn.Dropout、torch.bernoulli 或带 torch.manual_seed() 的初始化，不固定随机种子会导致测试偶然失败。
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac，无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启：辅助功能 + 屏幕录制权限
实操建议：
- 在每个 test 函数开头调用
torch.manual_seed(42)，不是只在setUp里设一次——pytest 会并发执行多个 test，seed 可能被干扰 - 避免依赖全局状态，比如不要在模块顶层调用
torch.use_deterministic_algorithms(True)，它会影响其他测试；应在具体 test 内用with torch.no_grad():+ 显式 seed - 若测试涉及 CUDA 非确定性算子（如某些 cuDNN 卷积），需额外设
os.environ["CUBLAS_WORKSPACE_CONFIG"] = ":4096:8"并在 test 前调用torch.backends.cudnn.enabled = False
测试梯度是否正确传播的最小可行方式
只验证前向输出不够，很多 bug 出现在 backward 阶段。手动写 torch.autograd.grad 太重，torch.autograd.gradcheck 是更轻量的选择。
使用场景：验证自定义 Function 或复杂组合算子的反向传播。
实操建议：
- 用
torch.autograd.gradcheck(func, inputs, eps=1e-6, atol=1e-4)，其中func必须返回标量（如 loss），inputs是 require_grad=True 的张量列表 - 如果 gradcheck 失败，先关掉
nonfused_batch_norm等优化开关，再检查是否用了 in-place 操作（如x += y）破坏了计算图 - 注意
gradcheck默认在 CPU 上运行，GPU 测试要显式传raise_exception=False并检查返回值是否为True
测试张量运算的难点不在语法，而在理解 PyTorch 对“相等”的分层定义：结构相等、数值近似、梯度一致性、设备一致性——每个维度都要有对应断言策略，漏掉任意一层都可能让 bug 潜伏数月。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
