最简可运行mlp结构为：输入层→nn.linear→nn.relu→输出层；需注意relu要实例化、末层不加激活、输入须flatten、层名勿重复、验证时检查归一化/标签类型/初始化。
用 nn.Sequential 搭 MLP，最简结构长什么样
直接能跑的最小闭环就是：输入层 → 线性变换 → 激活函数 → 输出层。PyTorch 里不用写前向传播函数，nn.Sequential 会按顺序执行每个模块。
常见错误是把 nn.ReLU() 写成 nn.ReLU（漏了括号），结果报 TypeError: module() takes exactly 1 argument —— 因为没实例化，传进去的是类而不是对象。
-
nn.Linear(784, 128)后必须接nn.ReLU()，不能只写torch.relu（那是函数式接口，不维护状态，也不在Sequential里自动注册参数） - 最后一层通常不加激活（分类任务用
nn.CrossEntropyLoss时，内部已含 softmax，再套一层会出错） - 输入张量 shape 必须是
(batch_size, input_dim)，不是(batch_size, 1, 28, 28)—— 忘了.flatten(1)是新手最高频的 runtime error 来源
为什么 nn.Sequential 里的层名不能重复
当你用字典传参（比如 nn.Sequential(OrderedDict([...]))）时，键名会变成模块的属性名，例如 model.layer1。如果两个模块都叫 'linear'，后面那个会覆盖前面的，导致 model.named_parameters() 只返回一份权重，训练时实际只更新了最后一个。
更隐蔽的问题是：保存模型后加载，load_state_dict() 会因 key 不匹配静默失败，不报错但效果极差。
- 推荐命名方式：
('fc1', nn.Linear(784, 128))、('relu1', nn.ReLU())、('fc2', nn.Linear(128, 10)) - 如果只是临时调试，用列表形式
nn.Sequential(nn.Linear(...), nn.ReLU(), ...)就行，此时模块无显式名字，但model[0]这样索引依然有效 - 别用数字字符串当 key（如
'1'），虽然语法合法，但和整数索引混淆，后续调试容易误判
nn.Sequential 和手写 forward 的性能差异在哪
几乎没有。底层都是调用相同算子，Sequential 只是封装了 for module in self._modules.values(): input = module(input)。真正影响速度的是是否启用 torch.compile 或是否用了 in-place 操作。
但有一个关键区别：Sequential 无法做分支、复用某层多次、或根据输入动态跳过某层 —— 比如残差连接、DropPath、条件路由，这些必须切到自定义 nn.Module。
- Dropout 在训练/评估模式下行为不同，
nn.Sequential会自动转发.train()/.eval()调用，这点没问题 - 如果中间要插日志、梯度裁剪、或访问某层输出用于可视化，
Sequential就得拆开；强行用register_forward_hook增加复杂度，不如一开始就写类 - 多卡 DDP 下，
Sequential没特殊问题，但注意所有参数必须被某个模块持有——别把nn.Parameter直接挂在Sequential实例上，它不会自动注册
验证 MLP 是否真在学：别只看 loss 下降
MLP 容易陷入伪收敛：loss 往下掉，但测试准确率卡在 10%（随机水平），说明输入根本没进网络，或者标签没对齐。最该先查三件事：
- 输入是否归一化？MNIST 用
transforms.Normalize((0.1307,), (0.3081,))是标准做法，全喂 0~1 像素值会导致第一层梯度爆炸 - 标签类型是否为
torch.long？给nn.CrossEntropyLoss喂float标签会报RuntimeError: Expected tensor for argument #1 'target' to have scalar type Long - 初始化是否失效？如果所有
nn.Linear都用默认初始化，但第一层权重全为零（比如手动设了weight.data.zero_()），那整个网络恒等输出，loss 不降但也不报错
一个简单验证法：把网络最后一层改成 nn.Linear(128, 1)，输入全零张量，看输出是不是接近零 —— 如果不是，说明某处有 bias 或 leaky relu 残留，得回溯检查每一层构造参数。
