PyTorch中nn.GRU默认输出形状为(seq_len, batch_size, num_directions * hidden_size)，因设计遵循时间步优先顺序；双向需显式设bidirectional=True，此时num_directions=2，输出最后一维翻倍，h_n更可靠用于提取句向量。
双向GRU在PyTorch中必须显式设置 bidirectional=True，且输出维度会翻倍——这是绝大多数初学者漏掉的关键点，直接导致后续全连接层报错 size mismatch。
为什么 nn.GRU 的输出 shape 是三维，且第二维是序列长度？
PyTorch 的 nn.GRU 默认返回 (output, h_n)，其中 output 形状为 (seq_len, batch_size, num_directions * hidden_size)。注意：不是 (batch_size, seq_len, ...) —— 这和 Keras/TF 完全不同，也和很多人直觉相反。
- 如果你用
pack_padded_sequence做变长输入加速，output仍是按原始seq_len排列的（已自动对齐），但你必须用pad_packed_sequence解包才能安全取最后时间步 - 双向时
num_directions=2，所以哪怕hidden_size=128，output最后一维也是256，别直接喂给nn.Linear(128, 2) - 取最后时间步做分类时，不能简单用
output[-1]—— 因为正向最后一个输出在output[-1, :, :128]，反向“最后一个”其实在output[0, :, 128:]（反向是从末尾往开头算）
如何正确提取双向 GRU 的句向量（last hidden state）？
最稳妥的方式是直接用 h_n（形状：(num_layers * num_directions, batch_size, hidden_size)），而不是从 output 索引。因为 h_n 明确分离了正向/反向的最终隐藏态。
- 假设单层双向：
h_n[0]是正向 final hidden，h_n[1]是反向 final hidden - 拼接后送入分类器：
torch.cat([h_n[0], h_n[1]], dim=1)→ 形状(batch_size, 2 * hidden_size) - 若用多层（如
num_layers=2），默认只取最上层（h_n[0]和h_n[1]对应第一层正/反；h_n[2]和h_n[3]是第二层）——多数情感分析任务用单层就够了
训练时 pack_padded_sequence 怎么用才不崩？
不 pack 也能跑，但 padding 位置参与计算会拖慢速度、引入噪声；pack 后忘记解包或维度搞错，就会触发 RuntimeError: input.size(-1) must be equal to input_size。
- 输入必须按长度降序排列：
lengths, perm_idx = lengths.sort(0, descending=True)，再用x = x[perm_idx] - pack 后 GRU 输出的
h_n仍需按原顺序还原：_, unperm_idx = perm_idx.sort(0)，再h_n = h_n[:, unperm_idx] - 如果只用
h_n做分类（而非output），其实可以跳过pad_packed_sequence—— 但h_n本身已是 packed 后的结果，无需再 pad
为什么验证集准确率震荡大，且 loss 下降慢？
双向 GRU 对初始化和学习率更敏感，尤其当词向量未冻结、同时训练 embedding 层时，梯度容易爆炸或消失。
- 务必用
torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=1.0)防止梯度爆炸 - embedding 层建议先用预训练向量（如 GloVe），并设
requires_grad=False；等模型稳定后再放开微调 - GRU 的
dropout参数只在多层时生效（num_layers > 1），单层双向加dropout=0.5是无效的 —— 想正则化得靠nn.Dropout手动插在 GRU 后
真正麻烦的不是写通模型，而是对齐维度、处理变长、控制梯度流——这些细节藏在 PyTorch 文档的参数说明里，但不会主动提醒你哪里错了。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
