生成器末层激活函数必须匹配数据分布:图像用tanh并配合rescaling(-1,1),判别器调用需设training=true,gradienttape须显式watch生成器变量,shuffle buffer_size应足够大。

生成器用 tf.keras.Sequential 搭建时,输出层激活函数选错会直接崩掉训练
生成器最后一层必须匹配真实数据分布:图像常用 tf.tanh(输出 [-1, 1]),配合 tf.keras.layers.Rescaling 把输入归一化到同一范围;若用 sigmoid 却没把输入缩放到 [0, 1],梯度会极小甚至消失。
常见错误是直接接 linear 层后送进判别器,导致输出值域远超合理范围,tf.nn.sigmoid_cross_entropy_with_logits 算出来的 loss 瞬间爆掉(比如出现 nan 或极大正值)。
实操建议:
• 生成器末层用 tf.keras.layers.Dense + tf.keras.layers.Activation('tanh')
• 输入预处理统一走 tf.keras.layers.Rescaling(1./127.5, offset=-1)
• 判别器输入不做额外 rescale,保持和生成器输出一致
判别器用 tf.keras.Model 自定义 call 时,忘记设 training=True 会导致 BatchNorm 失效
GAN 训练中判别器既要判真图也要判假图,而 tf.keras.layers.BatchNormalization 在 training=False 下会用移动均值/方差,导致 fake 图的特征分布被“冻结”,梯度传不下去。
典型现象是:判别器 loss 很快降到接近 0,但生成器完全不更新——其实是判别器在 eval 模式下“记住了”统计量,把所有 fake 图都当成一个固定模式打分。
实操建议:
• 在判别器 call 方法里显式传 training=True,哪怕只是临时调用
• 不要用 model.predict() 测 fake 图得分,改用 model(fake_batch, training=True)
• 若用 tf.function 装饰训练 step,确保内部调用判别器时也带 training=True
对抗训练循环里用 tf.GradientTape 记录多个模型时,tape.watch() 容易漏掉生成器变量
标准写法是外层 tape 同时 watch 生成器和判别器的可训练变量,但很多人只 watch 判别器,结果生成器梯度全为 None —— 因为 tape 默认只追踪“进入其作用域”的张量,generator(noise) 输出的 tensor 若没被显式 watch,其依赖链上的 generator.variables 就不会进梯度计算。
更隐蔽的问题是:用 tf.keras.Model 构建生成器后,它的 trainable_variables 可能包含 BN 层的 gamma/beta,但这些变量在生成器单独训练时其实不该更新(GAN 原理上生成器只响应判别器反馈),所以 watch 范围要精准。
实操建议:
• 显式列出:tape.watch(generator.trainable_variables)
• 判别器更新时,只对判别器变量求 grad;生成器更新时,只对生成器变量求 grad
• 避免用 tape.watched_variables() 自动推断,它可能漏掉或混入不该参与的变量
tf.data.Dataset pipeline 里 shuffle buffer_size 设太小,会让判别器记住 batch 顺序
GAN 对数据打乱极度敏感。若 dataset.shuffle(buffer_size=100) 而你有 10 万张图,实际 shuffle 效果接近没 shuffle——判别器会在每个 epoch 里反复看到相似局部分布的样本,误以为这是“真实模式”,进而给生成器错误信号。
典型表现:生成图片多样性骤降,或出现周期性伪影(比如每 8 张图就重复一次纹理)。
实操建议:
• buffer_size 至少设为训练集大小的 1/4,小数据集不低于 1000
• 在 shuffle 后立刻加 repeat(),避免 epoch 边界暴露顺序
• 不要用 dataset.batch().shuffle(),必须 shuffle().batch(),否则 shuffle 的是 batch 而非样本










