vae必须手动实现重参数化与elbo损失，因tf.keras无现成vae层；编码器需输出z_mean和z_log_var，经sampling层可导采样z；kl项须用add_loss()或重写train_step()添加，避免坍缩；保存时应优先用save_weights_only=true。
TensorFlow 2.x 的 tf.keras 默认不提供现成的 VAE 层或训练循环，必须手动实现重参数化（reparameterization）和 ELBO 损失 —— 这是绝大多数初学者卡住的核心原因。
为什么不能直接用 tf.keras.layers.Dense 接出 latent z？
VAE 要求 latent 变量 z 是随机采样得到的，且该采样过程必须可导（以便反向传播）。直接用 Dense 输出 z 会丢失不确定性，退化为普通自编码器。
- 正确做法：让编码器输出两个向量 ——
z_mean和z_log_var，再通过自定义采样层生成z - 采样必须用
tf.random.normal+ 手动缩放，不能用np.random或 Pythonrandom（破坏计算图） - 重参数化公式是：
z = z_mean + exp(0.5 * z_log_var) * epsilon，其中epsilon ~ N(0,1)
class Sampling(tf.keras.layers.Layer):
def call(self, inputs):
z_mean, z_log_var = inputs
batch = tf.shape(z_mean)[0]
dim = tf.shape(z_mean)[1]
epsilon = tf.random.normal(shape=(batch, dim))
return z_mean + tf.exp(0.5 * z_log_var) * epsilon
compile() 时不能只传一个 loss，必须拆解 ELBO
VAE 的损失是变分下界（ELBO）的负值，由重构误差（如 MSE 或 BCE）和 KL 散度两部分组成。Keras 默认 loss 不支持「对中间变量（z_mean/z_log_var）施加额外约束」。
- 常见错误：把 KL 项写进自定义 loss 函数但没禁用自动梯度截断，导致 KL 不参与更新编码器
- 推荐做法：在模型子类中重写
train_step()，或使用add_loss()显式添加 KL 项 - KL 计算要避免数值不稳定：用
0.5 * tf.reduce_sum(tf.exp(z_log_var) + tf.square(z_mean) - 1 - z_log_var, axis=1)
若用 add_loss()，记得在编译时不传 loss 参数，否则会叠加两次损失。
训练时 batch size 过小会导致 KL 项坍缩（KL vanishing）
尤其在文本或高维图像上，当 decoder 重构能力弱或 encoder 过强时，模型倾向让 z_log_var → -∞，使 KL 项趋近于 0，z 退化为确定性表示。
- 缓解方法：对 KL 项加权重（β-VAE），例如在
add_loss()中乘beta = 0.5 - 也可用 KL annealing：从 0 开始逐步增大 β 到 1，需在
train_step()中动态控制 - 检查是否发生坍缩：监控训练中
tf.reduce_mean(z_log_var)是否持续下降并低于 -6
这个现象不会报错，但模型生成效果会明显变差 —— 生成样本多样性低、模糊，且 latent space 插值失效。
保存与加载必须用 save_weights_only=True 或自定义对象注册
因为 Sampling 层含随机操作，且模型通常以子类形式（tf.keras.Model 继承）实现，直接 model.save() 会失败，报错类似 "TypeError: Cannot serialize object"。
- 稳妥方式：只保存权重，加载时重建结构再调用
load_weights() - 若坚持保存完整模型，需在
Sampling类中实现get_config()和from_config()，并确保所有子层可序列化 - 注意：
tf.function装饰的train_step不会被保存，必须在加载后重新赋值
最易忽略的一点：即使你用了 @tf.function 加速训练，推理时仍要确保采样层处于 training=False 模式（否则每次调用结果不同），而 Keras 默认不保证这点 —— 必须显式传参或在 call 中判断。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
