TensorFlow 2.x 中不能直接继承抽象基类 tf.keras.optimizers.Optimizer，官方弃用手动实现 _create_slots/_apply_dense 的 TF 1.x 方式；推荐用函数式自定义梯度处理逻辑，复用 get_gradients 和 apply_gradients，避免继承带来的状态管理、序列化及图模式兼容性问题。
TensorFlow 2.x 里不能继承 Optimizer 类——这是最常踩的坑
直接继承 tf.keras.optimizers.Optimizer 在 TF 2.9+ 会报 TypeError: Can't instantiate abstract class Optimizer，因为该类已改为抽象基类，且内部结构彻底重构。官方明确弃用“手动继承 + 实现 _create_slots/_apply_dense”这套 TF 1.x 老路。你现在看到的旧教程（尤其是基于 TF 1.x 或早期 2.x 的）基本都失效了。
真正可行的路径只有一条：继承 tf.keras.optimizers.Optimizer 的子类 tf.keras.optimizers.Optimizer（没错，它自己就是抽象基类），但必须完整实现所有抽象方法，且要严格匹配 TF 2.10+ 的签名和状态管理逻辑——这极容易出错。更现实的做法是绕过继承，改用函数式自定义更新逻辑。
推荐做法：用 tf.keras.optimizers.Optimizer 的 apply_gradients + 自定义更新函数
不碰继承，而是复用现有优化器（如 SGD 或 Adam）的梯度计算流程，在 apply_gradients 前插入你的规则。这是 TF 官方文档实际鼓励的方式，稳定、可调试、兼容 eager mode。
- 先调用
optimizer.get_gradients(loss, vars)获取原始梯度 - 用你自己的逻辑处理梯度（比如裁剪、加噪声、按层缩放）
- 再调用
optimizer.apply_gradients(zip(gradients, vars))
示例：实现一个带梯度符号扰动的 SGD：
def custom_apply_grads(optimizer, loss, vars):
grads = optimizer.get_gradients(loss, vars)
# 只对权重（非 bias）加 sign 扰动
perturbed = [
g + 0.01 * tf.sign(g) if 'kernel' in v.name else g
for g, v in zip(grads, vars)
]
return optimizer.apply_gradients(zip(perturbed, vars))
<h1>在训练 step 中调用</h1><p>with tf.GradientTape() as tape:
pred = model(x)
loss = loss_fn(y, pred)
vars = model.trainable_variables
custom_apply_grads(opt, loss, vars)
</p>
如果真要继承——必须实现全部抽象方法且注意状态变量注册
TF 2.10+ 的 Optimizer 要求你显式声明所有状态变量（如 beta_1, step），并重写 build、update_step 和 get_config。漏掉任一环节都会在 model.compile() 或保存模型时崩溃。
让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac，无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启：辅助功能 + 屏幕录制权限
-
build(self, var_list)：必须为每个var调用self.add_variable_from_reference(var, 'm')注册状态（不能用tf.Variable直接创建） -
update_step(self, grad, var)：接收单个梯度和变量，返回更新后的变量值（不是原地修改） -
get_config(self)：必须返回可序列化的字典，否则model.save()失败
哪怕只是想复刻 SGD，也要重写全部逻辑——没有捷径。官方 SGD 源码里有 200+ 行，不是抄几个函数就能跑通的。
别忽略 tf.function 兼容性和梯度跟踪限制
自定义逻辑一旦进 @tf.function，所有张量操作必须是可追踪的。常见翻车点：
- 用 Python
if判断张量值（应改用tf.cond） - 在
update_step中调用numpy()或打印print()（会断图） - 梯度被
tf.stop_gradient错误包裹，导致后续层不更新
调试建议：先关掉 @tf.function，用 eager mode 跑通逻辑；确认每一步输出 shape 和 dtype 正确后，再包上装饰器。很多“不生效”的问题，其实只是 eager 下看着对，一进 graph 就静默失败。
真正难的从来不是写几行更新公式，而是让状态变量被 optimizer 正确识别、被 checkpoint 正确保存、被分布式策略正确分片——这些细节藏在源码深处，改错一个 add_variable_from_reference 调用位置，模型就可能无法加载。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
