tensorflow计算速度慢90%源于数据流水线、图模式和gpu调度三处失误：map()因num_parallel_calls=none串行阻塞；@tf.function未正确包裹train_step或输入shape不稳导致反复retracing；gpu显存占满但利用率低因未启用混合精度、batch_size过小或同步操作拖累。
TensorFlow 计算速度远低于预期，90% 的情况不是模型或硬件问题，而是数据流水线卡在 map()、@tf.function 没生效、或 GPU 资源根本没调度起来。
tf.data.map() 为什么越跑越慢？
典型现象：前几轮训练快，之后 map() 耗时陡增，nvidia-smi 显示 GPU-Util 长期低于 20%，CPU 却打满。根本原因不是预处理逻辑重，而是 num_parallel_calls 默认为 None，强制所有 tf.io.read_file、tf.image.decode_jpeg 或 tf.py_function 串行执行。
- 必须显式设置
num_parallel_calls=tf.data.AUTOTUNE，别写死数字（不同机器核心数不同） - 如果用了
tf.py_function，不加num_parallel_calls就自动退化为单线程 - 避免在
map()里做重 IO：比如每次读 config 文件、查数据库——提前加载到内存或用tf.lookup.StaticHashTable -
cache()必须放在map()后、shuffle()前；小数据集可用内存缓存，大数据集改用cache('/path/to/disk')
为什么 @tf.function 加了反而更卡？
常见错误是把 @tf.function 加在训练循环外层（如整个 for epoch in range(...)），或者输入 shape 不固定导致反复 retracing。日志里出现 Retracing is expensive 就是明确信号。
Python 3.14.2是Python编程语言在2025年12月5日发布的稳定版本，属于3.14系列的第二个维护更新。该版本包含了18项修复，重点解决了多进程、数据类及正则表达式等模块的回归问题，并修复了CVE-2025-12084等安全漏洞。此版本标志着自由线程模式（移除GIL）正式获得官方支持，是Python发展的重要里程碑。
- 只对「前向+反向+参数更新」这一整段 step 逻辑加
@tf.function，例如封装成train_step(x, y) - 禁止在
@tf.function内部调用print()、list.append()等 Python 副作用操作 - 动态 shape 输入必须声明
input_signature，例如：@tf.function(input_signature=[tf.TensorSpec(shape=[None, 224, 224, 3], dtype=tf.float32)]) - 不要在训练循环中动态改
batch_size，warmup 阶段用小 batch 也会触发多次 tracing
GPU 显存够但算力闲置，怎么破？
显存占用高、GPU-Util 却上不去，说明计算图没优化、数据格式低效、或 kernel launch 开销压倒实际计算。这不是显卡不行，是 TensorFlow 没真正“驱动”它。
- 开启混合精度：
policy = tf.keras.mixed_precision.Policy('mixed_float16'); tf.keras.mixed_precision.set_global_policy(policy) - 确认
batch_size足够大——太小会导致 kernel 启动开销占比过高，尤其对小模型 - 禁用
tf.debugging.assert_*和tf.print()，它们插入同步点，强制 CPU/GPU 等待 - 检查是否误设
tf.config.experimental.set_memory_growth(True)却没配allow_growth=True，导致 fallback 到 CPU
训练多轮后越来越慢，clear_session() 该怎么用？
在 Q-learning、多 episode 循环等场景下，反复 model.save() 却不清理状态，会导致默认图、变量引用、梯度路径持续累积，后续 train_on_batch() 越来越卡。
- 必须在
model.save()**完成之后**立即调用tf.keras.backend.clear_session() - 不能在
save()前调用，否则模型权重和图结构丢失，后续无法继续训练 -
del model没用，它只删 Python 引用，不释放 TensorFlow 后端状态 - 每个 agent（如
left_ball/right_ball）保存后都要单独清一次 session
最容易被忽略的点：prefetch() 放错位置、cache() 放错顺序、@tf.function 包裹范围不对——这三处只要错一个，GPU 就大概率在空转。优化不是堆参数，而是让每一步都对齐硬件执行模型。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
