tf.config.threading.set_intra_op_parallelism_threads没生效是因为设置晚于tensorflow初始化，必须在import tensorflow as tf之后、任何tf操作（如tf.constant、@tf.function、模型构建）之前调用；若已执行tf操作再设置则无效且不报错。
tf.config.threading.set_intra_op_parallelism_threads没生效？检查是否晚于TF初始化
这个函数只在 import tensorflow as tf 之后、任何 TensorFlow 操作执行前才有效。哪怕你只调了一次 tf.constant(1) 或定义了 @tf.function，再调它就完全失效，且不报错。
常见错误顺序：
- 先
import tensorflow as tf - 然后
model = tf.keras.Sequential(...)（触发内部图构建） - 最后才写
tf.config.threading.set_intra_op_parallelism_threads(1)→ 无效
正确顺序必须是：
import tensorflow as tf tf.config.threading.set_intra_op_parallelism_threads(1) tf.config.threading.set_inter_op_parallelism_threads(1) <h1>此时才能创建张量、模型、@tf.function等</h1><p>x = tf.random.normal((1000, 1000)) </p>
为什么设了线程数还是CPU打满？优先级被环境变量覆盖了
环境变量 TF_NUM_INTRAOP_THREADS 和 TF_NUM_INTEROP_THREADS 的优先级高于代码设置。Dockerfile、~/.bashrc、Slurm job script 或 PyCharm 的运行配置里残留的 export 都可能导致代码里的 set_* 被静默覆盖。
验证方式：
- 启动 Python 后立即运行
import os; print(os.environ.get("TF_NUM_INTRAOP_THREADS")) - 再运行
print(tf.config.threading.get_intra_op_parallelism_threads()) - 两者不一致，说明环境变量起了作用
推荐做法：统一用环境变量启动，例如：
TF_NUM_INTRAOP_THREADS=2 TF_NUM_INTEROP_THREADS=2 python train.py
intra_op 和 inter_op 该设多少？别盲目填物理核心数
这两个参数正交作用，总并发线程数 ≈ intra_op × inter_op（实际受 OS 调度影响，非严格相乘）。设得过高反而因上下文切换拖慢速度。
-
intra_op_parallelism_threads控制单个算子（如tf.matmul）内部用几个线程 —— 设为1最稳妥，适合调试或避免调度开销 -
inter_op_parallelism_threads控制多少个独立 op 可并发调度 —— 在 32 核机器上设64不会提速，反而更慢；设2～4更适合混部或容器环境 - 设为
0或负数会直接抛ValueError: Number of threads must be positive
CPU高但GPU利用率低？问题不在TF线程数，而在数据流水线
如果 nvidia-smi 显示 GPU 利用率长期低于 30%，说明瓶颈在 CPU 数据供给，不是 TF 线程太多 —— 此时调 tf.config.threading 没用，该优化 tf.data。
- 确保用了
.map(..., num_parallel_calls=tf.data.AUTOTUNE) - 加
.prefetch(tf.data.AUTOTUNE)让数据预加载与 GPU 计算重叠 - 避免在
.map()中混用 NumPy 或 PIL —— 必须用纯 TensorFlow 函数，否则无法并行
真正容易被忽略的是：线程限制必须在所有 TF 初始化动作之前完成，包括 tf.distribute.Strategy 实例化、甚至 tf.keras.Model 构造 —— 它们内部都会触发 eager 执行或图准备，一旦发生，就锁死了线程配置。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
