pytorch显存“释放后仍被占用”是正常设计，并非bug；它不立即归还显存给系统，nvidia-smi数字不变属常态，关键指标是torch.cuda.memory_allocated()是否超限及能否成功分配新张量。
PyTorch显存“释放后仍被占用”不是bug，而是设计使然——它根本没打算立刻还给系统。你调用 del、torch.cuda.empty_cache() 甚至退出Python进程，nvidia-smi 或 Windows 任务管理器里显存数字没变，这非常正常。真正需要关注的不是“显示多少”，而是“是否还能分配新张量”。
为什么 torch.cuda.empty_cache() 不清空任务管理器数字
这个函数只清理 PyTorch 自己缓存池（cached memory pool）里“已释放但未归还”的空闲块，不影响以下三类真实占用：
-
torch.cuda.memory_allocated()返回的“正在用”的显存（比如模型参数、当前 batch 的输入/输出），empty_cache()对它完全无效 - 每个 CUDA 上下文启动时固定占用约 200–500 MB（驱动层开销），只要 Python 进程存在，这部分就一直挂着
- Windows 任务管理器显示的是 GPU 全局显存映射视图，包含驱动缓存、共享纹理、WDDM 桌面合成器预留等非 PyTorch 管理区域，和
memory_allocated完全不是一回事
哪些操作真能降低 nvidia-smi 显示值
想让 nvidia-smi 数字下降，必须触发底层显存归还。有效手段极少，且有代价：
Secure Python Code Sandbox
下载
安全 Python 代码沙箱：在隔离的沙箱中执行任意 Python 代码，预装 requests、NumPy、pandas 库。返回 stdout、stderr。
- 显式删除所有 GPU 张量引用：
del tensor+del model+torch.cuda.empty_cache()，再等几秒——有时会降，有时不降 - 强制销毁 CUDA 上下文：唯一可靠方式是终止整个 Python 进程（关掉 Jupyter kernel、杀掉
python.exe） - 在脚本末尾加
torch.cuda.synchronize()，确保所有异步操作完成，再调empty_cache()——对部分驱动版本有用
为什么不能依赖任务管理器判断显存是否够用
任务管理器或 nvidia-smi 的“Used”列是误导性指标。关键看：
-
torch.cuda.memory_allocated()：当前 PyTorch 正在用的显存（决定你能否.cuda()新张量） -
torch.cuda.memory_reserved()：PyTorch 缓存池总大小（决定后续分配是否需系统调用） - 实际报错信息：只有出现
CUDA out of memory才说明真的不够；数字高 ≠ 不能用
最常被忽略的一点：即使你把所有变量 del 干净，只要 Python 进程还在跑，CUDA 上下文就活着，那几百 MB 就永远挂在那里——这不是泄漏，是 PyTorch 和 NVIDIA 驱动协商好的行为。别盯着任务管理器数字焦虑，盯住 memory_allocated 和训练是否成功，才真正管用。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
