numpy无法直接访问gpu显存数据，因硬件隔离导致其仅能操作cpu内存；调用.cuda()张量的.numpy()会报错，必须先.cpu()将数据复制到cpu内存，再转为numpy数组。
NumPy根本看不到GPU显存里的数据
这不是PyTorch设的门槛，是硬件层面的硬性隔离。NumPy运行在CPU上，它只能访问CPU内存（RAM）地址空间；而CUDA张量的数据实际存放在GPU显存（VRAM）里，这块内存连操作系统都“看不见”——更别说NumPy这种纯CPU库了。你调用 .numpy() 时，PyTorch底层尝试把GPU地址传给NumPy，结果直接触发 TypeError: can't convert cuda:0 device type tensor to numpy。
.cpu() 干了三件事，缺一不可
它不是简单“切换设备”，而是一次完整的数据搬运：
- 在CPU内存中分配一块新缓冲区，大小和原张量一致
- 通过PCIe总线把数据从GPU显存复制过去（带宽瓶颈在这里）
- 构造一个新的、设备为
cpu的张量对象，指向这块CPU内存
所以 gpu_tensor.cpu() 返回的是副本，原始GPU张量不受影响。传输耗时取决于张量大小：100MB约6ms，1GB约61ms（PCIe 3.0 x16）。
哪些操作必须先 .cpu()？
不只是 .numpy()，任何需要CPU上下文的操作都得过这一关：
-
plt.imshow(gpu_tensor.cpu())—— matplotlib不认CUDA张量 -
torch.save(gpu_tensor.cpu(), 'x.pt')—— 直接保存CUDA张量可能导致加载失败 -
for x in gpu_tensor.cpu(): ...—— Python迭代器只能遍历CPU张量 -
print(gpu_tensor.cpu())—— print内部会触发CPU转换
要不要加 .detach()？
如果你的GPU张量参与过梯度计算（requires_grad=True），建议写成 gpu_tensor.detach().cpu().numpy()：
-
.detach()切断计算图，避免意外保留梯度历史 -
.cpu()负责数据搬运，不改变梯度状态 - 顺序不能颠倒：先
.detach()再.cpu()，否则.cpu()后仍带梯度（虽然转成NumPy后梯度信息自动丢失）
真正容易被忽略的是：这个过程必然产生一次完整内存拷贝，且拷贝后的NumPy数组和原始GPU张量完全独立——改一边，另一边绝不会变。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
