如何监控本地运行jev模型的显存占用_使用nvidiasmi与监控工具查看方法-人工智能-PHP中文网

显存耗尽导致jev模型崩溃是因瞬时峰值超物理上限，需用nvidia-smi实时监控（watch -n 1或-n 1），关注used值（不含pytorch预留显存），结合pid定位python进程，并在90%阈值时调用torch.cuda.empty_cache()释放缓存。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如何监控本地运行jev模型的显存占用_使用nvidiasmi与监控工具查看方法

你在本地运行 JEV 模型（如 Z-Image-ComfyUI 中集成的 JEV-Turbo 类扩散模型）时，显存突然耗尽、进程被系统强制杀死（Killed）、生成任务卡死无响应——这些问题不是模型写错了，而是显存峰值超出了物理上限，而你直到崩溃那一刻才“看见”。

nvidia-smi 基础实时监控

打开终端（Jupyter 中新建 Terminal，或本地 PowerShell/CMD/Shell），直接执行：

watch -n 1 nvidia-smi

该命令每秒刷新一次完整 GPU 状态。注意看表格中 Memory-Usage 行：Used 和 Total 的数值单位是 MiB，例如 19840MiB / 24576MiB 表示已用 19.4GB，总显存 24GB。这个 Used 是操作系统级真实物理占用，【它不包含 PyTorch 异步分配器预留但未提交的显存，因此看到还有空余≠安全】。

若终端不支持 watch（如 Windows CMD），改用：

nvidia-smi -l 1

定位 JE V 模型具体进程

JEV 模型通常以 Python 进程运行（如 comfyui/main.py 或一键启动脚本），但 nvidia-smi 默认不显示进程名，只显示 PID。你需要两步关联：

第一步：运行 nvidia-smi --query-compute-apps=pid,used_memory --format=csv，获取当前占用显存的 PID 列表；

第二步：对每个 PID 执行 ps -p [PID] -o pid,ppid,cmd（Linux/macOS）或 tasklist /fi "pid eq [PID]"（Windows），确认该进程是否为 python 启动的 JEV 工作流；

⚠️ 注意：ComfyUI 多工作流并行时，多个 python 进程可能共用同一 GPU，此时需结合启动路径（如是否含 comfyui、z-image-turbo 字样）判断归属。

Local STT (Nvidia Parakeet + Whisper Support)

本地语音转文字，支持可选后端：Parakeet（精度最高）或 Whisper（速度最快，支持多语言）。

下载

Python 脚本自动轮询显存

方法一：轻量级 subprocess 调用（无需额外依赖）

在 Jupyter Notebook 或 .py 文件中粘贴运行：

import subprocess, time
for _ in range(30):
  result = subprocess.run(['nvidia-smi', '--query-gpu=memory.used,memory.total', '--format=csv,noheader,nounits'], capture_output=True, text=True)
  if result.returncode == 0:
    used, total = map(int, result.stdout.strip().split(', '))
    print(f"[{time.strftime('%H:%M:%S')}] 显存使用: {used} / {total} MiB ({used/total*100:.1f}%)")
  time.sleep(1.5)

方法二：用 GPUtil 库（需先 pip install gputil）

from GPUtil import getGPUs
gpu = getGPUs()[0]
print(f"GPU {gpu.id}: {gpu.memoryUsed}MiB / {gpu.memoryTotal}MiB")

GPUtil 返回更简洁，但底层仍调用 nvidia-smi，且不兼容某些容器化环境；subprocess 方式更通用、更贴近系统真相。