必须通过驱动层配置与运行时调度双路径干预才能实现多gpu协同，包括验证gpu识别、禁用冲突的硬件加速gpu计划、设置cuda_visible_devices、配置pytorch ddp及nvidia控制面板渲染策略。
当你在本地部署AI推理服务或运行高负载渲染任务时，单张GPU显存频繁爆满、计算单元长期95%以上占用，而另一张同型号显卡却闲置在设备管理器里——这不是硬件浪费，而是负载未均摊的典型症状。必须通过驱动层配置与运行时调度双路径干预，才能让多GPU真正协同出力。
确认硬件与驱动基础状态
先验证系统是否已识别全部GPU：打开命令提示符（管理员），执行 wmic path win32_videocontroller get name,adapterram。若只列出一张卡，说明PCIe插槽供电不足或BIOS中未启用Above 4G Decoding——【此开关未开启会导致第二张GPU完全不被Windows枚举】。
检查NVIDIA驱动版本：右键桌面→“NVIDIA 控制面板”→左下角“系统信息”→确认驱动版本≥535.98（2024年Q3后发布版本才完整支持多卡显存池化）。
禁用Windows自带的“硬件加速GPU计划”：设置→系统→显示→图形设置→关闭该选项。它会强制接管GPU调度权，与专业负载均衡策略冲突。
启用CUDA_VISIBLE_DEVICES多卡可见性
这一步决定程序能否“看见”所有GPU：在运行AI任务前，必须设置环境变量。以双RTX 4090为例，在CMD中执行：
set CUDA_VISIBLE_DEVICES=0,1
注意：数字顺序对应GPU物理插槽顺序，非设备管理器中显示顺序。若插在PCIe x16_1和x16_2插槽，通常0号为x16_1卡。错误设置会导致PyTorch仅分配到单卡——【一旦程序启动后无法动态修改此变量，必须重启进程】。
验证是否生效：Python中运行 import torch; print(torch.cuda.device_count())，输出应为2。
PyTorch分布式训练负载均衡配置
这是实现算力均摊的核心环节，需按顺序执行：
- 初始化进程组：调用
dist.init_process_group(backend='nccl', init_method='tcp://127.0.0.1:29500', rank=0, world_size=2)，其中world_size必须严格等于GPU数量； - 模型封装：将模型传入
DDP(model.cuda(), device_ids=[rank])，rank由进程自动获取； - 数据分片：使用
DistributedSampler包裹DataLoader，否则各卡会加载完全相同的数据批次，失去并行意义； - 梯度同步：DDP内部自动完成AllReduce操作，无需手动调用
torch.distributed.all_reduce。
关键陷阱：若使用DataLoader的num_workers＞0，必须设置 pin_memory=True，否则多进程数据加载会阻塞GPU通信队列，导致卡0忙死、卡1空转。
NVIDIA控制面板全局渲染分配策略
方法一：针对OpenGL/DirectX游戏类应用
打开NVIDIA控制面板→3D设置→“全局设置”→“首选图形处理器”选“自动选择”→“多显示器/多GPU设置”中勾选“启用多GPU加速”。此模式下驱动自动按帧交替（AFR）分配渲染任务，但仅对全屏独占应用生效。
方法二：针对专业渲染软件（如Blender Cycles）
在软件内启用CUDA设备列表时，手动勾选全部GPU设备。此时NVIDIA驱动会基于UVM模块实时监控各卡显存占用与计算负载，动态迁移纹理缓存块——【必须确保两卡显存容量完全一致，否则UVM拒绝启用跨卡内存池】。
方法三：强制绑定特定程序到指定GPU
在NVIDIA控制面板→“程序设置”→添加你的.exe文件→“选择首选图形处理器”中指定“高性能NVIDIA处理器”，再点击“添加”按钮右侧下拉箭头→选择具体GPU编号。此操作绕过自动调度，适合调试单卡瓶颈场景。
