双卡rtx 4090部署deepseek v4需启用nvlink直连、配置cuda统一显存视图、调优vllm块参数组合，并强化pcie通道与主板供电稳定性，否则张量并行失效、显存无法统一寻址、moe专家调度异常。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
一、确认NVLink物理连接与驱动兼容性
RTX 4090双卡部署DeepSeek V4需确保两张GPU通过NVLink桥接器实现低延迟、高带宽直连，否则将退化为PCIe通信模式，显存无法统一寻址，导致张量并行失效。实测表明，未启用NVLink时双卡间P2P带宽仅64 GB/s，而NVLink Gen4可达800–900 GB/s双向带宽，对V4模型中高频的专家路由（MoE）交换至关重要。
1、关机断电后安装官方认证的NVLink桥接器（需匹配RTX 4090双槽间距，推荐使用NVIDIA原装BRIDGE-NVLINK-4090）。
2、开机进入系统，执行命令验证桥接状态：nvidia-smi topo -m，若输出中两GPU间显示“NV1”或“NODE”连接而非“PHB”，则桥接成功。
3、检查驱动版本是否为535.98 Studio驱动或更高版本，禁用Windows自动更新，避免536.67等存在双卡显存映射BUG的版本；Linux用户须运行sudo apt install nvidia-driver-535 nvidia-dkms-535并重启。
二、启用统一显存视图与CUDA环境配置
NVLink启用后需在CUDA层面激活统一虚拟地址空间（UVA），使vLLM或Transformers能将双卡显存视为单一逻辑池，避免手动分片导致的负载不均与碎片化。此步骤直接影响DeepSeek V4中专家权重（Experts）的跨卡调度效率。
1、设置环境变量强制启用UVA：export CUDA_VISIBLE_DEVICES=0,1 && export CUDA_UVA=1。
2、验证UVA可用性：运行cuda-memcheck --tool initcheck python -c "import torch; print(torch.cuda.memory_summary())"，若无UVA相关报错且显存总量显示为48GB，则配置生效。
3、在启动vLLM服务前，指定NCCL通信后端并绑定GPU拓扑：export NCCL_P2P_DISABLE=0 && export NCCL_IB_DISABLE=1，防止RDMA干扰NVLink路径。
三、显存利用率调优与块参数组合配置
DeepSeek V4采用稀疏MoE架构，其显存占用呈现强非线性特征，尤其在长上下文推理时KV缓存易引发局部爆满。单纯提高--gpu-memory-utilization值会导致block分配失衡，必须配合--block-size与--max-num-batched-tokens协同调整。
1、使用实测最优参数组合启动API服务：python -m vllm.entrypoints.openai.api_server --model deepseek-ai/DeepSeek-V4 --tensor-parallel-size 2 --gpu-memory-utilization 0.92 --block-size 32 --max-num-batched-tokens 4096 --enable-prefix-caching。
2、若出现OOM错误，优先降低--max-num-batched-tokens至2048，而非下调--gpu-memory-utilization，因后者影响kernel复用率。
3、监控实时显存分布：执行watch -n 1 "nvidia-smi --query-compute-apps=pid,used_memory, gpu_name --format=csv"，确认两卡显存占用差值小于1.5GB，否则需检查模型权重是否被正确分发至双卡。
四、PCIe通道与主板供电稳定性加固
RTX 4090单卡峰值功耗达450W，双卡瞬时负载超900W，且NVLink持续通信依赖稳定PCIe根复合体供电。主板VRM散热不足或PCIe插槽供电策略异常将导致NVLink链路降速甚至中断，表现为nvidia-smi topo -m中连接类型由“NV1”变为“PHB”。
1、进入BIOS，将两PCIe x16插槽均设为“Gen5”模式，并关闭“PCIe ASPM L1 Substates”节能选项。
2、确认主板VRM散热风扇全速运行，使用红外测温仪检测供电模块温度，确保低于95℃（ASUS ProArt X670E-CREATOR WIFI实测安全阈值）。
3、电源需满足单路+12V输出≥108A，实测海韵PRIME TX-1300W钛金在双4090满载下纹波
五、禁用Windows图形子系统以释放显存资源
Windows桌面窗口管理器（DWM）默认占用每张RTX 4090约1.2–1.8GB显存，该部分不可被CUDA进程回收，严重压缩DeepSeek V4可用显存空间。尤其在双卡环境下，DWM可能独占其中一张卡的全部帧缓冲区，导致张量并行初始化失败。
1、以管理员身份运行PowerShell，执行：Stop-Service -Name "UxSms" -Force && Set-Service -Name "UxSms" -StartupType Disabled。
2、禁用桌面合成：在注册表路径HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\Dwm下新建DWORD值“EnableMmx”，设为0。
3、重启后执行taskkill /f /im dwm.exe，验证显存释放效果：nvidia-smi应显示每卡Free Memory增加≥1.5GB。
