必须本地部署minimax-m3模型：需下载350gb权重至指定路径，设置huggingface_hub_cache和hf_home双环境变量重定向缓存，安装vllm 0.5.0并启用awq量化，否则加载失败。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
你需要在自己的服务器或工作站上运行MiniMax-M3模型，而不是调用云端API，这就必须从Hugging Face完整下载开源权重文件、配置兼容的推理环境，并绕过默认缓存占满C盘的风险——整个过程涉及磁盘空间规划、环境变量强制重定向、vLLM版本锁定和量化参数硬编码，缺一不可。
下载M3模型权重到指定路径
打开终端，执行以下命令，将模型完整下载到本地硬盘的./models/MiniMax-M3目录：
huggingface-cli download MiniMaxAI/MiniMax-M3 --local-dir ./models/MiniMax-M3 --local-dir-use-symlinks False
这一步需要约350GB可用磁盘空间，【请提前确认目标分区剩余空间≥400GB】，否则下载中途会因磁盘写满而中断，且部分已下载分片无法被自动清理；使用--local-dir-use-symlinks False可避免Windows符号链接权限问题导致的文件损坏。
迁移Hugging Face缓存位置（防C盘爆满）
方法一：设置双环境变量强制接管缓存路径（推荐）
在Windows系统中，右键“此电脑”→“属性”→“高级系统设置”→“环境变量”，新建两个系统变量：
变量名：HUGGINGFACE_HUB_CACHE，变量值：G:\huggingface_cache
变量名：HF_HOME，变量值：G:\huggingface_cache
⚠️ 注意：两个变量必须同时设置且值完全一致，仅设其中一个会导致huggingface-cli与transformers库缓存路径不统一，引发模型加载失败。
方法二：临时覆盖（适合测试）
在执行下载命令前，直接在终端中运行：
set HUGGINGFACE_HUB_CACHE=G:\huggingface_cache && set HF_HOME=G:\huggingface_cache
该方式无需重启系统，但每次新开终端都需重新执行，不适合长期部署。
安装vLLM并启动API服务
第一步：安装指定版本vLLM与PyTorch依赖
pip install vllm==0.5.0 torch>=2.3.0
第二步：确认GPU驱动与CUDA版本匹配。vLLM 0.5.0要求CUDA 12.1+，若nvidia-smi显示驱动版本＜535，则必须升级显卡驱动，否则服务启动时会报CUDA driver version is insufficient错误。
第三步：启动OpenAI兼容API服务
python -m vllm.entrypoints.openai.api_server --model ./models/MiniMax-M3 --tensor-parallel-size 2 --dtype float16 --quantization awq --max-model-len 262144 --gpu-memory-utilization 0.95 --port 8000
其中--tensor-parallel-size 2表示使用2张GPU并行推理，若单卡部署请改为1；--quantization awq为必需参数，M3官方未提供GGUF或FP16原生权重，【跳过此参数将导致模型加载失败】；--gpu-memory-utilization 0.95是安全上限，超过0.97易触发OOM Killer强制杀进程。
