优先选用qwen2.5-7b-instruct:需显存≥8gb或量化版适配6gb,hugging face下载后填绝对路径,config.yaml中必须配置backend: vllm以提速3倍;备选phi-3.5-mini-instruct支持低配设备;慎用llama3-8b-chinese-chat,因tokenizer不兼容易致乱码卡死。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

想让OpenClaw本地运行时中文对话更自然、响应更准,得挑一个专为中文优化且轻量易部署的模型,而不是直接套用英文主力模型。
优先选Qwen2.5-7B-Instruct
第一步:确认你的显存≥8GB(如RTX 4090/3090)或使用量化版本(Qwen2.5-7B-Instruct-GGUF-Q4_K_M)跑在6GB显存卡上。
第二步:从Hugging Face下载模型文件,路径必须是完整绝对路径,例如/home/user/models/Qwen2.5-7B-Instruct;相对路径会导致OpenClaw启动时报Model not found错误。
第三步:修改config.yaml中llm部分,填入:
model: /home/user/models/Qwen2.5-7B-Instruct<br>backend: vllm<br>temperature: 0.3<br>top_p: 0.9
这一步不能漏掉backend: vllm——它能让Qwen2.5在本地推理速度提升3倍以上,否则默认用transformers加载会卡顿明显。
PHP中文网提供Qwen-1.0.2.6 MacOS官方客户端下载,专为苹果电脑优化的阿里通义千问桌面应用。本版本深度适配Mac系统,支持本地高效运行与多模态交互,集成超长上下文处理、AI写作、代码生成及智能体构建等核心功能。通过官方渠道下载,确保安全稳定,助您实现智能办公与创作升级。
备选方案:Phi-3.5-mini-instruct(适合低配设备)
方法一:适用于Mac M1/M2或4GB显存N卡用户
直接拉取GGUF格式:ollama run phi3.5:mini-q4_k_m → 启动后访问http://localhost:11434 → 在OpenClaw配置里填base_url: http://localhost:11434/api/chat,模型名写phi3.5:mini。
方法二:Windows用户免conda安装
下载Phi-3.5-mini-instruct-gguf.Q4_K_M.gguf → 放进models/目录 → 配置项设为backend: llama.cpp → 【必须把n_gpu_layers设为32,否则CPU fallback会拖慢到每句响应超8秒】。
慎用模型:Llama3-8B-Chinese-Chat
这个模型虽标榜“中文优化”,但实测在OpenClaw中会出现token错位——输入“你好”返回乱码符号,根本原因是其tokenizer与OpenClaw默认的chat template不兼容。
除非你手动修改chat_template字段并重导出GGUF,否则【不要直接填模型路径启动】,否则首次对话就会卡死在“thinking…”状态无法退出。
验证方式:启动前先用llama.cpp/examples/main -m models/llama3-8b-chinese-chat.Q4_K_M.gguf -p "你好"单独测试输出是否正常。









