windows本地部署ollama需指定非c盘安装路径并设置ollama_models环境变量指向d盘模型目录,再拉取qwen2.5:7b模型运行验证,最后通过api调用实现中文问答。

在Windows系统上本地部署Ollama运行开源大模型,需避开C盘爆满风险、绕过GitHub下载失败、确保模型能真正加载并响应提问,而不是卡在“pulling”或报错“GPU memory insufficient”。
下载与安装Ollama本体
访问 官方最新安装包地址,直接下载 OllamaSetup.exe。若 GitHub 访问失败,改用百度网盘备用链接:https://pan.baidu.com/s/5hQNkpPisOhXXg6ttn3VXpg--(提取码见分享页)。
双击运行 OllamaSetup.exe,默认安装会把程序本体写入 C 盘用户目录,但【模型文件默认存到 C:Users用户名.ollamamodels,极易填满系统盘】。这一步不做干预,后续拉取一个7B模型就可能让C盘红标告警。
为规避风险,推荐在安装前就指定非系统盘路径:将下载好的 OllamaSetup.exe 复制到 D:Ollama 文件夹,在该文件夹地址栏输入 powershell 并回车,执行命令:.\OllamaSetup.exe /DIR="D:\Ollama"。安装完成后,程序本体即落于 D:Ollama。
强制模型文件存到D盘(关键步骤)
打开“系统属性 → 高级 → 环境变量”,在“系统变量”区域点击“新建”:
变量名填 OLLAMA_MODELS,变量值填 D:OllamaModels(注意:路径必须全英文、无空格、【文件夹需提前手动创建好】)。
重启电脑或至少重启 Windows 终端(PowerShell/CMD),否则新环境变量不生效。这一步漏做,所有后续 ollama pull 命令仍会往 C 盘隐藏文件夹里塞模型。
验证服务是否跑起来
打开 PowerShell,输入:ollama --version。看到类似 ollama version 0.32.8 即说明命令行工具就绪。
再执行:ollama serve(后台服务启动命令)。若无报错,保持该窗口开启;也可让它后台运行——任务栏右下角会出现羊驼图标,鼠标悬停显示“Ollama is running”。
浏览器打开 https://www.php.cn/link/188b8a4c8450ae946afdf57ca3012ead,页面显示 Ollama is running,代表 HTTP API 服务已就位,这是后续所有调用的基础。
拉取并运行第一个中文大模型
推荐新手首选 qwen2.5:7b:中文理解强、4.7GB体积适中、对8GB显存或16GB内存的机器友好。
在 PowerShell 中执行:ollama pull qwen2.5:7b。首次拉取耗时取决于网络,进度条走完后自动解压至 D:OllamaModels。
拉取完成后,直接运行:ollama run qwen2.5:7b。终端进入交互模式,光标闪烁等待输入。此时输入“你好”,回车,模型应几秒内返回中文回复。
若卡住不动或报错 failed to load model,大概率是环境变量未生效或 D:OllamaModels 权限受限——检查该文件夹是否被杀毒软件拦截,或尝试用管理员身份运行 PowerShell 再试一次 pull 和 run。
用Python脚本调用本地模型(API方式)
安装 requests 库:pip install requests。
新建 test_api.py,粘贴以下内容:
import requests<br>url = "https://www.php.cn/link/188b8a4c8450ae946afdf57ca3012ead/api/chat"<br>data = {<br> "model": "qwen2.5:7b",<br> "messages": [{"role": "user", "content": "用三句话解释量子纠缠"}],<br> "stream": False<br>}<br>r = requests.post(url, json=data)<br>print(r.json()["message"]["content"])
保存后在终端执行:python test_api.py。成功时输出应为一段关于量子纠缠的中文解释,证明 OpenAI 兼容 API 已可用,可接入你自己的工具链或前端。











