需采用ollama为本地模型引擎、openwebui为可视化前端的离线组合方案,通过wsl2+ubuntu、docker compose或纯宿主机三种路径实现零付费、全离线、数据不外泄的私人chatgpt式服务。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望在家中搭建一个无需付费、完全离线、数据不外泄的私人ChatGPT式服务,则需将Ollama作为本地大模型运行引擎,OpenWebUI作为可视化交互前端。二者协同工作,可绕过所有云端API依赖,在无网络或断网状态下持续提供类ChatGPT体验。以下是实现该目标的多种可行部署路径:
一、基于WSL 2 + Ubuntu的Windows原生兼容方案
该方案利用Windows Subsystem for Linux规避Windows平台对Ollama原生支持不足的问题,通过Linux子系统获得稳定、低延迟的模型加载与推理能力,适合长期驻留、注重隐私与静默运行的用户。
1、以管理员身份运行PowerShell,执行命令启用WSL功能与虚拟机平台:
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
2、重启电脑后,在PowerShell中执行:
wsl --set-default-version 2
3、前往Microsoft Store安装Ubuntu 22.04 LTS,首次启动时完成用户名与密码设置
4、在Ubuntu终端中依次执行:
sudo apt update && sudo apt upgrade -y
sudo apt install curl -y
5、运行官方安装脚本:
curl -fsSL https://ollama.com/install.sh | sh
6、启动Ollama服务后台运行:
ollama serve &
7、下载并验证模型(如Llama 3.2:3b):
ollama run llama3.2:3b
8、在Windows端安装Docker Desktop,确保服务已启动;随后执行OpenWebUI容器命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name open-webui ghcr.io/open-webui/open-webui:main
9、浏览器访问 http://localhost:3000,注册账号并选择已加载模型即可开始对话
二、Docker Compose一键编排方案
该方案将Ollama与OpenWebUI封装为统一服务单元,通过YAML配置实现端口、卷挂载、环境变量及网络策略的集中管理,适合希望复用配置、快速迁移或批量部署多模型环境的用户。
1、在Windows任意目录新建文件夹,创建名为 docker-compose.yml 的文本文件
2、写入以下内容(请将 D:\software\llms 替换为实际路径):
version: '3.8'
services:
ollama:
image: ollama/ollama:latest
ports:
- "11434:11434"
volumes:
- "D:\software\llms\ollama:/root/.ollama"
container_name: ollama
restart: always
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
volumes:
- "D:\software\llms\open-webui\data:/app/backend/data"
depends_on:
- ollama
ports:
- "3000:8080"
environment:
- "OLLAMA_BASE_URL=http://ollama:11434"
- "WEBUI_SECRET_KEY=your_secure_key_here"
- "HF_ENDPOINT=https://hf-mirror.com"
extra_hosts:
- "host.docker.internal:host-gateway"
restart: unless-stopped
统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
3、在该文件所在目录打开PowerShell,执行:
docker-compose up -d
4、等待约90秒后,检查容器状态:
docker ps
5、确认两个容器均显示 Up 状态后,访问 http://localhost:3000
三、纯宿主机直连模式(免Docker)
该方案跳过容器层,直接在Windows系统上安装Ollama桌面版,并使用Node.js运行OpenWebUI源码,适用于无法启用Docker或WSL、但具备基础开发环境的用户,部署后资源占用更低、调试更直观。
1、访问 https://github.com/ollama/ollama/releases 下载最新Windows安装包(.exe),双击完成安装
2、打开Windows终端(CMD或PowerShell),执行:
ollama --version
3、验证成功后,下载模型:
ollama run deepseek-r1-distill-llama:8b
4、打开新终端窗口,执行:
ollama serve
5、另起终端,克隆OpenWebUI源码:
git clone https://github.com/open-webui/open-webui.git
cd open-webui
6、安装依赖并构建前端:
npm install
npm run build
7、复制示例环境配置:
copy .env.example .env
8、编辑 .env 文件,修改关键行:
OLLAMA_BASE_URL=http://127.0.0.1:11434
WEBUI_SECRET_KEY=your_32_char_random_string
9、启动服务:
npm run start
10、浏览器访问 http://localhost:3000,完成初始化注册










