DeepSeek本地部署Docker教程

浅涛吖_7697

浅涛吖_7697

2026-08-05

811人浏览

原创

docker一键部署deepseek模型服务:先安装并验证docker(windows勾选wsl2,linux执行安装脚本),再运行ollama容器(挂载数据卷、启用gpu加速),接着拉取或导入deepseek-r1模型,最后启动openwebui容器(注意网络配置)实现web交互。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

deepseek本地部署docker教程

在Windows或Linux系统上用Docker一键启动DeepSeek模型服务,跳过编译与依赖冲突,直接获得可访问的API端点和Web交互界面。

安装Docker并验证运行环境

这一步操作起来很简单,直接把安装包下载运行就行,但必须确认虚拟化已启用,否则容器无法启动。

Windows用户前往Docker Desktop官网下载最新版安装程序,运行时勾选“Add shortcut to desktop”和“Enable WSL 2 backend”;Linux用户执行:curl -fsSL https://get.docker.com | sh,再运行sudo usermod -aG docker $USER并重新登录终端。

验证是否成功:docker run hello-world。如果看到“Hello from Docker!”说明基础环境就绪。

【必须重启终端或注销当前用户,否则docker命令会提示permission denied】

拉取并运行Ollama服务容器

Ollama是DeepSeek模型的运行时引擎,Docker方式部署能绕过Windows/Linux系统级权限问题,也避免Python环境污染。

执行以下命令启动Ollama服务:

docker run -d --name ollama -p 11434:11434 -v ollama-data:/root/.ollama -e OLLAMA_NO_CUDA=0 ollama/ollama

其中-v ollama-data:/root/.ollama将模型缓存持久化到本地卷,防止容器删除后重下12GB+模型;-e OLLAMA_NO_CUDA=0启用GPU加速(若你有NVIDIA显卡且已装nvidia-container-toolkit)。

检查容器是否健康:docker ps | grep ollama,状态应为“Up”。若显示“Restarting”,大概率是GPU驱动未就绪,此时删掉容器并去掉-e OLLAMA_NO_CUDA=0参数重试。

加载DeepSeek模型(R1或V3任选)

模型文件较大,首次拉取需稳定网络;国内用户建议配置镜像源,否则可能卡在99%。

Unified LLM Gateway - One API for 70+ AI models. Route to GPT, Claude, Gemini, Qwen, Deepseek, Grok and more
Unified LLM Gateway - One API for 70+ AI models. Route to GPT, Claude, Gemini, Qwen, Deepseek, Grok and more

统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。

下载

方法一:直接拉取官方镜像(推荐新手)

docker exec -it ollama ollama pull deepseek-r1:7b

方法二:离线导入(适合断网环境)

先从可信渠道获取deepseek-r1.Q4_K_M.gguf文件,放入宿主机目录如/models/deepseek-r1,再执行:

docker exec -it ollama mkdir -p /root/.ollama/models/deepseek-r1
docker cp /models/deepseek-r1/deepseek-r1.Q4_K_M.gguf ollama:/root/.ollama/models/deepseek-r1/
docker exec -it ollama ollama create deepseek-r1 -f /root/.ollama/models/deepseek-r1/Modelfile

注意:Modelfile需手动编写,内容为FROM ./deepseek-r1.Q4_K_M.gguf,否则ollama无法识别。

启动OpenWebUI提供网页对话界面

OpenWebUI让命令行模型变成浏览器可用的聊天窗口,支持历史记录、多模型切换和自定义系统提示词。

第一步:创建配置目录
mkdir -p ~/openwebui/config

第二步:运行OpenWebUI容器,并连接Ollama服务

docker run -d -p 3000:8080 --name openwebui \<br>
-v ~/openwebui/config:/app/backend/data \<br>
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \<br>
--restart=always \<br>
ghcr.io/open-webui/open-webui:main

Windows用户必须用host.docker.internal而非localhost,否则OpenWebUI无法访问Ollama容器;Linux用户需改用宿主机IP(如http://172.17.0.1:11434)。

第三步:打开浏览器访问http://localhost:3000,登录后在左下角模型选择器中点击“Refresh Models”,deepseek-r1就会出现在列表里。

相关专题

更多
k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

2023.07.24

625

4

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

4219

6

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

5057

6

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

1873

7

Docker容器化部署与DevOps实践
Docker容器化部署与DevOps实践

本专题面向后端与运维开发者,系统讲解 Docker 容器化技术在实际项目中的应用。内容涵盖 Docker 镜像构建、容器运行机制、Docker Compose 多服务编排,以及在 DevOps 流程中的持续集成与持续部署实践。通过真实场景演示,帮助开发者实现应用的快速部署、环境一致性与运维自动化。

2026.02.11

199

16

Docker 容器部署
Docker 容器部署

本专题整合了Docker容器部署相关内容,阅读专题下面的文章了解更多详细操作教程。

2026.03.31

351

14

Java容器化部署与Docker实践教程合集
Java容器化部署与Docker实践教程合集

聚焦 Java 应用的容器化与云原生部署,讲解 Dockerfile 编写规范与 Java 应用镜像构建、多阶段构建(Multi-stage Build)减小镜像体积、Jib / Buildpacks 免 Dockerfile 镜像构建方案、JVM 容器感知参数(-XX:MaxRAMPercentage)配置、Docker Compose 编排多服务(应用 + MySQL + Redis)、容器健康检查与资源限制、Kubernetes

2026.05.11

340

26

Go Docker与容器化部署教程合集
Go Docker与容器化部署教程合集

聚焦 Go 应用的容器化部署优势与实践,讲解 Go 静态编译特性(CGO_ENABLED=0)与 scratch / distroless 极小基础镜像构建、多阶段 Dockerfile 编写规范、交叉编译生成目标平台二进制、镜像安全扫描(Trivy)与漏洞修复、Docker Compose 本地编排开发环境、Kubernetes Deployment / Service / ConfigMap 部署 Go 服务、健康检查(Livene

2026.05.15

245

24

Hyperf 项目部署运维与性能调优手册
Hyperf 项目部署运维与性能调优手册

聚焦 Hyperf 在生产环境的落地,包含 Docker 高效打包、Swoole 配置优化、常见的内存溢出(OOM)问题排查方法以及热更新方案。

2026.05.19

365

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
腾讯元宝使用手册
腾讯元宝使用手册

共0课时 | 0人学习

DeepSeek手册
DeepSeek手册

共0课时 | 0人学习

phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习