AI 开发环境 Docker 搭建怎么配

冰川箭仙

冰川箭仙

2026-08-01

959人浏览

原创

关键配置:cpu需支持avx指令集(如i5-6xxx/ryzen 2000),内存≥16gb,ssd≥50gb,系统推荐ubuntu 20.04+;docker≥20.10、compose≥v2.23;ollama挂载数据目录,dify中ollama_base_url按平台填host.docker.internal或172.17.0.1。

ai 开发环境 docker 搭建怎么配

直接上关键配置,不绕弯。

硬件和系统基础要稳

  • CPU:必须支持 AVX 指令集(Intel i5-6xxx / AMD Ryzen 2000 起基本都满足),运行前执行 grep avx /proc/cpuinfo 确认
  • 内存:开发用 7B 模型建议留足 8GB 空闲,整套 Dify+Ollama 建议总内存 ≥16GB
  • 存储:SSD 至少预留 50GB,模型文件(如 qwen2.5:7b、deepseek-coder)单个就占 4–6GB
  • 系统:Linux(Ubuntu 20.04+)原生 Docker 性能最好;Windows/macOS 必须启用 WSL2 或 Docker Desktop,并确认已开启 GPU 支持(如需)

Docker 和配套工具装准

  • Docker Engine ≥20.10,Docker Compose ≥v2.23
  • GPU 加速必装 NVIDIA Container Toolkit(不是只装驱动),装完执行:
    sudo systemctl restart docker
    docker run --rm --gpus all nvidia/cuda:12.2.0-base-ubuntu22.04 nvidia-smi -L

    能列出 GPU 设备才算真正可用

    Docker Desktop
    Docker Desktop

    Docker Desktop 可用于构建容器化 PHP 开发环境,适合 Laravel、Symfony、WordPress 等项目统一运行依赖。

    下载
  • 配置国内镜像源(避免拉镜像卡死):编辑 /etc/docker/daemon.json,加入:
    {
      "registry-mirrors": ["https://docker.1ms.run", "https://mirror.baidubce.com"]
    }

    然后 sudo systemctl daemon-reload && sudo systemctl restart docker

容器启动时关键参数不能少

  • 共享内存不足会导致 DataLoader 卡顿或崩溃:加 --shm-size=8g
  • PyTorch 多进程 mmap 报错常见于锁页内存限制:加 --ulimit memlock=-1:-1
  • 防止 OOM Killer 杀进程:明确设 --memory=16g --memory-reservation=12g
  • GPU 容器必须带 --gpus all(或指定 --gpus device=0

模型服务与应用协同要点

  • Ollama 容器务必挂载数据目录(如 -v /home/docker/ollama:/root/.ollama),否则模型一重启就丢
  • Dify 若连本地 Ollama,.envOLLAMA_BASE_URL 要填 http://host.docker.internal:11434(macOS/Windows)或 http://172.17.0.1:11434(Linux)
  • OpenCode 或 vLLM 后端对接时,确保 API 地址指向容器内可解析的网络(推荐用 docker network create 自建 bridge 网络,服务间用容器名互通)

不复杂但容易忽略

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

docker docker compose dify

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

2023.07.24

421

4

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

1980

6

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

2434

6

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

984

7

Docker容器化部署与DevOps实践
Docker容器化部署与DevOps实践

本专题面向后端与运维开发者,系统讲解 Docker 容器化技术在实际项目中的应用。内容涵盖 Docker 镜像构建、容器运行机制、Docker Compose 多服务编排,以及在 DevOps 流程中的持续集成与持续部署实践。通过真实场景演示,帮助开发者实现应用的快速部署、环境一致性与运维自动化。

2026.02.11

138

16

Docker 容器部署
Docker 容器部署

本专题整合了Docker容器部署相关内容,阅读专题下面的文章了解更多详细操作教程。

2026.03.31

183

14

Java容器化部署与Docker实践教程合集
Java容器化部署与Docker实践教程合集

聚焦 Java 应用的容器化与云原生部署,讲解 Dockerfile 编写规范与 Java 应用镜像构建、多阶段构建(Multi-stage Build)减小镜像体积、Jib / Buildpacks 免 Dockerfile 镜像构建方案、JVM 容器感知参数(-XX:MaxRAMPercentage)配置、Docker Compose 编排多服务(应用 + MySQL + Redis)、容器健康检查与资源限制、Kubernetes

2026.05.11

237

26

Go Docker与容器化部署教程合集
Go Docker与容器化部署教程合集

聚焦 Go 应用的容器化部署优势与实践,讲解 Go 静态编译特性(CGO_ENABLED=0)与 scratch / distroless 极小基础镜像构建、多阶段 Dockerfile 编写规范、交叉编译生成目标平台二进制、镜像安全扫描(Trivy)与漏洞修复、Docker Compose 本地编排开发环境、Kubernetes Deployment / Service / ConfigMap 部署 Go 服务、健康检查(Livene

2026.05.15

183

24

Hyperf 项目部署运维与性能调优手册
Hyperf 项目部署运维与性能调优手册

聚焦 Hyperf 在生产环境的落地,包含 Docker 高效打包、Swoole 配置优化、常见的内存溢出(OOM)问题排查方法以及热更新方案。

2026.05.19

325

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Docker 官方文档
Docker 官方文档

共0课时 | 0人学习

宝塔 Docker 模块使用手册
宝塔 Docker 模块使用手册

共0课时 | 0人学习