Docker 容器怎么在容器中使用宿主机的 GPU 硬件资源

落芳君_1244

落芳君_1244

2026-08-18

741人浏览

原创

核心是安装nvidia container toolkit并配置docker,再通过--gpus参数声明gpu使用方式;需先确保宿主机驱动、cuda和docker正常,镜像须含cuda工具包。

docker 容器怎么在容器中使用宿主机的 gpu 硬件资源

要让 Docker 容器使用宿主机的 GPU,核心是把 GPU 设备、驱动和 CUDA 库“透传”进容器,并确保容器内能识别和调用。这不是 Docker 原生支持的功能,必须依赖 NVIDIA 提供的工具链(针对 NVIDIA GPU)或 ROCm(针对 AMD GPU)。以下以最主流的 NVIDIA GPU 为例,分三步讲清楚怎么做。

确认宿主机 GPU 环境已就绪
容器能否用 GPU,前提全是宿主机的底子是否打牢:

  • 运行 nvidia-smi 能正常输出 GPU 列表和驱动版本(说明驱动已安装且工作正常);
  • 驱动版本需与你要用的 CUDA 版本兼容(例如 CUDA 12.x 通常要求驱动 ≥ 525.60.13);
  • Docker 本身已安装并正在运行(systemctl is-active docker 返回 active)。

安装 NVIDIA Container Toolkit
这是当前推荐的标准方式(取代旧版 nvidia-docker2),它把 GPU 支持集成进 Docker 原生命令中:

  • Ubuntu/Debian:
    curl -sL https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
    distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
    curl -sL https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
    sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit
    sudo systemctl restart docker
  • 安装后验证:docker info | grep -i runtime 应看到 nvidia 在列表中。

启动容器时声明 GPU 使用方式
不用改 Dockerfile,也不用写复杂挂载,直接在 docker run 或 docker-compose.yml 中指定:

  • 使用全部 GPU:docker run --gpus all nvidia/cuda:12.2.0-base-ubuntu22.04 nvidia-smi;
  • 只用第 0 块 GPU:docker run --gpus '"device=0"' ...;
  • 限制显存为 4GB(需驱动 ≥ 418.81):docker run --gpus '"device=0,memory=4096"' ...;
  • Docker Compose 写法(v2.23+):
    services:
      app:
        image: nvidia/cuda:12.2.0-base
        deploy:
          resources:
            reservations:
              devices:
                - capabilities: [gpu]

    注意:镜像内需含 CUDA 工具包(如 nvidia/cuda 官方镜像),纯 Alpine 或自建基础镜像要手动装 cuda-toolkit 和 cudnn。

    Dolphindb Docker
    Dolphindb Docker

    自动化 DolphinDB Docker 部署,支持自动架构检测(ARM64/x86_64),智能内存分配(50% 规则)以及完整数据持久化。

    下载

不复杂但容易忽略

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

docker docker 容器

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

2023.07.24

705

4

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

5079

6

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

6037

6

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

2293

7

Docker容器化部署与DevOps实践
Docker容器化部署与DevOps实践

本专题面向后端与运维开发者,系统讲解 Docker 容器化技术在实际项目中的应用。内容涵盖 Docker 镜像构建、容器运行机制、Docker Compose 多服务编排,以及在 DevOps 流程中的持续集成与持续部署实践。通过真实场景演示,帮助开发者实现应用的快速部署、环境一致性与运维自动化。

2026.02.11

239

16

Docker 容器部署
Docker 容器部署

本专题整合了Docker容器部署相关内容,阅读专题下面的文章了解更多详细操作教程。

2026.03.31

431

14

Java容器化部署与Docker实践教程合集
Java容器化部署与Docker实践教程合集

聚焦 Java 应用的容器化与云原生部署,讲解 Dockerfile 编写规范与 Java 应用镜像构建、多阶段构建(Multi-stage Build)减小镜像体积、Jib / Buildpacks 免 Dockerfile 镜像构建方案、JVM 容器感知参数(-XX:MaxRAMPercentage)配置、Docker Compose 编排多服务(应用 + MySQL + Redis)、容器健康检查与资源限制、Kubernetes

2026.05.11

400

26

Go Docker与容器化部署教程合集
Go Docker与容器化部署教程合集

聚焦 Go 应用的容器化部署优势与实践,讲解 Go 静态编译特性(CGO_ENABLED=0)与 scratch / distroless 极小基础镜像构建、多阶段 Dockerfile 编写规范、交叉编译生成目标平台二进制、镜像安全扫描(Trivy)与漏洞修复、Docker Compose 本地编排开发环境、Kubernetes Deployment / Service / ConfigMap 部署 Go 服务、健康检查(Livene

2026.05.15

285

24

Hyperf 项目部署运维与性能调优手册
Hyperf 项目部署运维与性能调优手册

聚焦 Hyperf 在生产环境的落地,包含 Docker 高效打包、Swoole 配置优化、常见的内存溢出(OOM)问题排查方法以及热更新方案。

2026.05.19

425

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Docker 官方文档
Docker 官方文档

共0课时 | 0人学习

宝塔 Docker 模块使用手册
宝塔 Docker 模块使用手册

共0课时 | 0人学习