如何配置 GitLab Runner 的 Kubernetes 运行时存储驱动解决容器化构建时的根分区 IO 刺针-linux运维-PHP中文网

gitlab runner在kubernetes executor下io刺针问题根源在于节点容器运行时存储驱动配置不当，需升级为overlay2驱动、挂载独立高速存储卷，并优化构建流程以降低io压力。

如何配置 gitlab runner 的 kubernetes 运行时存储驱动解决容器化构建时的根分区 io 刺针

GitLab Runner 使用 Kubernetes Executor 时，构建作业默认在 Pod 中启动容器（如 maven、docker:dind 等），若底层节点根分区（/）被频繁写入（例如镜像层缓存、临时构建目录、日志刷盘），极易引发 IO 尖峰（即“IO 刺针”），导致节点负载飙升、Pod 启动延迟甚至构建失败。问题核心不在 Runner 本身，而在于 Kubernetes 节点的容器运行时存储驱动配置 —— 它决定了容器镜像和可写层如何落盘。

确认当前节点使用的存储驱动

登录任意工作节点，执行：

sudo docker info | grep "Storage Driver"

常见输出包括：overlay2（推荐）、devicemapper（已弃用，易 IO 堵塞）、zfs 或 btrfs。若显示 devicemapper 或 overlay（非 overlay2），应优先升级为 overlay2。

切换为 overlay2 存储驱动（主流且高效）

overlay2 对 IO 更友好，支持多层共享、写时复制（CoW）优化，且不依赖 LVM，避免 devicemapper 的元数据锁瓶颈。

Github Xiaoshu

使用 `gh` CLI 与 GitHub 交互。通过`gh issue`、`gh pr`、`gh run` 和 `gh api` 管理 issue、PR、CI 运行以及高级查询。

下载

确保内核版本 ≥ 4.0（CentOS 7.4+、Ubuntu 16.04+ 默认满足）
停止 Docker：sudo systemctl stop docker
备份并清空旧存储目录：sudo rm -rf /var/lib/docker/{image,overlay,overlay2,containers}（⚠️仅限测试环境；生产需先迁移镜像）
编辑 /etc/docker/daemon.json，加入：

{
  "storage-driver": "overlay2",
  "storage-opts": [
    "overlay2.override_kernel_check=true"
  ]
}

重启 Docker：sudo systemctl start docker
验证：sudo docker info | grep "Storage Driver" 应返回 overlay2

为构建 Pod 配置独立的高速存储卷

即使使用 overlay2，若所有构建都挤在系统盘（如 /var/lib/docker），仍会争抢 IO。更稳妥的方式是让 Runner 的构建容器使用独立挂载点：

在 Kubernetes 中为 Runner Pod 挂载高性能存储（如 NVMe SSD 对应的 hostPath 或 CSI PV），路径如 /mnt/build-cache
在 config.toml 的 [runners.kubernetes] 区块中指定容器运行时参数：

[runners.kubernetes]
  # 让每个 job pod 的容器运行时使用指定路径作为 root dir
  [runners.kubernetes.volumes.host_path]
    name = "build-storage"
    mount_path = "/var/lib/docker"
    host_path = "/mnt/build-cache"
    read_only = false

同时在 Pod 模板中通过 extra_hosts 或 env 注入 DOCKER_ROOT=/var/lib/docker（视实际容器镜像是否支持）

禁用或限制构建过程中的高 IO 行为

从 Runner 侧减少写压力同样关键：

在 .gitlab-ci.yml 中关闭不必要的 Maven 本地仓库同步：-Dmaven.repo.local=.m2 并配合 cache: 指向对象存储（如 MinIO），避免每次重下依赖
避免在 job 中执行 docker build --no-cache；启用 BuildKit（export DOCKER_BUILDKIT=1）并合理使用 RUN --mount=type=cache
对 docker:dind 类 runner，启用 insecure-registries 和 data-root 自定义路径，防止镜像写入系统盘