怎么在K8s集群中解决Docker容器由于存储驱动死锁导致应用容器删除时无限卡死的顽疾

千明酱_2097

千明酱_2097

2026-06-10

1057人浏览

原创

k8s中pod卡在terminating本质是容器运行时存储驱动死锁,需节点级干预:先定位(kubectl describe+findmnt+dmesg),再停服务、lazy卸载overlay2、清理目录,最后加固配置(统一overlay2、启用xino、确保d_type支持)。

怎么在k8s集群中解决docker容器由于存储驱动死锁导致应用容器删除时无限卡死的顽疾

在 K8s 集群中,当底层 Docker(或更准确地说,容器运行时如 containerd)因存储驱动死锁导致 Pod 删除卡在 Terminating 状态,本质是宿主机文件系统层的挂载或元数据锁未释放——K8s 的 kubectl delete 只能触发容器运行时的清理请求,无法穿透到 overlay2 或 devicemapper 的内核级阻塞。必须从节点层面干预。

先确认是不是存储驱动死锁

别急着删,先定位根源:

  • 执行 kubectl get pods -A | grep Terminating,再对卡住的 Pod 运行 kubectl describe pod <name> -n <ns></ns></name>,重点看 Events 中是否有 Failed to unmount、device or resource busy 或 overlay2: failed to mount
  • 登录对应工作节点,检查 Docker/containerd 状态:sudo systemctl status docker(或 containerd),若服务本身响应迟缓或日志卡在 mount/unmount 操作,大概率是存储层问题
  • 查挂载点:findmnt -D | grep overlay2,观察是否有残留的 /var/lib/docker/overlay2/<id>/merged</id> 仍被挂载,且对应容器已不存在
  • 看内核日志:dmesg -T | tail -30 | grep -i "overlay\|busy\|deadlock",出现 overlayfs: failed to get dentry 或反复 unmount blocked 就是典型信号

绕过死锁的手动清理三步法(节点级)

这是最直接有效的解法,适用于 overlay2 卡死场景(当前主流):

Kubernetes Network Policy Generator
Kubernetes Network Policy Generator

使用加权评分卡在12项标准上评估和比较隐私解决方案供应商。适用于选择隐私管理软件、比较数据保护方案等场景。

下载
  • 停运行时服务:在卡住 Pod 所在节点执行 sudo systemctl stop docker(若用 containerd,则停 containerd)。这能阻止守护进程持续尝试访问已卡住的路径
  • lazy 卸载 overlay2 目录:找到该 Pod 对应容器的 overlay2 ID(可通过 docker ps -a 或 crictl ps -a 查容器 ID,再 docker inspect <id> | grep -i graph</id>;或直接查 /var/lib/docker/containers/<cid>/config.v2.json</cid> 中的 GraphDriver.Data.MergedDir)。然后对它的 merged、upper、work 子目录逐个执行:sudo umount -l /path/to/xxx
  • 安全清空并重启:确认无进程占用:sudo lsof +D /var/lib/docker/overlay2/<id></id> 返回空;再执行 sudo rm -rf /var/lib/docker/overlay2/<id></id>;最后 sudo systemctl start docker。此时 kubectl get pods 中该 Pod 会立即消失

永久规避:集群节点的存储驱动加固

靠手动清理是救火,长期要改配置:

  • 统一使用 overlay2,禁用 aufs/devicemapper:在所有节点的 /etc/docker/daemon.json 中只保留 "storage-driver": "overlay2",删除其他驱动配置;重启 Docker 后用 docker info | grep "Storage Driver" 验证
  • 启用 xino 模式(Linux ≥ 5.15):在 daemon.json 加入 "storage-opts": ["overlay2.xino=auto"],可大幅降低 stat 竞争引发的挂起
  • 确保 d_type 支持:若 /var/lib/docker 在 ext4 分区,格式化时需带 -O dir_index,large_file,ext_attr,has_journal, filetype,或检查 dumpe2fs -h /dev/xxx | grep -i d_type 输出为 1
  • 避免高风险文件系统:不要把 /var/lib/docker 放在 eCryptfs、ZFS 用户空间层、或启用了配额(quota)的分区上,它们破坏 overlay 的原子性语义

K8s 层面的兜底与加速

即使底层修复了,K8s 控制平面有时仍残留 finalizer 或缓存状态:

  • 若 Namespace 卡在 Terminating,导出后清空 finalizers:kubectl get ns <ns> -o json > ns.json</ns>,编辑 finalizers: [],再 kubectl replace --raw "/api/v1/namespaces/<ns>/finalize" -f ns.json</ns>
  • 对单个 Pod 强制跳过优雅终止:kubectl delete pod <name> -n <ns> --grace-period=0 --force</ns></name>,但注意这只是“告诉 API Server 别等”,不解决底层卡死,仅适用于已确认运行时已清理完毕的情况
  • 升级集群节点内核至 ≥ 5.11、Docker 至 ≥ 24.0 或 containerd ≥ 1.7,这些版本对 overlay2 锁机制有实质性优化

相关文章

驱动精灵
驱动精灵

驱动精灵基于驱动之家十余年的专业数据积累,驱动支持度高,已经为数亿用户解决了各种电脑驱动问题、系统故障,是目前有效的驱动软件,有需要的小伙伴快来保存下载体验吧!

下载

相关标签:

docker kubernetes

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

2023.07.24

685

4

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

4939

6

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

5877

6

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

2233

7

Docker容器化部署与DevOps实践
Docker容器化部署与DevOps实践

本专题面向后端与运维开发者,系统讲解 Docker 容器化技术在实际项目中的应用。内容涵盖 Docker 镜像构建、容器运行机制、Docker Compose 多服务编排,以及在 DevOps 流程中的持续集成与持续部署实践。通过真实场景演示,帮助开发者实现应用的快速部署、环境一致性与运维自动化。

2026.02.11

239

16

Docker 容器部署
Docker 容器部署

本专题整合了Docker容器部署相关内容,阅读专题下面的文章了解更多详细操作教程。

2026.03.31

431

14

Java容器化部署与Docker实践教程合集
Java容器化部署与Docker实践教程合集

聚焦 Java 应用的容器化与云原生部署,讲解 Dockerfile 编写规范与 Java 应用镜像构建、多阶段构建(Multi-stage Build)减小镜像体积、Jib / Buildpacks 免 Dockerfile 镜像构建方案、JVM 容器感知参数(-XX:MaxRAMPercentage)配置、Docker Compose 编排多服务(应用 + MySQL + Redis)、容器健康检查与资源限制、Kubernetes

2026.05.11

380

26

Go Docker与容器化部署教程合集
Go Docker与容器化部署教程合集

聚焦 Go 应用的容器化部署优势与实践,讲解 Go 静态编译特性(CGO_ENABLED=0)与 scratch / distroless 极小基础镜像构建、多阶段 Dockerfile 编写规范、交叉编译生成目标平台二进制、镜像安全扫描(Trivy)与漏洞修复、Docker Compose 本地编排开发环境、Kubernetes Deployment / Service / ConfigMap 部署 Go 服务、健康检查(Livene

2026.05.15

285

24

Hyperf 项目部署运维与性能调优手册
Hyperf 项目部署运维与性能调优手册

聚焦 Hyperf 在生产环境的落地,包含 Docker 高效打包、Swoole 配置优化、常见的内存溢出(OOM)问题排查方法以及热更新方案。

2026.05.19

405

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Docker 官方文档
Docker 官方文档

共0课时 | 0人学习

宝塔 Docker 模块使用手册
宝塔 Docker 模块使用手册

共0课时 | 0人学习