Linux怎么排查containerd服务崩溃导致所有容器瘫痪

浅明姑娘_3963

浅明姑娘_3963

2026-10-15

103人浏览

原创

containerd崩溃时容器失去生命周期管理,需通过ss、ps、crictl验证grpc监听与进程状态,查journalctl定位panic/oom等日志,检查cgroup、inotify、runc兼容性及磁盘元数据,清理shim、socket和临时目录后重启。

linux怎么排查containerd服务崩溃导致所有容器瘫痪

containerd 崩溃时,所有容器会瞬间失去生命周期管理能力——docker ps卡住、kubectl get pods超时、ctr命令无响应,这不是容器问题,是运行时底座崩了。

确认 containerd 进程是否真挂了

别只信 systemctl status containerd 的“active (running)”——它可能只是 systemd 认为服务还在,实际 gRPC 监听已失效。

  • 执行 sudo ss -tlnp | grep :6060(默认 debug 端口)或 sudo ss -tlnp | grep :10010(CRI 默认端口),若无输出,说明 containerd 主进程未监听或已退出
  • 检查 ps aux | grep containerd:正常应有 containerd 主进程 + 若干 containerd-shim;若只剩 shim 且主进程消失,就是崩溃了
  • 直接调用 CRI 接口验证:sudo crictl version,返回 FATAL: unable to determine runtime version 或连接拒绝,基本可断定 containerd 已不可达

查 journalctl 日志定位崩溃前最后一刻

containerd 崩溃往往不打印堆栈,但会在退出前留下关键线索,重点盯三类日志:

Zynq Linux Hardware Debug
Zynq Linux Hardware Debug

Zynq‑7000 / Zynq UltraScale+ 硬件调试技能。适用于 Xilinx Zynq(Cortex‑A9/A53 + FPGA)Linux 环境,调试 I2C、I2S、UART、GPIO 等外设。包括设备树配置、内核驱动、用户空间调试工具、交叉编译和常见问题排查,支持 PetaLinux 开发。

下载
  • 执行 sudo journalctl -u containerd -n 200 --no-pager | grep -E "(panic|segfault|fatal|OOM|signal.*terminated|failed to start)"
  • 若看到 runtime/cgo: pthread_create failed: Resource temporarily unavailable,说明系统线程数打满(/proc/sys/kernel/threads-max 耗尽)
  • 若出现 failed to mount overlay: invalid argument 且紧随其后是 exit status 1,大概率是内核版本与 runc 不兼容,或 cgroups v2 配置冲突
  • 注意时间戳对齐:崩溃时刻的前 5 秒内是否有大量 task delete 或 shim disconnect 日志,这可能是连锁雪崩起点

检查底层依赖是否被破坏

containerd 不是孤立运行的,它的崩溃常由下层资源枯竭或内核行为异常触发:

  • 确认 cgroup 状态:mount | grep cgroup,若输出为空或只有 cgroup2fs 但 /proc/sys/kernel/cgroup_disable 含 memory,说明 memory controller 被禁用,runc 创建容器必失败
  • 检查 inotify 限制:cat /proc/sys/fs/inotify/max_user_watches,低于 524288 时,containerd watch snapshot 变更易触发 fd 耗尽并静默退出
  • 验证 runc 兼容性:sudo runc --version 输出的 commit 是否在 containerd 官方 tested list 内(如 containerd v1.7.13 要求 runc v1.1.12);禁止 PATH 中存在多个 runc 版本
  • 检查磁盘元数据损坏:sudo ls -la /var/lib/containerd/io.containerd.snapshotter.v1.overlayfs/snapshots/,若大量目录权限为 ?????????? 或 ls: cannot access,说明底层文件系统已损坏,containerd 会反复 open 失败后 panic

恢复服务前必须清理的残留状态

直接 systemctl start containerd 很可能失败,因为崩溃前未释放的锁或僵尸 shim 会阻塞重启:

  • 先杀光 shim:sudo pkill -f 'containerd-shim.*-namespace moby'(K8s 场景用 k8s.io)
  • 清空 runtime socket:sudo rm -f /run/containerd/containerd.sock 和 /run/containerd/containerd.sock.ttrpc
  • 删除临时状态目录(非数据目录):sudo rm -rf /run/containerd/io.containerd.runtime.v2.task/moby/*
  • 最后再 sudo systemctl start containerd;启动后立刻跑 sudo ctr -n moby containers list 验证是否可连

真正难处理的不是崩溃本身,而是崩溃后 shim 进程僵死却不报错——它们还占着容器 PID namespace 和 cgroup path,导致新 containerd 启动后一创建 task 就被旧 shim 抢占资源,现象就是“刚启就又挂”。这种 case 必须手动 kill -9 所有 shim,不能依赖 graceful shutdown。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

4010

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3433

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2593

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

6310

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

5942

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

3473

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

2965

4

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

2023.07.25

3199

6

linux查找文件命令
linux查找文件命令

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.31

297

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习