K8s怎么排查Rook-Ceph分布式存储池异常降级

大静酱_3258

大静酱_3258

2026-10-30

675人浏览

原创

必须立即定位Rook-Ceph存储池PG降级根因,常见原因包括副本丢失、OSD故障、CRUSH映射异常或网络隔离;需通过ceph status、osd pool ls detail、pg dump_stuck等命令逐层排查,并按恢复OSD、修复PG、剔除故障OSD顺序处理。

k8s怎么排查rook-ceph分布式存储池异常降级

当 Kubernetes 集群中 Rook-Ceph 存储池出现 PG 处于 active+degraded 状态、写入卡顿、PVC 挂载失败或 ceph status 显示 HEALTH_WARN 且提示 pool ... is degraded 时,必须立即定位降级根因——这通常意味着部分副本丢失、OSD 故障、CRUSH 映射异常或网络隔离,不及时处理将导致数据不可用风险。

确认降级范围与具体池

执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status,观察输出中 pgmap 行的 degraded 数值及警告信息。若显示 pool 'replicapool' pg_num 128 has too few pgs 或 degraded: 12/192 objects,说明该池已发生实际数据副本缺失。

运行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd pool ls detail,找到目标池的 size(副本数)和 min_size 值。例如 size 3 min_size 2 表示需至少 2 个副本在线才能写入;若当前在线 OSD 数<min_size,该池将彻底拒绝写入。

【关键前提】必须确保 rook-ceph-tools Pod 处于 Running 状态且能连通 Ceph monitor;若其 CrashLoopBackOff,先用 kubectl -n rook-ceph get pod -l app=rook-ceph-tools 检查并重启它,否则所有后续命令均无效。

定位降级 PG 及对应 OSD

执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph pg dump_stuck inactive,unclean,degraded --format json-pretty,筛选出状态为 degraded 的 PG ID(如 3.1a)。

对任一降级 PG 执行深度查询:kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph pg 3.1a query,在返回 JSON 中重点查看 acting(当前服务副本列表)与 up(应在线副本列表)字段是否一致;若不一致,说明有 OSD 被标记为 down 但未从 CRUSH map 移除。

运行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd tree | grep -A5 -B5 down,直接定位已宕机的 OSD 编号(如 osd.5)及其所在节点。若该节点状态为 NotReady,则降级由节点失联引发;若节点 Ready 但 OSD 进程未运行,需登录该节点执行 systemctl status ceph-osd@5 查看日志。

uk8s
uk8s

创建 UK8S Kubernetes 集群。通过 ucloud-cli 调用 API,自动获取 VPC/子网/版本/镜像,生成配置并创建集群。

下载

检查 OSD 状态与磁盘健康

方法一:快速汇总
执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd stat,确认 up:N 与 in:N 是否相等。若 up ,说明有 OSD 进程崩溃但仍在集群注册表中,必须手动 ceph osd out 再 ceph osd down 。

方法二:逐个验证磁盘可用性
对每个 up 状态为 false 的 OSD,运行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd metadata ,检查 device_ids 和 rotational 字段是否存在。若返回空或报 error connecting to,说明该 OSD 对应的裸盘已被卸载、损坏或被 udev 规则屏蔽。

注意:Rook 默认使用 /var/lib/rook/osd- 目录挂载设备;若节点上该路径下无 block.db 或 block.wal 文件,且 lsblk 查不到对应磁盘,基本可判定物理介质故障。

修复降级状态(按优先级顺序执行)

第一步:恢复离线 OSD(若硬件正常)
登录对应节点 → 执行 systemctl start ceph-osd@ → 等待 30 秒 → 在 tools 容器中运行 ceph osd in → 观察 ceph -s 中 degraded 计数是否下降。

第二步:强制恢复 PG(仅当确认副本数据完整)
若 PG 卡在 degraded 但所有 acting OSD 均在线,执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph pg repair 。该操作会触发数据比对与修复,耗时取决于对象大小,期间可能短暂影响 IO 性能。

第三步:剔除永久故障 OSD
若磁盘已损坏且无法恢复,必须先 ceph osd out → ceph osd down → ceph osd purge --yes-i-really-mean-it → 删除节点上 /var/lib/rook/osd- 目录 → 修改 Rook Cluster CR 中对应节点的 devices 列表移除该盘 → 触发 Rook 自动重建新 OSD。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2113

5

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.07

3354

5

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

2026.10.28

40

16

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

2026.10.28

20

15

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

2026.10.28

40

10

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

2026.10.22

140

11

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

2026.10.22

80

10

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

2026.10.22

80

15

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

2026.10.22

40

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程