K8s怎么排查APIServer高并发读写引发的etcd存储暴涨

酷杰大大_4696

酷杰大大_4696

2026-11-01

802人浏览

原创

etcd磁盘超限已触发只读模式,集群控制面实质瘫痪;需立即停止写入操作,通过etcdctl watch定位高频写入资源(如endpoints/secrets),并压缩历史版本、清理过期对象止血。

k8s怎么排查apiserver高并发读写引发的etcd存储暴涨

当kubectl get pods频繁超时、etcd磁盘使用率在几小时内从30%飙升至95%、etcdctl endpoint status显示backend quota usage持续增长,说明APIServer高并发读写正在触发etcd存储暴涨,必须立刻定位源头写入行为。

确认etcd是否已触发空间告警

登录任意Master节点,执行健康检查命令,观察返回中是否有“database space exceeded”字样:

ETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/healthcheck-client.crt --key=/etc/kubernetes/pki/etcd/healthcheck-client.key endpoint status --write-out=table

若输出中DB Size列数值接近或等于DB Quota(默认2GB),且Is Leader为false或Health为false,说明etcd已进入只读模式,【此时所有写入请求将被拒绝,集群控制面实质瘫痪】。立即停止任何kubectl apply/delete操作。

定位高频写入的资源类型

方法一:用etcdctl watch实时捕获写入热点

在etcd节点上运行以下命令,持续监听最近10秒内变化最剧烈的key前缀:

ETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key watch --prefix /registry/ --changes-only --rev=$(etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key get / --print-value-only | wc -c) 2>/dev/null | head -n 50 | cut -d' ' -f1 | sed 's|/registry/||' | cut -d'/' -f1 | sort | uniq -c | sort -nr

该命令会输出类似:18432 endpoints、9216 secrets、4096 configmaps——数字越大代表该资源类型写入越密集。注意:endpoints资源高频更新通常源于Service后端Pod频繁上下线;secrets/configmaps暴涨大概率是CI/CD流水线每轮构建都创建新版本却未清理旧对象。

方法二:检查APIServer访问日志中的高频请求路径

查看kube-apiserver容器日志(需先确认日志路径是否启用):

journalctl -u kube-apiserver -n 1000 --no-pager | grep -E 'POST|PUT' | grep -v '/healthz|/livez|/metrics' | awk '{print $13}' | sort | uniq -c | sort -nr | head -10

重点关注如/api/v1/namespaces/default/secrets、/apis/batch/v1/namespaces/default/jobs这类路径。若某条路径出现频率远高于其他(例如单条路径占全部写入请求的60%以上),它就是罪魁祸首。

uk8s
uk8s

创建 UK8S Kubernetes 集群。通过 ucloud-cli 调用 API,自动获取 VPC/子网/版本/镜像,生成配置并创建集群。

下载

快速止血:冻结源头写入并清理历史版本

第一步:临时禁用高频写入的控制器(以Job为例)

找到对应控制器管理器Pod,进入其容器执行:

kubectl -n kube-system get pod -l component=kube-controller-manager -o jsonpath='{.items[0].metadata.name}' | xargs -I{} kubectl -n kube-system exec {} -- sh -c 'kill -STOP $(pgrep -f "job")'

这会暂停Job控制器的reconcile循环,阻止新Job对象持续写入etcd。注意:此操作不影响已运行的Job,仅阻断新增。

第二步:压缩etcd历史版本,释放空间

执行以下命令强制压缩revision(保留最近1000个版本,可根据实际调整):

ETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key compact $(etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key endpoint status --write-out=json | jq -r '.header.revision') --physical

第三步:彻底删除无用的历史对象(如过期的Secret)

先查出创建超过7天且未被任何Pod引用的Secret:

kubectl get secret --all-namespaces -o wide --sort-by=.metadata.creationTimestamp | tail -n +100 | awk '{if ($5 /dev/null | grep -q "$name" || echo "$ns/$name"; done

对输出列表中的每个namespace/name执行kubectl delete secret -n $ns $name。这一步必须人工核对,避免误删生产密钥。

大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

2026.10.28

80

16

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

2026.10.28

60

15

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

2026.10.28

200

10

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

2026.10.22

140

11

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

2026.10.22

120

10

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

2026.10.22

80

15

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

2026.10.22

60

10

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

2026.10.22

80

25

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

2026.10.22

40

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程