Linux 怎么排查由于内核参数冲突导致的集群心跳丢包

浅枫小哥_8614

浅枫小哥_8614

2026-08-15

1001人浏览

原创

内核参数冲突导致集群心跳丢包的本质是协议栈因资源限制或策略误配主动丢弃高优先级udp心跳报文,表现为ping通、端口可达但频繁假故障;需通过tcpdump比对收发量、检查rx-drp/dropped计数、聚焦netdev_max_backlog/udp_mem/rp_filter等参数,并排除iptables/tc干扰后闭环验证。

linux 怎么排查由于内核参数冲突导致的集群心跳丢包

内核参数冲突导致的集群心跳丢包,本质是协议栈在处理高优先级、低延迟的心跳报文时,因资源限制或策略误配主动丢弃。这类丢包隐蔽性强——ping通、端口可连、应用日志无异常,但集群频繁触发假故障(如etcd leader切换、Kubernetes node NotReady)。排查关键在于绕过“网络连通”的表象,直击内核收包路径的瓶颈点。

先确认是不是内核层丢包

别依赖 ping 或 telnet。直接看心跳包实际走向:

  • 用 tcpdump -i any port <em>heartbeat_port</em> -w heartbeat.pcap 抓包,对比客户端发出数 vs 服务端 ss -nul | grep :<em>heartbeat_port</em> 显示的接收量。差值就是真实丢包数
  • 查网卡统计:cat /proc/net/dev | grep <em>iface</em>,重点看 Rx-DRP(内核丢)和 Rx-OVR(Ring Buffer 溢出)。若 Rx-DRP 持续上涨而 Rx-OVR 为 0,问题大概率在内核协议栈
  • 检查软中断队列:cat /proc/net/softnet_stat,第 2 列(dropped)持续增长,说明 net_rx 软中断处理不过来,已开始批量丢包

聚焦心跳报文路径的关键内核参数

心跳通常走 UDP(如 etcd member 宣告、Keepalived VRRP),对以下参数极度敏感:

Linux Distros
Linux Distros

Linux发行版游乐场,适用于需要临时Linux沙箱、基于浏览器的Linux虚拟机、一次性终端环境、桌面Linux会话等场景

下载
  • net.core.netdev_max_backlog:网卡收包队列上限。默认常为 1000,高并发心跳下极易溢出。查看:sysctl net.core.netdev_max_backlog;建议调至 5000–10000
  • net.core.rmem_default 和 net.core.rmem_max:UDP socket 接收缓冲区。心跳包小但频次高,缓冲区太小会导致 socket 队列满后丢包。确认:ss -uln | grep :<em>port</em> 中 rmem 值是否接近 rmem_max
  • net.ipv4.udp_mem:系统级 UDP 内存阈值。三个数值分别对应 low、pressure、max。若第二项被频繁触及,内核会主动丢 UDP 包保 TCP。用 cat /proc/net/snmp | grep Udp: 查 UdpInOverflows 计数是否非零
  • net.ipv4.conf.all.rp_filter:反向路径过滤。设为 1 时,若心跳包入接口与路由回程接口不一致(常见于多网卡集群),会被静默丢弃。建议设为 0 或 2(宽松模式)

排除 iptables/nftables 和 tc 干扰

集群心跳常被误匹配规则:

  • 运行 iptables -t raw -L -n -v 和 iptables -t filter -L -n -v,关注 DROP/REJECT 计数是否随心跳间隔同步上涨
  • 检查 tc 是否对心跳端口限速:tc qdisc show dev <em>iface</em>。特别警惕 qdisc fq_codel 的默认 limit(常为 1024),或人为配置的 policer 规则
  • 临时禁用所有规则验证:iptables -P INPUT ACCEPT; iptables -F; iptables -t nat -F(操作前快照规则)

验证与修复

改参不是终点,必须闭环验证:

  • 修改后执行 sysctl -p 生效,并用 sysctl -a | grep <em>param</em> 确认写入
  • 观察 /proc/net/snmp 中 UdpInErrors、UdpNoPorts 是否下降;/proc/net/udp 中对应端口的 ino(inode)列是否稳定
  • 最可靠验证:重启集群组件(如 etcd pod),观察 leader 切换频率、node Ready 状态持续时间是否回归正常

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

437

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

900

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

2852

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

956

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

849

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

434

3

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

2576

4

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

2023.10.20

4792

4

宽带如何接入服务器
宽带如何接入服务器

宽带接入服务器的方法有ADSL宽带接入服务器、光纤接入服务器、无线接入服务器和以太网接入服务器等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.20

767

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习