net_rx软中断单核过载本质是rss配置不当致流量集中,需用/proc/softirqs和mpstat定位热点cpu,再通过ethtool与smp_affinity_list均衡网卡队列中断绑定,并辅以gro关闭、netdev_budget调优及rps启用。

核心问题不是进程本身卡,而是网卡软中断(NET_RX)集中在少数 CPU 上,频繁抢占业务线程、冲刷 L1/L2 缓存,导致缓存命中率骤降、延迟抖动明显——哪怕你已用 sched_setaffinity 绑核,只要中断还在同一颗核上跑,性能就稳不住。
确认是否为软中断不均所致
先快速验证:运行 mpstat -P ALL 1,观察连续几秒内各 CPU 的 %soft 是否严重倾斜(例如 CPU0 占 40%+,其余低于 5%);再执行 cat /proc/softirqs | grep NET_RX,看数值增长是否集中在某几列。同时用 cat /proc/interrupts | grep -i eth 查网卡硬中断分布,若硬中断也集中,说明底层队列没配好或未启用多队列。
确保网卡启用多队列并匹配 CPU 数量
软中断不均常源于硬件中断源单一。需确认:
- 网卡是否支持 RSS:运行
ethtool -l eth0(替换为你的网卡名),查看 Current hardware settings 中的 Rx/Tx Queue Count;若为 1,需调大(如设为 8 或 16):ethtool -L eth0 combined 8 - 驱动是否加载多队列:检查
ls /sys/class/net/eth0/queues/,应看到rx-0到rx-7等多个接收队列目录 - 若网卡队列数少于 CPU 总数(如 QLogic 只支持 4 队列但有 16 核),优先绑定到同一 NUMA 节点内的 CPU(如节点 0 的 CPU 0–3),避免跨节点访问内存
手动绑定硬中断 + 关闭 irqbalance
irqbalance 会覆盖你所有手动设置,必须停用:
systemctl stop irqbalance && systemctl disable irqbalance- 查网卡中断号:
grep eth0 /proc/interrupts | awk '{print $1}' | tr -d ':' - 按队列一对一绑定:例如 8 个 RX 队列,对应中断号 200–207,分别绑到 CPU 0–7:
echo 1 > /proc/irq/200/smp_affinity_listecho 2 > /proc/irq/201/smp_affinity_listecho 4 > /proc/irq/202/smp_affinity_list
……(二进制掩码也可,但smp_affinity_list更直观)
引导级隔离与软中断协同优化
仅绑中断还不够,要让软中断处理也落在专用核上:
- 内核启动参数加入:
isolcpus=2-7 nohz_full=2-7 rcu_nocbs=2-7(预留 CPU 2–7 专用于网络和业务,CPU 0–1 留给系统) - 启用 RPS(软件层面负载分发):
echo f > /sys/class/net/eth0/queues/rx-0/rps_cpus(十六进制 f = CPU 0–3,按需调整) - 启用 RFS(提升局部性):
echo 32768 > /proc/sys/net/core/rps_sock_flow_entries,再为每个 rx 队列设 flow count:echo 2048 > /sys/class/net/eth0/queues/rx-0/rps_flow_cnt - 业务进程启动时用
taskset -c 4-7或numactl --cpunodebind=0 --membind=0绑定到隔离核,与网卡同 NUMA 节点











