如何通过优化MySQL网卡中断与NUMA绑定消除跨节点延迟?

酷浩吖_4851

酷浩吖_4851

2026-10-21

442人浏览

原创

mysql进程必须绑定特定numa节点,否则mysqld调度与buffer pool内存分配错配会导致numa_miss激增、延迟上升30%~50%;需用numastat -p验证numa_hit>90%,结合numa_maps查内存段归属,并同步对齐网卡中断亲和性、禁用transparent_hugepage、配置systemd能力集及合理设置innodb_buffer_pool_instances。

如何通过优化mysql网卡中断与numa绑定消除跨节点延迟?

MySQL进程必须绑定到特定NUMA节点,不能只靠内核自动分配

MySQL在多NUMA节点服务器上默认不感知拓扑,mysqld进程可能被调度到Node 1,而Buffer Pool内存却落在Node 0——这种错配会导致大量numa_miss,实测延迟增加30%~50%。你不能依赖top或htop显示的CPU占用率判断归属,它们不反映内存实际落点。

验证方法:numastat -p $(pgrep mysqld),重点看Heap行的numa_hit占比;低于90%就说明问题已发生。更直接的是查/proc/$(pgrep mysqld)/numa_maps,观察各内存段的N0、N1前缀分布。

  • 单实例高吞吐(如OLTP主库):用numactl --cpunodebind=0 --membind=0强制全部落在Node 0,前提是innodb_buffer_pool_size ≤ Node 0可用内存 × 0.8
  • 多实例或混合负载(如备库+ETL):改用numactl --interleave=all,但必须同步调大innodb_buffer_pool_instances(建议 ≥ NUMA节点数)
  • 绝对不要在systemd服务里直接写ExecStart=numactl mysqld:systemd默认禁用CAP_SYS_NICE,绑定会静默失败;必须加CapabilityBoundingSet=CAP_SYS_NICE CAP_SYS_RESOURCE

网卡中断亲和性必须与MySQL所在NUMA节点对齐

网卡收包软中断(softirq)若运行在远离MySQL的NUMA节点上,每次处理网络请求都要跨节点访问Buffer Pool,等于把网络延迟和内存延迟叠加。这不是理论风险——AWS c5.metal实例上实测,错配时SELECT响应P99升高220ms。

确认当前网卡中断分布:cat /proc/interrupts | grep -i eth,看各CPU列数值是否集中在某几个核心;再用lscpu或numactl --hardware对照这些核心所属NUMA节点。

  • 将网卡中断绑定到MySQL所在NUMA节点的CPU:例如MySQL绑在Node 0(CPU 0-15),执行echo 0-15 > /proc/irq/$(cat /proc/interrupts | grep -i eth0 | awk '{print $1}' | sed 's/://')/smp_affinity_list
  • 启用RPS(Receive Packet Steering)辅助分发:在/sys/class/net/eth0/queues/rx-0/rps_cpus中填入对应节点CPU掩码(如0000ffff),让软中断尽可能本地化
  • 禁用irqbalance服务:它会动态迁移中断,破坏你精心设置的亲和性;systemctl stop irqbalance & systemctl disable irqbalance

transparent_hugepage必须关闭,否则所有NUMA绑定失效

numactl --membind对2MB大页无效——内核会绕过你的策略,从任意节点分配hugepage。只要/sys/kernel/mm/transparent_hugepage/enabled含[always]或[madvise],你就白忙活了。

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载

检查命令:grep AnonHugePages /proc/meminfo,非0即未关干净。临时关:echo never > /sys/kernel/mm/transparent_hugepage/enabled;永久关:在/etc/default/grub的GRUB_CMDLINE_LINUX加transparent_hugepage=never,再update-grub && reboot。

  • 别信“只对OLAP有用”的说法:InnoDB Buffer Pool默认就倾向使用大页,尤其当innodb_large_prefix开启或表有长索引时
  • 关闭后需重启mysqld,因为已分配的大页不会自动释放
  • 某些云厂商(如GCP N2)默认启用THP且BIOS层不可控,此时必须靠numactl --membind + vm.zone_reclaim_mode=1组合补救

不要跳过验证环节:numa_hit > 90%只是起点,不是终点

即使numastat显示numa_hit达标,仍可能因网卡中断错位或THP残留导致性能抖动。真实压测时关注两个隐藏指标:numa_foreign持续高于5%,说明远端节点正在“截胡”新分配页;pgmajfault突增,往往意味着THP fallback触发跨节点缺页。

最简验证链:numactl --show → numastat -p $(pgrep mysqld) → cat /proc/interrupts | grep eth → perf record -e page-faults -p $(pgrep mysqld) sleep 30。四步全过,才算真正闭环。

复杂点在于网卡中断和MySQL线程池的耦合——比如thread_pool_size设为32,但只绑了16个CPU,剩余线程会被调度到远端节点,照样引发跨访存。这事容易被忽略,但后果比参数调错更隐蔽。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

mysql

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

2293

6

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.21

1399

5

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

815

5

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.19

3172

5

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.25

5388

4

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.08

1199

3

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

5651

4

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

2023.08.14

4942

7

mysql事务隔离级别
mysql事务隔离级别

mysql规范中定义了四种事务隔离级别,不同的隔离级别对事务的处理有所不同。本专题为大家提供mysql事务隔离级别相关的文章内容,大家可以免费体验。

2023.08.16

6574

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 188人学习