Nginx 中 worker_processes 与 NUMA 拓扑调优:在多路服务器实现性能跨越

秋晨酱_4505

秋晨酱_4505

2026-04-24

942人浏览

原创

worker_processes auto在numa服务器上易失效,因其仅读取逻辑cpu总数,不感知物理插槽、numa节点及内存本地性,导致worker跨节点调度,引发内存访问延迟飙升2–3倍。

nginx 中 worker_processes 与 numa 拓扑调优:在多路服务器实现性能跨越

worker_processes auto 在 NUMA 多路服务器上不是“开箱即用”的最优解,必须配合 worker_cpu_affinity 和外部启动控制(如 numactl),否则 Worker 进程可能跨 NUMA 节点调度,导致内存访问延迟飙升 2–3 倍。

为什么 auto 模式在 NUMA 服务器上容易失效

Nginx 的 worker_processes auto 仅读取 /proc/cpuinfo 中的逻辑 CPU 总数,不感知物理插槽(Socket)、NUMA 节点或内存本地性。在双路 32 核(2×16)服务器上,它会默认启 32 个 Worker,但内核调度器可能把第 17 个进程扔到远端 NUMA 节点——而该节点本地没有 Nginx 加载的配置、缓存文件或共享内存段。

此时会出现典型现象:htop 显示 CPU 利用率不高,但 perf stat -e cycles,instructions,mem-loads,mem-stores 显示每秒内存加载延迟(mem-loads 的平均 cycle latency)翻倍,numastat -p $(pgrep nginx | head -1) 显示 numa_hit 低于 60%,numa_miss 持续上升。

解决思路不是减少 Worker 数,而是让每个 Worker 严格绑定在“其内存可直达”的 CPU 核心上:

  • 先用 lscpu 确认 NUMA 节点分布,例如:Node 0 对应 CPU 0–15,Node 1 对应 CPU 16–31
  • 用 numactl --hardware 验证各节点的本地内存容量与延迟
  • 设置 worker_processes 16(单节点核心数),而非 32
  • 在 events 块中显式配置 worker_cpu_affinity,只使用 Node 0 的核心掩码

worker_cpu_affinity 如何匹配 NUMA 节点编号

worker_cpu_affinity 的二进制掩码顺序必须与 Linux 内核报告的 CPU 编号严格一致,而该编号通常按物理插槽顺序排列。错误配置会导致 Worker 绑定到远端节点核心,适得其反。

以双路 Intel Xeon Platinum 8360Y(每路 24 核,共 48 逻辑 CPU)为例,典型拓扑为:

Node 0: CPU 0–23<br>Node 1: CPU 24–47

若只想让 Nginx 运行在 Node 0,则应:

Nginx Hosting
Nginx Hosting

通过服务器本地nginx实例实现零认证静态游戏托管。作为所有浏览器游戏的主要部署方式,无需登录、无需令牌、无需用户操作。

下载
  • 设 worker_processes 24
  • 写 worker_cpu_affinity 000000000000000000000001 000000000000000000000010 ...(共 24 项,每项 1 位为 1,其余为 0)
  • 更安全的写法是用十六进制掩码(Nginx 1.21.4+ 支持):worker_cpu_affinity 00000001 00000002 00000004 ...

注意:不要用 auto 模式生成掩码,它无法区分 NUMA 边界;也不要跳过核心编号(如只写 CPU 0,2,4…),这会破坏亲和性连续性,影响 epoll 批量就绪事件分发效率。

必须用 numactl 启动才能真正隔离内存

仅靠 worker_cpu_affinity 只能约束 CPU 调度,不能限制内存分配策略。Nginx 主进程 fork 出 Worker 后,Worker 分配的内存页仍可能落在远端 NUMA 节点。

正确做法是用 numactl 封装 Nginx 启动命令,在 systemd service 文件中修改 ExecStart:

ExecStart=/usr/bin/numactl --cpunodebind=0 --membind=0 /usr/sbin/nginx -g 'daemon off;'

关键参数说明:

  • --cpunodebind=0:强制所有线程(包括主进程)只能在 Node 0 的 CPU 上运行
  • --membind=0:强制所有内存分配只从 Node 0 的本地内存池满足
  • 若需双节点负载均衡,改用 --interleave=all,但此时 worker_cpu_affinity 应禁用或设为全 1,避免冲突

验证是否生效:numastat -p $(pgrep nginx | head -1) 中 numa_hit 应 >95%,且 numa_foreign 接近 0。

压测时最容易被忽略的三个 NUMA 相关瓶颈

即使 worker_cpu_affinity 和 numactl 都配对了,以下三点仍常导致性能卡在 70% 左右不上升:

  • open_file_cache 默认启用,但缓存条目存储在共享内存区,若未绑定 NUMA 节点,查找时会触发跨节点内存访问 → 改为 open_file_cache off 或确保其内存分配受 numactl 约束
  • proxy_buffering on 时,缓冲区内存来自堆,不受 --membind 影响 → 改用 proxy_buffering off 或调小 proxy_buffers 数量
  • 日志写入(access_log)若落在远端磁盘(如 NVMe 绑定在 Node 1),会产生隐式跨节点 I/O → 将日志路径挂载到 Node 0 直连的 SSD,或用 rsyslog 转发至本地 syslogd

NUMA 调优不是配完就跑,而是每次变更后都必须用 numastat + perf + 实际 QPS 对比三者交叉验证。一个核心没绑对,或一块内存没锁住,吞吐量就可能掉 30%。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

nginx

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

3309

3

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

2023.07.25

2348

9

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

2023.08.02

1280

5

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.09

1238

4

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

2023.09.05

1376

5

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2023.09.20

2218

7

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

2023.09.20

3600

8

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

2023.09.22

16535

6

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

2023.09.22

549

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

nginx手册
nginx手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习