如何配置 worker_cpu_affinity 手动指定掩码在 128 核服务器上压榨负载均衡极限

夏萱吖_8915

夏萱吖_8915

2026-05-11

571人浏览

原创

答案是:需先用lscpu确认物理拓扑,按物理核数(非逻辑核数)设置worker_processes和worker_cpu_affinity,用十六进制掩码精准绑定,避免超线程干扰与numa跨节点访问。

如何配置 worker_cpu_affinity 手动指定掩码在 128 核服务器上压榨负载均衡极限

在 128 核服务器上手动配置 worker_cpu_affinity 压榨负载均衡极限,核心不是“填满所有核”,而是精准匹配物理拓扑、规避 NUMA 跨节点访存、隔离干扰、并让每个 worker 真正跑满——否则容易陷入缓存抖动、TLB 刷新和内存带宽争抢,吞吐反而下降。

先确认真实硬件结构,别被 128 这个数字带偏

128 逻辑核 ≠ 128 物理核。常见情况是:

  • 双路服务器:2 × AMD EPYC 9654(96 核 / 192 线程)或 2 × Intel Xeon Platinum 8480+(60 核 / 120 线程),启用超线程后显示 128+ 逻辑 CPU —— 但物理核可能只有 64 或 60
  • 单路服务器:如 AMD EPYC 9754(128 核 / 256 线程),此时 128 是物理核数,超线程开启后为 256 逻辑核

务必运行以下命令确认:

lscpu | grep -E "(Socket|Core|Thread|CPU\(s\))"

重点关注三组值:

  • Socket(s):插槽数(通常 1 或 2)
  • Core(s) per socket:每槽物理核数
  • Thread(s) per core:是否启用超线程(=1 表示关闭,=2 表示开启)

例如输出为:
Socket(s): 2
Core(s) per socket: 32
Thread(s) per core: 2

→ 实际是 2 × 32 = 64 物理核,128 逻辑核。此时不建议设 128 个 worker 并绑定全部逻辑核,优先按 64 个物理核来规划。

手动掩码写法:128 位二进制太长?用十六进制分组替代

Nginx 支持十六进制掩码(比写 128 位二进制现实得多)。规则是:

  • 每组掩码对应一个 worker 进程,顺序即 fork 启动顺序
  • 每组为 32 位十六进制数(8 字符),覆盖 32 个逻辑 CPU;128 核需 4 组 → 总共 4 × 32 = 128 位
  • 最低位(最右字节的 bit 0)始终对应逻辑 CPU 0

假设你确认有 128 个逻辑 CPU(0–127),且希望每个 worker 独占一个物理核(即只用前 64 个逻辑核,跳过超线程对),可这样配:

worker_processes 64;
worker_cpu_affinity 00000001 00000002 00000004 00000008
                           00000010 00000020 00000040 00000080
                           00000100 ……(共 64 组,每组左移一位);

更实用的做法是:用脚本生成(Python/awk 均可),避免手误。例如 64 组掩码中第 n 组(从 0 开始)为:printf "%08x" $((1 。

严禁重复掩码:如两个 worker 都写 00000001,它们会挤在逻辑 CPU 0 上,彻底失去多核意义。

NUMA 感知绑定:双路服务器必须考虑节点局部性

128 核服务器大概率是双路 NUMA 架构(如 2×64),每个 CPU 插槽配独立内存控制器。若 worker 在 node0,却访问 node1 的 upstream 缓存或 SSL 证书,延迟飙升。

查 NUMA 拓扑:

numactl --hardware

典型输出含:
available: 2 nodes (0-1)
node 0 cpus: 0 1 2 ... 63
node 0 size: 256 GB
node 1 cpus: 64 65 ... 127
node 1 size: 256 GB

推荐策略:

  • 将 Nginx worker 按物理核均分到两个 NUMA 节点(如各 32 个),并确保上游服务(upstream)、SSL 密钥、proxy_cache 目录也部署在同一节点内存中
  • 配置示例(64 worker,每节点 32 个):
    worker_processes 64;
    worker_cpu_affinity auto 0000000000000000ffffffff 0000000000000000ffffffff ... ;

    → 前 32 个 worker 只允许在 CPU 0–63(node0)运行,后 32 个只允许在 64–127(node1)运行

也可用 numactl --cpunodebind=0 --membind=0 nginx 启动主进程,再配合 worker_cpu_affinity 细化控制。

配套调优缺一不可:绑核只是起点

仅设 worker_cpu_affinity 不会自动提升吞吐。必须同步调整:

  • accept_mutex off;:Nginx ≥ 1.11.3 默认关闭,旧版本务必显式关掉,否则所有 worker 争 accept 锁,变成串行
  • multi_accept on;:让每个 worker 一次从 epoll 拿多个就绪连接,避免频繁唤醒
  • worker_connections 65535;:配合 worker_rlimit_nofile 65535; 和系统级 ulimit -n 65535,否则连接数卡在默认 1024
  • 网卡软中断绑定:用 ethtool -L eth0 combined 64 设置队列数,并用 echo 0-63 > /proc/irq/*/smp_affinity_list 将收包软中断绑定到同一批 CPU,避免网络包跨核搬运

验证是否生效的关键命令:

ps -eo pid,args,psr | grep 'nginx: worker' | head -20
taskset -cp $(pgrep -f "nginx: worker" | head -1)
grep -i "cpus_allowed_list" /proc/$(pgrep -f "nginx: worker" | head -1)/status

理想结果:PSR 列分散在 0–63(或按 NUMA 分布),taskset 显示单个 CPU ID,cpus_allowed_list 是窄范围(如 “0” 或 “0-31”),而非 “0-127”。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

2969

3

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

2023.07.25

2228

9

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

2023.08.02

1200

5

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.09

1138

4

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

2023.09.05

1316

5

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2023.09.20

2078

7

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

2023.09.20

3280

8

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

2023.09.22

14655

6

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

2023.09.22

549

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习