如何调优单台服务器上 Nginx 的内部进程总数以完美适配 NUMA 架构的内存本地化安全路径处理特性

阿枫大大_1920

阿枫大大_1920

2026-06-18

249人浏览

原创

nginx在numa服务器上需设worker_processes等于单节点物理核心数并用numactl绑定cpu与内存,否则跨节点访问致延迟倍增、qps跌超40%;双路32核应设为16而非32或auto,且须验证numastat输出本地node占比>95%。

如何调优单台服务器上 nginx 的内部进程总数以完美适配 numa 架构的内存本地化安全路径处理特性

要让 Nginx 在单台多路 NUMA 服务器上真正实现内存本地化、低延迟、高吞吐的安全路径处理,关键不是“多开进程”,而是按 NUMA 节点物理拓扑精准切分并约束资源边界。盲目增加 worker_processes 数量反而会触发跨节点内存访问,导致延迟翻倍、QPS 下跌超 40%。

明确 worker_processes 的正确取值逻辑

这个值必须等于单个 NUMA 节点的物理核心数(非总核数、非逻辑线程数、更不能设为 auto),原因在于:

  • 每个 Worker 进程在运行中会频繁申请内存(如连接缓冲区、SSL 上下文、临时文件缓存);
  • 若进程被调度到 Node 0 的 CPU,却从 Node 1 分配内存,就会走 QPI 总线,延迟增加 50–100ns;
  • auto 模式仅读取 /proc/cpuinfo 总逻辑核数,完全无视 NUMA 节点划分,无法保证本地性。

例如双路服务器(每路 16 物理核,共 32 核),典型 NUMA 布局为:

Nginx Config Linter
Nginx Config Linter

对 Nginx 配置文件进行语法检查、验证和安全、性能审计。

下载
  • Node 0:CPU 0–15,本地内存 64GB
  • Node 1:CPU 16–31,本地内存 64GB
    → 此时应设 worker_processes 16(即单节点物理核数),而非 32 或 64。

必须同步完成 CPU 与内存的双重绑定

仅靠 worker_cpu_affinity 固定 CPU 不够——Nginx 本身不控制内存分配节点。必须用 numactl 封装启动,强制子进程继承本地内存策略:

  • 在 systemd 服务中修改 /etc/systemd/system/nginx.service.d/override.conf:
    [Service]
    ExecStart=
    ExecStart=/usr/bin/numactl --cpunodebind=0 --membind=0 /usr/sbin/nginx -g 'daemon on; master_process on;'
  • 若需双节点全利用,推荐部署两个独立 Nginx 实例(分别绑定 Node 0 和 Node 1),或写启动脚本分片调用 numactl,避免单 master 管理跨节点 worker 带来的调度不确定性。

配套参数需协同收紧,防止资源错配

  • worker_rlimit_nofile 设为 100000+,并同步调高系统 fs.file-max 和用户级 nofile 限制;
  • worker_connections 建议 ≤32768,因每个连接约占用 240 字节内存,过高会导致单 Worker 内存暴涨,诱发跨节点分配;
  • 静态服务务必开启 sendfile on 和 tcp_nopush on,减少内核态拷贝与跨节点 page cache 访问;
  • 禁用 accept_mutex off(高并发下需实测,NUMA 场景下开启可能加剧锁争用)。

验证是否真正生效,重点看内存而非 CPU

  • 查 Worker PID:ps -eo pid,comm,args | grep 'nginx: worker'
  • 对每个 PID 执行 numastat -p <pid></pid>,观察 Total 行下各 Node 的占比:
    • 理想状态:绑定 Node 的 Total 占比 >95%,远端 Node 接近 0;
    • 若 Node 1 Total 显著非零,说明内存亲和失败,需检查 BIOS 是否启用了 Node Interleaving(必须关闭)。

不复杂但容易忽略

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

nginx 本地化

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

417

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

860

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

2512

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

856

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

749

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

394

3

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

2276

4

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

2023.10.20

4172

4

宽带如何接入服务器
宽带如何接入服务器

宽带接入服务器的方法有ADSL宽带接入服务器、光纤接入服务器、无线接入服务器和以太网接入服务器等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.20

687

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

nginx手册
nginx手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习