如何通过 limit_req_zone 内存计算模型实现在生产环境下支持百万级反代并发

夏宇君_4978

夏宇君_4978

2026-05-02

659人浏览

原创

limit_req_zone仅限请求速率而非并发连接数;百万级反代需分层协同:limit_req_zone控速率、limit_conn_zone管连接、upstream长连接减开销、系统调优保资源,核心是避免四层资源混用。

如何通过 limit_req_zone 内存计算模型实现在生产环境下支持百万级反代并发

直接说结论:limit_req_zone 本身不处理“并发连接数”,它限制的是单位时间内的请求数(速率),不是同时在线连接数;百万级“反代并发”应拆解为“百万级请求速率”和“高并发连接管理”两个维度,前者靠 limit_req_zone 合理配置,后者靠 limit_conn_zone + upstream 长连接 + 系统调优协同实现。

真正卡住百万级反代能力的,从来不是 limit_req_zone 的内存算错,而是把限流、连接、代理、系统四层资源混为一谈。


limit_req_zone 内存只管“活跃 IP 数”,不是“QPS 数”

每个被限速的客户端 IP(用 $binary_remote_addr)在共享内存中占约 64 字节,与你每秒发多少请求无关,只与同一时刻有多少不同 IP 正在触发限速逻辑有关。

  • 1 MB ≈ 存储 1.6 万个活跃 IP
  • 10 MB ≈ 支持约 16 万个活跃 IP
  • 100 万个活跃 IP → 至少需 64 MB 共享内存(100w × 64B)

但注意:生产环境极少有 100 万 不同真实客户端 IP 在 1 秒内同时触发限速(比如访问 /api/login)。更常见的是:

  • CDN 回源 IP 集中(可能就几十个)
  • 移动端 App 使用固定出口网关(几百个 NAT IP)
  • 爬虫集群伪装成不同 IP,但真正高频活跃的往往只有几千个

✅ 建议做法:

  • 用 awk '{print $1}' access.log | tail -n 300000 | sort -u | wc -l 统计最近 5 分钟去重 IP 数
  • 再乘以 0.4~0.7(剔除低频探针、健康检查等)得「有效活跃 IP 数」
  • 乘以 64,向上取整到最接近的 MB 单位,并加 20% 冗余

例如:统计得 8 万个活跃 IP → 80000 × 64 = 5.12 MB → 配 zone=perip:10m


百万级反代压力,真正吃内存和 CPU 的是 upstream 连接管理

limit_req_zone 只做请求准入控制,不接管后端连接。当 Nginx 作为反代,百万 QPS 意味着:

  • 每秒新建数千 upstream 连接(若无长连接)
  • 每个连接占用 socket、buffer、TLS 上下文等资源
  • worker 进程频繁调度、锁竞争加剧

✅ 必须配套的关键配置:

upstream backend {
    server 192.168.1.10:8080;
    server 192.168.1.11:8080;
    keepalive 200;                 # 每个 worker 保持的空闲长连接数
    keepalive_requests 1000;       # 单连接复用次数上限
    keepalive_timeout 60s;
}

server {
    location /api/ {
        proxy_pass http://backend;
        proxy_http_version 1.1;
        proxy_set_header Connection '';   # 清除 Connection 头,启用长连接
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;

        # 关键缓冲区调大,防小包堆积
        proxy_buffer_size   128k;
        proxy_buffers       8 256k;
        proxy_busy_buffers_size  512k;
    }
}

同时系统层要放开限制:

  • worker_rlimit_nofile 1048576;
  • /etc/security/limits.conf 中设 * soft nofile 1048576
  • sysctl -w fs.file-max=2097152

百万级场景必须放弃“单 zone 全量记 IP”的幻想

硬撑百万独立 IP 的 limit_req_zone(需 ≥64MB)不仅浪费,还带来哈希冲突升高、LRU 淘汰频繁、reload 时内存重建慢等问题。

✅ 更务实的分层策略:

  • 第一层(全局兜底):zone=global:2m rate=1000r/s,key 用 $server_name,防整个域名被扫垮

  • 第二层(路径分级):zone=login:10m rate=5r/m,key 用 $binary_remote_addr$http_user_agent,专防爆破

  • 第三层(白名单跳过):

    map $remote_addr $limit_key {
        default             $binary_remote_addr;
        ~^192\.168\.        "";
        ~^10\.              "";
        127.0.0.1           "";
    }
    limit_req_zone $limit_key zone=api:20m rate=10r/s;

    内网、监控、CDN 回源 IP 直接不进限流区,省下全部 64 字节

  • 第四层(聚合降维):对海外流量按国家限流

    geo $country_code {
        default     ZZ;
        include     /etc/nginx/geoip.conf;
    }
    limit_req_zone $country_code zone=bycountry:5m rate=100r/s;

验证是否真撑得住百万级反代

别只看 nginx -t 和日志有没有 503,重点查三处:

  • 内存是否够用:grep "limiting requests" /var/log/nginx/error.log | tail -20
    若频繁出现且 $limit_status 日志里大量显示 "hit" 后又快速消失 → 很可能是 zone 太小,状态被挤掉

  • 连接是否复用成功:开启 ngx_http_upstream_module 状态页,或用
    ss -s | grep "tcp:" 看 ESTAB 连接数是否稳定在预期长连接池范围内

  • 上游响应是否拖慢:用 proxy_next_upstream error timeout http_500 + proxy_next_upstream_tries 3 避免单点抖动放大

实测经验:一台 16 核 32G 的 Nginx 反代节点,在合理配置下,稳定支撑 80w QPS(后端平均响应 20ms)、并发连接 12w+,其中 limit_req_zone 总共只用了 15m 内存,核心在于“不记无效 IP、不压单 zone、不裸连 upstream”。

不复杂但容易忽略。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.27

403

5

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3507

6

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

2023.08.04

6225

6

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

561

5

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.07.09

1496

5

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

2024.08.07

3958

3

nginx部署php项目教程汇总
nginx部署php项目教程汇总

本专题整合了nginx部署php项目教程汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

122

12

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

477

23

Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建
Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建

本指南详解Nginx在Windows、macOS及Linux系统的安装全流程。涵盖官方包解压、Homebrew一键部署、APT/YUM源配置及Docker容器化方案。无论新手或开发者,均可快速搭建运行环境,掌握跨平台核心指令,为后续配置与调优奠定坚实基础。

2026.03.16

159

12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.7万人学习