Nginx 中怎么测试高并发下 proxy_buffering 对后端压力的缓解

轻明姑娘_9495

轻明姑娘_9495

2026-10-23

259人浏览

原创

开启proxy_buffering可显著降低后端并发压力:通过解耦上下游速率,使后端快速释放连接,实测qps提升20%~40%,但需合理配置buffer参数以避免ttfb增加或磁盘io瓶颈。

nginx 中怎么测试高并发下 proxy_buffering 对后端压力的缓解

直接压测对比是最有效的方式:在相同后端服务、相同客户端压力下,分别开启和关闭 proxy_buffering,观察后端连接数、线程占用、响应延迟与错误率的变化。

准备可控的压测环境

确保测试结果可比、干扰最小:

  • 后端服务部署单实例(如一个 Python Flask 或 Java Spring Boot 应用),禁用自身连接池复用,便于观察连接堆积
  • Nginx 配置中固定 upstream server,关闭健康检查与重试(proxy_next_upstream off),避免自动切换影响指标
  • 客户端使用支持并发连接控制的工具(如 hey、wrk 或 ab),统一请求路径、头信息、超时参数
  • 监控项明确采集:后端进程的活跃连接数(netstat/ss)、线程数(jstack/pstack)、CPU/内存占用;Nginx 的 active connections、upstream response time;以及客户端侧的 5xx 错误率与 P95 延迟

设计两组核心对比场景

每组运行 3–5 分钟,取稳定期数据:

aperture: the L402 aware reverse proxy
aperture: the L402 aware reverse proxy

安装并运行 Aperture(Lightning Labs 的 L402 闪电反向代理),用于创建 L402 付费墙、配置付费 API 端点、为其他代理托管付费内容或测试 L402 认证流程。

下载
  • 慢客户端模拟:用 hey -n 1000 -c 200 -t 30 -disable-keepalive http://nginx/,并配合网络限速(如 tc qdisc add dev lo root netem delay 100ms rate 1mbit)模拟弱网。这是最能暴露 buffering 价值的场景——关闭 buffering 时,后端连接会快速升至 200+ 并卡住;开启后应稳定在 20–40 个(取决于后端处理速度)
  • 高并发短响应:用 wrk -t16 -c1000 -d30s http://nginx/api/status(返回 200 OK + 小 JSON)。此时 buffering 影响较小,但可验证是否引入额外 TTFB;若开启 buffering 后平均延迟上升超过 5ms,需检查 proxy_buffer_size 是否过小导致频繁 header 溢出重试

关键指标判读要点

不只看“有没有效果”,要看“为什么有效”或“为什么没效”:

  • 后端连接数下降 >30%,且 Nginx 的 upstream_addr 日志中显示“*.*.*.*:8080, *.*.*.*:8080”交替出现(说明连接快速释放复用),是 buffering 起效的强信号
  • 开启 buffering 后,Nginx error log 出现大量 upstream sent too big header,说明 proxy_buffer_size 不足,需调大(建议从 16k 起步)
  • 压测中 proxy_temp_path 所在磁盘 IO 利用率飙升、延迟毛刺明显,说明缓冲区太小触发频繁落盘,应增大 proxy_buffers 或调整 proxy_max_temp_file_size
  • 关闭 buffering 后客户端错误率未升高,但后端线程数仍居高不下,说明问题不在缓冲机制,而可能在后端自身阻塞(如数据库锁、同步 IO)

配套验证配置是否生效

光改配置不验证等于没改:

  • 用 nginx -T | grep proxy_buffering 确认实际生效位置(location > server > http),避免被低优先级配置覆盖
  • 在响应头中添加调试标识:add_header X-Buffering $sent_http_content_length;(开启时该值为完整响应长度;关闭时多数为 0 或极小值)
  • 用 strace -p $(pgrep nginx) -e trace=sendto,recvfrom -s 100 抓包观察:开启 buffering 时,Nginx 对后端的 recvfrom 密集集中,对客户端的 sendto 相对平缓;关闭时两者基本同步、交错频繁

不复杂但容易忽略

相关专题

更多
python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2603

5

前端和后端的区别
前端和后端的区别

前端关注的是用户界面的设计和交互,而后端则注重数据处理和逻辑控制。想了解更多前端后端的相关内容,可以阅读本专题下面的文章。

2024.03.19

6650

13

后端的主要工作内容介绍
后端的主要工作内容介绍

后端是应用程序的服务端部分,负责核心任务,如数据库交互、业务逻辑处理和响应客户端请求。想了解更多后端的相关内容,可以阅读本专题下面的文章。

2024.03.19

6086

10

服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

457

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

940

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

3112

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

1036

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

929

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

474

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

nginx手册
nginx手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习