如何通过ngx_http_proxy_module的缓存锁机制实现极端并发削峰

夏静君_8418

夏静君_8418

2026-05-30

969人浏览

原创

proxy_cache_lock 实现削峰的核心是只放行一个并发miss请求回源,其余等待或返回旧缓存,将千次回源压至1~2次;需配置keys_zone、启用缓存、统一cache_key、控制响应头,并配合lock_timeout与use_stale策略。

如何通过ngx_http_proxy_module的缓存锁机制实现极端并发削峰

用 proxy_cache_lock 实现极端并发削峰,核心不是“锁住所有请求”,而是让大量并发 MISS 请求中,**只放行一个去后端取数据,其余要么等待结果、要么退而求其次返回旧缓存**——从而把原本可能上千次的回源,压到 1~2 次。它不消灭并发,而是重排并发,是 Nginx 层最轻量、最高效的削峰手段之一。

必须先让锁真正生效

很多配置看似开了 lock,实则完全不触发,原因往往在基础环节缺失:

  • 没定义 proxy_cache_path 和 keys_zone:例如 proxy_cache_path /var/cache/nginx levels=1:2 keys_zone=my_cache:10m max_size=1g; —— keys_zone 是锁的共享内存载体,没它,lock 形同虚设
  • 没在 location 中启用缓存:proxy_cache my_cache; —— 不启用缓存,就没有 MISS,自然不进锁逻辑
  • 缓存 key 不统一:默认 $request_uri 带参数,/api/user?id=1 和 /api/user?id=2 就是两个 key;应显式控制,如 proxy_cache_key "$host:/api/user"; 或 "$scheme$host$uri"(去掉 $args)
  • 响应被绕过缓存:后端返回 Cache-Control: no-cache、或命中 proxy_no_cache 规则、或含 Set-Cookie 且未配 proxy_ignore_headers Set-Cookie,都会跳过整个缓存流程

用 timeout + stale 控制削峰节奏

proxy_cache_lock_timeout 决定“等多久”,proxy_cache_use_stale 决定“等不到时怎么办”。两者配合,才能应对极端场景:

CPA Update - Secure CLI Proxy API Maintenance
CPA Update - Secure CLI Proxy API Maintenance

安全更新和维护 CLI Proxy API(CPA)部署与配置。用于 CPA 镜像升级、配置变更、认证目录兼容修复、上线验证与回滚。适用于用户提到“CPA 更新/升级/配置改了/容器重建/回滚”等场景。

下载
  • proxy_cache_lock_timeout 5s;:设为后端 P95 响应时间的 1.2–1.5 倍(如后端 P95 是 4s,可设 5s)。太短(如 1s)会导致大量请求几乎立刻放弃锁、集体回源;太长(如 15s)会让用户明显卡顿,还可能引发客户端重试雪崩
  • proxy_cache_use_stale updating error timeout http_502 http_503;:这是削峰的关键退路。只要首个请求正在回源(updating),后续请求就可直接返回旧缓存;若它超时或失败,也允许返回陈旧内容,避免全部排队或降级为空白页
  • 搭配 proxy_cache_background_update on;:首个请求写完缓存后,Nginx 在后台静默刷新,不影响前端响应;用户看到的是“旧但可用”的内容,体验无感

从源头减少锁竞争频次

削峰效果上限,取决于每秒产生多少个真正需要锁的 MISS。降低 MISS 率,比调优 timeout 更治本:

  • proxy_cache_valid 200 302 30s;:对 API 接口设 30 秒已能显著缓解瞬时压力;静态资源可设为 1h 或更长
  • 避免无意义参数干扰 key:前端加的 ?t=1713086520、&v=2.3.1 必须在 proxy_cache_key 中剔除,否则每个请求都是独立 key,锁完全失效
  • 统一身份上下文处理:带登录态的接口,若用 $cookie_session 入 key,游客和会员就无法共享锁;应剥离用户标识,或改用服务端本地缓存+限流兜底

验证锁是否真实起作用

别靠猜测,用可观测手段确认:

  • 加响应头:add_header X-Cache-Status $upstream_cache_status;,压测时看状态组合:首个请求是 MISST(触发回源),紧随其后的并发请求应出现 HIT(复用结果)或 STALE(返回旧缓存),而非全是 MISS
  • 查后端日志:用 ab -n 100 -c 50 压测同一 URL,开启 lock 后,后端 access log 应仅记录 1~2 行,而不是 50 行
  • 观察磁盘缓存文件生成:缓存路径下对应 key 的文件是否只创建一次,且后续请求读取的是同一文件

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

proxy

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.27

383

5

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3247

6

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

2023.08.04

5905

6

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

561

5

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.07.09

1476

5

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

2024.08.07

3938

3

nginx部署php项目教程汇总
nginx部署php项目教程汇总

本专题整合了nginx部署php项目教程汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

122

12

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

437

23

Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建
Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建

本指南详解Nginx在Windows、macOS及Linux系统的安装全流程。涵盖官方包解压、Homebrew一键部署、APT/YUM源配置及Docker容器化方案。无论新手或开发者,均可快速搭建运行环境,掌握跨平台核心指令,为后续配置与调优奠定坚实基础。

2026.03.16

159

12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习