需构造并发请求穿透上游场景来验证 proxy_cache_lock_timeout 效果:开启 proxy_cache_lock、设 timeout 为5s、确保缓存有效,reload 后用 ab/wrk 发起多请求观察超时后是否释放锁并允许次请求回源。

要验证 proxy_cache_lock_timeout 的实际效果,核心是构造“多个并发请求同时穿透到上游”的场景,并观察 Nginx 是否在超时后释放锁、允许第二个请求继续回源——而不是无限等待或直接返回过期缓存。
确认配置已生效且缓存锁启用
确保以下指令在 location 或 server 块中正确配置:
-
proxy_cache_lock on;—— 必须开启,否则 lock 机制不工作 -
proxy_cache_lock_timeout 5s;—— 设为较短值(如 5s),便于观测;默认是 5s,但建议显式写出 -
proxy_cache_valid 200 10m;—— 确保响应可被缓存(状态码匹配) -
proxy_cache my_cache;—— 使用已定义的 cache zone
修改后执行 nginx -t && nginx -s reload,并检查 error log 是否有 cache 相关警告(如 zone 未定义、lock 不支持等)。
用并发请求触发锁竞争
使用 ab、wrk 或简单脚本发起 2+ 个几乎同时到达的请求(时间差
- 首次请求:触发回源,写入缓存,同时加锁
- 紧随其后的请求:发现锁存在,开始等待
proxy_cache_lock_timeout - 若超时前首个请求完成,后续请求直接读缓存(无日志记录回源)
- 若超时发生,Nginx 会释放锁,第二个请求立即回源(此时你会在 access log 和 upstream 日志中看到两次独立的 200 回源)
示例命令(用 curl 模拟两个快速请求):
阿里百炼大模型平台多人共享账号用量统计代理服务。解决公司共用账号时无法区分个人用量的问题。适用场景:1)部署用量统计代理;2)统计多人Token用量和调用次数;3)管理大模型API调用配额。
curl -o /dev/null -s -w "%{http_code}\n" http://localhost/test &
sleep 0.05
curl -o /dev/null -s -w "%{http_code}\n" http://localhost/test通过日志和指标判断是否超时
Nginx 本身不直接记录 “lock timeout” 事件,但可通过组合线索推断:
-
upstream 日志:若同一 URL 在
proxy_cache_lock_timeout时间窗口内出现多次 200(且无缓存命中头),说明锁被释放、多个请求各自回源 -
access log 中的 $upstream_cache_status:设置
log_format包含该变量。正常锁等待成功时,第二个请求应为HIT;若出现MIS或MISS,且时间接近第一个MISS,则可能已超时 -
error log(调试级):开启
error_log /path/error.log debug;后,搜索cache lock timeout字样(Nginx 1.19.1+ 支持该日志输出)
配合缓存失效做压力测试
更贴近真实场景的做法:
- 先用单请求访问,使资源进入缓存(
HIT) - 手动清空缓存(
proxy_cache_purge)或等待proxy_cache_valid过期 - 立即并发发起 3~5 个请求
- 观察:第一个请求
MISS→ 回源;其余请求在 lock 超时前应全部阻塞;超时后,部分请求转为MISS并再次回源
注意:如果后端响应极快(比如 time.sleep(6))来放大效果。










