在 nginx 中,`proxy_cache_use_stale updating` 组合通过后台更新机制避免阻塞请求。当缓存过期时,nginx 会立即返回旧的 stale 数据,同时在后台发起一次新的请求以刷新缓存。在此期间,其他并发请求会被合并到同一个后台更新任务中,直接复用该任务的响应或 stale 数据,从而避免重复请求上游服务器。

如何配置 proxy_cache_use_stale updating
要实现这一功能,需要在 `http` 或 `server` 块中启用 `proxy_cache`,并设置 `proxy_cache_use_stale` 包含 `updating` 关键字。同时,必须确保 `proxy_cache_lock` 开启,以便在后台更新期间锁定缓存键,防止多个请求同时触发更新。

server {
listen 80;
server_name example.com;
# 定义缓存路径
proxy_cache_path /var/cache/nginx levels=1:2 keys_zone=my_cache:10m max_size=1g inactive=60m;
location / {
proxy_pass http://backend_server;
# 启用缓存
proxy_cache my_cache;
# 关键配置:允许使用过期缓存,并在后台更新
proxy_cache_use_stale error timeout http_500 http_502 http_503 http_504 updating;
# 锁定缓存键,防止惊群效应
proxy_cache_lock on;
# 设置缓存过期时间
proxy_cache_valid 200 302 10m;
proxy_cache_valid 404 1m;
}
}
上述配置中,`proxy_cache_lock on` 是核心。当第一个请求发现缓存过期且 `updating` 生效时,它会启动后台更新。后续到达的请求检测到锁存在,不会再次触发更新,而是等待或返回 stale 数据。
后台更新期间的请求处理逻辑
当缓存项过期且 `updating` 被激活时,Nginx 的行为分为几个阶段。首先,主请求收到 stale 数据并立即返回给客户端。与此同时,Nginx 在内部标记该缓存键为“正在更新”。如果此时有其他请求到达,它们会检查这个标记。由于 `proxy_cache_lock` 开启,这些请求会被挂起或直接复用已有的 stale 响应,直到后台更新完成。更新完成后,新数据写入缓存,后续请求将获取新鲜数据。

# 模拟测试脚本:验证并发请求下的缓存行为
# 假设后端返回当前时间戳
import requests
import time
def make_request():
start = time.time()
resp = requests.get('http://example.com/')
end = time.time()
return resp.text, end - start
# 1. 预热缓存
print("Warming up cache...")
make_request()
# 2. 等待缓存过期(假设 TTL 很短,如 1 秒)
time.sleep(2)
# 3. 并发发送 10 个请求
threads = []
results = []
for i in range(10):
t = threading.Thread(target=lambda: results.append(make_request()))
threads.append(t)
t.start()
for t in threads:
t.join()
# 4. 检查结果
# 所有请求应几乎同时返回
# 响应内容可能混合了旧时间戳和新时间戳
print(f"Total time for 10 requests: {max(r[1] for r in results) - min(r[1] for r in results)}")
print(f"Unique timestamps received: {len(set(r[0] for r in results))}")
通过上述测试,可以观察到在高并发场景下,请求延迟显著降低,因为大部分请求没有等待上游服务器的完整响应时间。唯一的时间消耗是网络往返和 stale 数据的传输。
基于 proxy_cache_lock 的并发控制问题
在使用 `proxy_cache_use_stale updating` 时,`proxy_cache_lock` 的配置直接影响性能。如果 `proxy_cache_lock_timeout` 设置过短,请求可能在等待锁释放时超时,导致错误返回。因此,需要根据上游服务器的响应时间和网络状况合理设置超时值。此外,如果上游服务器响应极慢,stale 数据可能会变得非常陈旧,影响用户体验。此时,可以考虑调整 `proxy_cache_min_uses` 或 `proxy_cache_lock_age` 来优化行为。











