微缓存是用0.1–2秒极短缓存时间拦截海量重复请求,使后端从每秒万级计算降至几十次真实变更,需配合精细缓存键、stale兜底及缓存锁等机制实现高命中率与快速失效。

微缓存(Micro-caching)不是“多缓存一会儿”,而是用极短的缓存时间(通常 0.1–2 秒)拦截海量重复请求,把后端从“每秒扛 1 万次计算”变成“每秒只处理几十次真实变更”。它专为突发流量设计,在秒杀、热点新闻、直播开播等场景下效果显著——不是替代限流,而是和限流协同,让系统既不丢请求,也不压垮后端。
微缓存的核心配置逻辑
微缓存的关键不在 cache 时间长,而在“命中率高 + 失效快 + 不阻塞”。它依赖三个基础配合:
- 缓存键必须精细区分语义:比如带用户登录态的页面不能缓存,但商品详情页(无登录态)可缓存;同一 URL 下,不同设备尺寸或 AB 实验分组应视为不同缓存项
- 缓存时间要短到几乎感知不到 stale:通常设为 1s 或 500ms,既能挡住瞬时洪峰,又保证数据新鲜度
- 必须启用 stale 机制兜底:当后端响应慢或失败时,允许返回过期缓存,避免请求穿透导致雪崩
基础微缓存配置示例
以下是一套生产可用的微缓存配置,适用于 /product/、/article/ 等只读高频路径:
# 在 http 块定义缓存区(轻量级,不占大空间)
proxy_cache_path /data/nginx/microcache levels=1:2 keys_zone=micro:50m max_size=500m inactive=5s use_temp_path=off;
<h1>定义缓存键(排除 Cookie、User-Agent 等干扰项,保留关键业务维度)</h1><p>proxy_cache_key "$scheme$request_method$host$uri$is_args$args";</p><h1>在 location 中启用</h1><p>location ~ ^/(product|article)/ {
proxy_cache micro;
proxy_cache_valid 200 301 302 1s; # 正常响应只缓 1 秒
proxy_cache_valid 404 100ms; # 404 缓存更短,防穿透
proxy_cache_use_stale error timeout updating http_500 http_502 http_503 http_504; # 后端挂了也返回旧内容
proxy_cache_lock on; # 防止缓存击穿(同一 key 只放行一个回源请求)
proxy_cache_lock_timeout 1s; # 锁超时很短,避免卡住
add_header X-Cache-Status $upstream_cache_status; # 方便调试命中情况
proxy_pass <a href="https://www.php.cn/link/65b5b8d1f89bf53a5713bc3afdd83e9e">https://www.php.cn/link/65b5b8d1f89bf53a5713bc3afdd83e9e</a>;
}</p>
配合限流与连接优化,形成完整防护链
微缓存单独用效果有限,需和其它机制联动:
-
前置 burst 限流:在微缓存之前加一层
limit_req zone=burst burst=100 nodelay,防止缓存未命中时瞬间打爆后端 -
关闭代理缓冲等待:设
proxy_buffering off或调小 buffer(如proxy_buffers 4 8k),避免 Nginx 自身积压响应 -
连接层保障不丢包:确保
listen 80 backlog=65535、worker_connections 65535、net.core.somaxconn=65535已同步调优,让请求先稳稳进来
如何验证微缓存是否生效
别只看配置,要观察真实行为:
- 用
curl -I http://your.site/product/123查看响应头是否有X-Cache-Status: HIT或MISS - 压测时监控
proxy_cache_miss和proxy_cache_hit指标(可通过 stub_status 或 Prometheus exporter) - 观察后端 QPS 是否明显下降(比如从 8000 降到 200),同时 Nginx 的 CPU 和延迟保持平稳











