95% http场景直接用golang.org/x/time/rate.limiter即可,它并发安全、精度可控;应按用户/ip/endpoint分组创建实例,用sync.map缓存,避免key泛滥和高频新建,慎用reserve()。

Go 限流中间件该用 golang.org/x/time/rate 还是自己手写?
直接结论:95% 的 HTTP 服务场景,用 rate.Limiter 就够了,别自己实现令牌桶或漏桶逻辑——它已通过生产验证、支持并发安全、精度可控,且不依赖外部组件。
常见错误是看到“中间件”就以为得套一层 http.Handler 包装器再加锁计数,结果写出竞态或吞吐骤降。其实 rate.Limiter 本身已是线程安全的,直接在 handler 内调用 limiter.Wait(ctx) 即可。
-
rate.NewLimiter(rate.Limit(100), 10)表示「每秒最多 100 次请求,初始桶容量为 10」;注意第二个参数不是“突发上限”,而是「允许积压的最大令牌数」 - 如果用
Allow()判断,失败时不阻塞,适合非关键路径;但做 API 限流建议用Wait(ctx),它会自动休眠并尊重上下文超时 - 别把同一个
rate.Limiter实例跨不同路由共用(比如所有 /api/* 共享一个 limiter),除非你真要全局限流;更常见的是按用户 ID、IP 或 endpoint 分组创建 limiter
如何给不同用户分配独立限流配额?
核心是「键隔离」:不能全站共用一个 limiter,得根据请求特征(如 req.Header.Get("X-User-ID") 或 getIP(req))生成唯一 key,再查 map 或 sync.Map 缓存对应的 *rate.Limiter。
容易踩的坑是 map 并发读写 panic,或者用 map[string]*rate.Limiter 但忘了加锁——这时候直接上 sync.Map 更省心,但要注意它不支持遍历清理过期项。
- 用
sync.Map存 key →*rate.Limiter,首次访问时用LoadOrStore初始化:limiter := rate.NewLimiter(rate.Every(time.Second/10), 5) - 避免 key 泛滥:限制用户 ID 长度、过滤非法字符,否则攻击者可构造随机 header 打爆内存
- 不建议用 Redis 做限流后端(如
redis-cell),除非你已有强一致性要求或跨多实例共享状态;单机部署下纯内存限流延迟更低、无网络开销
为什么 rate.Limiter 的 Reserve() 很少用?
因为 Reserve() 返回的是 *rate.Reservation,你需要手动调用 Delay() 或 OK(),逻辑绕、易漏处理,且对 HTTP 中间件这种“简单放行 or 拒绝”场景冗余。
典型误用是拿到 Reservation 后只检查 OK() 就返回 200,却没调用 Delay(),导致实际未限流——系统以为你“预留成功”,但时间没等,流量照样涌进来。
- 绝大多数 Web 限流只需「阻塞到有令牌」或「立刻拒绝」,对应
Wait(ctx)和Allow() -
Reserve()真正适用的场景是:你要提前规划多个请求的时间点(比如批量任务调度),或需要精确控制延迟抖动 - HTTP handler 中若用了
Reserve(),务必确保 defer 调用Cancel()(当请求中途取消时),否则令牌会被错误消耗
限流中间件上线后 CPU 突增,可能卡在哪?
不是算法问题,大概率出在「高频 key 创建」或「锁竞争」:比如用完整 URL 或带 timestamp 的 query 参数做限流 key,导致每秒生成成千上万个新 key,sync.Map 的哈希冲突上升,CPU 花在扩容和重哈希上。
另一个隐蔽问题是 rate.Limiter 的 limit 设得太小(如 rate.Every(time.Millisecond * 10)),导致每毫秒都要调用一次 tick 计算,高频调用下 time.Now() 成为瓶颈。
- key 应尽量收敛:用 path 而非 full url,去掉 query 中的临时参数(如
ts=、sign=) - 避免每请求 new 一个
rate.Limiter,复用已有实例;若需动态调整速率,用SetLimitAndBurst()而非重建 - 压测时观察
runtime/pprof的rate.limiter.tick和sync.map.LoadOrStore占比,这两处异常高就基本定位到了
限流看似简单,真正难的是 key 的粒度设计和生命周期管理——配额分太粗压不住刷量,分太细则内存和 CPU 双爆,而这两点文档里几乎从不提。
golang免费学习笔记(深入):立即使用
在学习笔记中,你将探索golang的核心概念和高级技巧!











