令牌桶算法最能平滑突发流量,因其采用“预存+按需消耗”机制:恒定速率生成令牌存入固定容量桶中,请求即时获取令牌即可放行,兼顾突发响应与稳定限流。

用令牌桶算法最能平滑突发流量。它允许短时高峰请求,只要桶里有足够令牌就能立刻处理,不卡在固定时间点上,也不像漏桶那样死板匀速。
为什么令牌桶适合应对突发
令牌桶的核心是“预存+按需消耗”:系统以恒定速率生成令牌,存入固定容量的桶中;请求来时只要拿到令牌就放行。这意味着:
- 桶中有100个令牌,瞬间来80个请求,全部能立刻通过
- 后续每秒补充20个令牌,就能持续支撑20 QPS的稳定流量
- 突发和匀速流量共存——既防压垮,又不浪费资源
滑动窗口可缓解临界问题
固定窗口(比如每分钟清零计数器)会在时间边界出现“双倍冲击”,而滑动窗口把1分钟拆成6个10秒小格,实时滚动统计最近60秒总请求数。这样:
在 Java 中初始化和管理阿里云 SDK客户端。包括单例模式、线程安全、endpoint 与 region 配置、VPC 终端节点、同步与异步等。
- 59秒末来的500请求 + 1秒初来的500请求 = 立即触发限流
- 比固定窗口更贴近真实时间维度,避免被恶意卡点绕过
- 实现成本适中,Redis + Lua 或本地环形数组都容易落地
Guava RateLimiter 的 SmoothBursty 模式开箱即用
Java项目直接引入 Guava,一行代码就能启用带突发能力的限流:
RateLimiter limiter = RateLimiter.create(10.0); // 允许平均10 QPS,自动支持突发
它内部结合了令牌桶思想和动态许可分配,无需手动维护桶、时间戳或原子计数器。注意两点:
- 首次获取令牌会阻塞等待(可设超时或用 tryAcquire 非阻塞)
- 突发量默认等于 QPS 值,如需更大弹性,可用 create(double permitsPerSecond, long warmupPeriod, TimeUnit unit) 配置预热期
单机与分布式场景选型建议
单机服务优先用 Guava 或 Hystrix 的内置限流;微服务或网关层需统一管控时,推荐:
- API 网关(如 Spring Cloud Gateway)集成 Redis + Lua 实现滑动窗口
- 关键接口加双重保护:网关层令牌桶控总量,业务层线程池/信号量控并发数
- 避免全量走 Redis——高频低敏感接口可用本地滑动窗口,只对核心路径强依赖分布式限流










