结论:C++中用std::chrono和原子变量可实现线程安全、低开销的令牌桶限流,而漏桶在纯内存服务端限流中基本不适用,因其无法应对突发流量,仅适合底层IO等对恒定速率有硬性要求的场景。

直接说结论:C++里用 std::chrono + 原子变量就能写出线程安全、低开销的令牌桶,但漏桶在纯内存限流场景下基本没必要实现——它本质是“固定速率消费”,而服务端限流真正要防的是突发流量冲击,令牌桶的“可突增+平滑”特性更贴合实际。
令牌桶:用 std::atomic 和 std::chrono::steady_clock 管理剩余令牌
核心思路不是每秒重置令牌数,而是按需计算“到当前时刻该有多少令牌”,避免定时器或后台线程。关键点:
-
capacity和rate_per_sec是配置项,比如 100 令牌 / 秒,桶容量 200 - 用
std::atomic存储上一次填充时间(纳秒级时间戳),而非令牌数量本身,减少竞态 - 每次请求来时,先算出“应有令牌数 = (now - last_fill_time) * rate_per_sec / 1e9”,再和当前剩余取 min
- 判断是否允许通行:若
available_tokens >= needed,则原子更新剩余值并返回 true
示例关键片段:
bool tryConsume(int tokens = 1) {
auto now = std::chrono::steady_clock::now().time_since_epoch().count();
auto& last = last_fill_time_;
auto prev = last.load(std::memory_order_relaxed);
long long avail = 0;
<pre class="brush:php;toolbar:false;">do {
auto elapsed_ns = now - prev;
double added = elapsed_ns * rate_per_sec_ / 1e9;
avail = std::min(static_cast<long long>(added), capacity_);
if (avail <p>}</p></long>
漏桶不适合做接入层限流:它不解决“突发允许通过”的问题
漏桶强制以恒定速率输出请求,意味着即使桶空了,新请求也得排队等待——这在 HTTP 接入层会放大延迟,且无法应对短时合法突增(如秒杀预热)。常见误用场景:
- 用
std::queue+ 定时器模拟“漏水”,结果定时器精度差、线程调度抖动大,实际漏速不可控 - 把漏桶当成“请求队列长度限制”,但这只是削峰,不是限流;真正的限流必须拒绝而非排队
- 和令牌桶混用,比如“令牌桶准入 + 漏桶排队”,反而增加延迟和复杂度,没收益
真要用漏桶,只建议在底层 IO 调度或硬件限速等对速率稳定性要求极高的场景,且必须配合高精度时钟(如 CLOCK_MONOTONIC_RAW)和内核 bypass 才有意义。
线程安全与性能陷阱:别用 std::mutex 锁整个桶
高并发下锁桶等于串行化,QPS 直接归零。正确做法:
- 所有读操作(时间计算、令牌估算)走无锁路径,只在真正扣减时做最小粒度 CAS
- 避免用
std::time(nullptr)或gettimeofday():它们可能回跳,且精度低;必须用std::chrono::steady_clock - 不要把
capacity设得过大(如 10 万),会导致浮点误差累积,建议控制在 1000 以内,用整数运算替代浮点 - 如果需要分布式限流,本地令牌桶只能作为兜底,主限流逻辑必须下沉到 Redis + Lua(如
redis-cell)或专用限流服务
最易被忽略的一点:令牌桶的“突发容忍”能力取决于 capacity 和 rate_per_sec 的比值。设成 100/100 和 1000/100,看上去都是 100qps,但后者允许单秒内打满 1000 请求——这个设计权衡,文档里常不写,但线上出问题时全靠它背锅。
C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!











