C++实现基于时间戳的限流算法 _ 令牌桶与漏桶原理实现【源码】

星伟吖_3324

星伟吖_3324

2026-04-10

989人浏览

原创

结论:C++中用std::chrono和原子变量可实现线程安全、低开销的令牌桶限流,而漏桶在纯内存服务端限流中基本不适用,因其无法应对突发流量,仅适合底层IO等对恒定速率有硬性要求的场景。

c++实现基于时间戳的限流算法 _ 令牌桶与漏桶原理实现【源码】

直接说结论:C++里用 std::chrono + 原子变量就能写出线程安全、低开销的令牌桶,但漏桶在纯内存限流场景下基本没必要实现——它本质是“固定速率消费”,而服务端限流真正要防的是突发流量冲击,令牌桶的“可突增+平滑”特性更贴合实际。

令牌桶:用 std::atomic 和 std::chrono::steady_clock 管理剩余令牌

核心思路不是每秒重置令牌数,而是按需计算“到当前时刻该有多少令牌”,避免定时器或后台线程。关键点:

  • capacity 和 rate_per_sec 是配置项,比如 100 令牌 / 秒,桶容量 200
  • 用 std::atomic 存储上一次填充时间(纳秒级时间戳),而非令牌数量本身,减少竞态
  • 每次请求来时,先算出“应有令牌数 = (now - last_fill_time) * rate_per_sec / 1e9”,再和当前剩余取 min
  • 判断是否允许通行:若 available_tokens >= needed,则原子更新剩余值并返回 true

示例关键片段:

bool tryConsume(int tokens = 1) {
    auto now = std::chrono::steady_clock::now().time_since_epoch().count();
    auto& last = last_fill_time_;
    auto prev = last.load(std::memory_order_relaxed);
    long long avail = 0;
<pre class="brush:php;toolbar:false;">do {
    auto elapsed_ns = now - prev;
    double added = elapsed_ns * rate_per_sec_ / 1e9;
    avail = std::min(static_cast<long long>(added), capacity_);
    if (avail <p>}</p></long>

漏桶不适合做接入层限流:它不解决“突发允许通过”的问题

漏桶强制以恒定速率输出请求,意味着即使桶空了,新请求也得排队等待——这在 HTTP 接入层会放大延迟,且无法应对短时合法突增(如秒杀预热)。常见误用场景:

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
  • 用 std::queue + 定时器模拟“漏水”,结果定时器精度差、线程调度抖动大,实际漏速不可控
  • 把漏桶当成“请求队列长度限制”,但这只是削峰,不是限流;真正的限流必须拒绝而非排队
  • 和令牌桶混用,比如“令牌桶准入 + 漏桶排队”,反而增加延迟和复杂度,没收益

真要用漏桶,只建议在底层 IO 调度或硬件限速等对速率稳定性要求极高的场景,且必须配合高精度时钟(如 CLOCK_MONOTONIC_RAW)和内核 bypass 才有意义。

线程安全与性能陷阱:别用 std::mutex 锁整个桶

高并发下锁桶等于串行化,QPS 直接归零。正确做法:

  • 所有读操作(时间计算、令牌估算)走无锁路径,只在真正扣减时做最小粒度 CAS
  • 避免用 std::time(nullptr) 或 gettimeofday():它们可能回跳,且精度低;必须用 std::chrono::steady_clock
  • 不要把 capacity 设得过大(如 10 万),会导致浮点误差累积,建议控制在 1000 以内,用整数运算替代浮点
  • 如果需要分布式限流,本地令牌桶只能作为兜底,主限流逻辑必须下沉到 Redis + Lua(如 redis-cell)或专用限流服务

最易被忽略的一点:令牌桶的“突发容忍”能力取决于 capacity 和 rate_per_sec 的比值。设成 100/100 和 1000/100,看上去都是 100qps,但后者允许单秒内打满 1000 请求——这个设计权衡,文档里常不写,但线上出问题时全靠它背锅。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++ c++时间戳

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2233

5

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.07

3794

5

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

4978

6

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

2023.08.14

7296

4

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

5029

19

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.14

4615

11

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.02

9032

6

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

683

6

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.07

776

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习