C++实现高性能时间轮任务调度 _ 解决高并发定时器性能瓶颈方案【源码】

酷丽君_4428

酷丽君_4428

2026-05-08

177人浏览

原创

std::chrono+std::thread无法扛住万级定时任务,因线程开销大、调度压力剧增,轮询精度低且不支持动态增删;时间轮通过环形数组实现o(1)插入/触发,以空间换时间提升 scalability。

c++实现高性能时间轮任务调度 _ 解决高并发定时器性能瓶颈方案【源码】

为什么 std::chrono + std::thread 无法扛住万级定时任务

直接用 std::this_thread::sleep_for 轮询或为每个定时任务起一个线程,在任务数超过几百后就会明显卡顿甚至崩溃。根本原因是:线程创建/销毁开销大,系统调度压力陡增;而轮询 sleep 模式下,精度和响应延迟不可控,且无法动态增删任务。

时间轮(Timing Wheel)本质是空间换时间:把时间轴“折叠”成固定大小的环形数组,每个槽位挂一个任务链表,指针每 tick 前进一步——插入、删除、触发都稳定 O(1),不随任务总数增长。

  • 单层时间轮适合短周期高频任务(如 10ms~5s),槽位数通常取 256 或 512,避免 cache line false sharing
  • 若需支持小时级延迟,必须用多级时间轮(如 Kafka 的层级设计),但绝大多数服务端场景用单层 + 两级哈希桶就足够
  • 注意 std::chrono::steady_clock 是唯一可靠时钟源,system_clock 可能被 NTP 调整导致跳变

如何用 std::array + std::vector 实现无锁单层时间轮

核心结构是 std::array<:vector>, 256></:vector>,其中 Task 至少包含 expire_time(绝对时间点)、callback(std::function<void></void>)、id(用于取消)。关键不在“轮子”,而在怎么把任务映射到槽位并处理溢出。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
  • 槽位索引 = (expire_time / tick_ms) % wheel_size,tick_ms 一般设为 10 或 50(太小导致频繁 tick,太大降低精度)
  • 同一槽位内任务必须按 expire_time 排序,否则提前触发会漏掉更早到期的任务;推荐插入时二分查找位置,而非事后排序
  • 不要在 tick 线程里直接执行 callback——尤其当 callback 可能阻塞或抛异常时。应把待执行任务 move 出来,再在 worker 线程池中 dispatch
  • 取消任务靠 id 查找并 erase,但 vector erase 是 O(N);实际可改用 std::list 或带 freelist 的自定义池,不过多数场景下用 std::vector + 标记删除(lazy cleanup)更缓存友好

std::atomic + memory_order_relaxed 足够支撑 tick 指针推进吗

时间轮的 tick 指针(当前槽位索引)只需单写多读,且业务逻辑允许“最多晚 1 个 tick 触发”,因此 std::atomic<uint8_t></uint8_t> 配 memory_order_relaxed 完全够用,比 acquire/release 快 3~5 倍(实测 L1 cache miss 减少)。

  • tick 线程用 while(true) { ptr.fetch_add(1, std::memory_order_relaxed); std::this_thread::sleep_for(10ms); } 即可,无需锁或 CAS 循环
  • 插入任务时读取 ptr.load(std::memory_order_relaxed) 计算槽位,即使读到旧值也只影响最多 1 个 tick 的偏差,符合设计预期
  • 切忌对 ptr 使用 memory_order_seq_cst——它会强制全局内存栅栏,在多核下显著拖慢 tick 频率

为什么不能直接用 boost::asio::steady_timer 或 libuv 的 timer

这些库的定时器底层仍是红黑树或最小堆,插入/删除复杂度 O(log N)。当并发任务达 10k+ 且每秒新增/取消数百个时,堆调整开销会吃掉大量 CPU,且难以做批量过期扫描优化。

  • boost::asio::steady_timer 单实例只能管理一个定时器,要管多个就得用 basic_waitable_timer 数组,内存碎片和调度开销反而更大
  • libuv 的 uv_timer_t 虽支持重复,但所有 timer 共享一个堆,高负载下 heapify 成为瓶颈(perf record 显示 uv__timer_cmp 占 CPU 15%+)
  • 时间轮天然支持批量扫描:每次 tick 只需遍历一个 vector,cache 局部性极好;而堆每次都要从根往下 sift,随机访存严重

真正难的不是实现轮子,而是决定哪些任务该进时间轮、哪些该走 event loop 原生 timer——比如连接超时放时间轮,HTTP 请求重试放 asio timer,这种混合策略比纯时间轮更稳。另外,时间轮不解决回调执行耗时问题,得配合限流和异步化,否则 tick 线程一卡,整个调度就积压。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

c++ 性能瓶颈

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2248

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1039

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

447

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

327

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

426

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

600

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1409

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1217

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习