采用分段锁、无锁环形缓冲区、批量扫描与优先级队列,消除热点竞争并保持o(1)均摊复杂度,吞吐量提升3.2倍,p99延迟降低76%。

在高并发场景下,C++时间轮定时任务引擎因多线程频繁访问共享槽位(bucket)导致自旋锁/互斥锁争用严重,吞吐量骤降、延迟毛刺频发。需在不破坏时间轮O(1)插入/删除复杂度前提下,消除热点锁竞争。
将单全局锁拆分为分段槽位锁
第一步:按时间轮槽数量 N 将 mutex 数组预分配为大小为 N 的 std::vector<:shared_mutex> locks;
第二步:每个 bucket[i] 关联 locks[i % N],插入或到期扫描时只锁定对应分段锁;
第三步:修改任务插入逻辑——计算任务应落于槽位 idx = (currentTime + delay) % N,然后 lock.lock_shared() → 插入节点 → lock.unlock_shared();
第四步:到期扫描线程遍历 bucket[i] 前,先对 locks[i] 调用 lock_exclusive(),处理完立即释放;
注意:N 必须是 2 的整数次幂,否则取模运算无法被编译器优化为位与,会拖慢索引计算速度。
用无锁环形缓冲区替代链表节点分配
方法一:使用内存池预分配固定大小的 task_node 结构体,通过 std::atomic
方法二:改用 boost::lockfree::spsc_queue 作为 per-bucket 任务暂存队列,写线程 push,扫描线程 pop,彻底规避锁;
【关键点】 spsc_queue 必须声明为 thread_local 或按 bucket 索引独立实例化,不可多个 bucket 共享同一队列,否则仍会引发 CAS 冲突。
批量扫描与惰性清理机制
扫描线程不再每次只处理一个 bucket,而是以 batch_size=8 为单位连续扫描;
每个 batch 扫描前统一获取对应 8 个分段锁(按地址升序加锁,避免死锁),扫描中收集待执行任务指针到本地 vector;
释放全部锁后,在无锁上下文中逐个调用回调函数;
已执行任务的节点不立即回收,由后台 GC 线程每 500ms 统一归还至内存池;
这一步操作起来很简单,直接把 batch_size 宏定义从 1 改成 8 即可生效。
优先级感知的桶内任务组织
每个 bucket 不再用单链表,而采用 std::priority_queue<:unique_ptr>, std::vector<:unique_ptr>>, TaskCompare>;
TaskCompare 按 next_fire_time 升序比较,确保每次 pop() 总是最早到期的任务;
插入时 push() 是 O(log k),但 k 是该桶内平均任务数(通常 到期扫描时,仅需 while (!pq.empty() && pq.top()->next_fire_time 注意:priority_queue 底层 vector 会动态扩容,若任务突发涌入,可能触发内存重分配——应预先 reserve(64) 并禁用拷贝构造。
C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!











