C++如何实现高效的无锁双端任务队列(Lock-free Deque数据结构)

陌涛大大_6268

陌涛大大_6268

2026-07-17

976人浏览

原创

std::deque不能用于无锁并发场景,因其所有成员函数均非原子操作,存在非原子内存访问与重分配逻辑,多线程调用会破坏数据一致性;真正无锁双端队列需底层控制原子指针/索引、规避aba问题、严格约束内存序。

c++如何实现高效的无锁双端任务队列(lock-free deque数据结构)

为什么标准库的 std::deque 不能直接用于无锁并发场景

因为 std::deque 的所有成员函数(包括 push_front、pop_back)都不是原子操作,内部有多个非原子内存访问和潜在的重分配逻辑。多线程同时调用时会破坏数据结构一致性,哪怕只读+只写分离也无法保证安全——它根本没设计成并发友好。

真正能用于无锁双端队列的,必须从底层控制指针/索引的原子更新、避免 ABA 问题、并严格约束内存序。常见错误是直接用 std::atomic<t></t> 包裹节点指针却忽略 load/store 的 memory_order 选择,导致看似跑通实则偶发崩溃。

  • 所有指针操作必须搭配 memory_order_acquire(读)和 memory_order_release(写),关键 CAS 操作通常需 memory_order_acq_rel
  • 不能复用已释放节点的地址——必须用带版本号的指针(如 atomic<uint64_t></uint64_t> 存 ptr + (version )或 <code>hazard pointer / RCU 管理生命周期
  • std::atomic_thread_fence 在多数情况下多余,依赖正确设置的原子操作内存序即可,滥用反而拖慢性能

Steal-First 双端队列比 Strict-FIFO 更适合无锁实现

严格要求两端都强一致(比如 push_front 和 pop_front 必须精确配对)会导致极高的 CAS 冲突率和复杂回退逻辑。实际高性能任务调度器(如 Intel TBB、Folly)都采用“偷取优先”模型:工作线程主用本地尾部 push/pop,仅当本地空时才尝试从其他线程头部“偷”一个任务。

这种设计把竞争点从两个方向压到一个方向(偷取端),大幅降低冲突概率。示例核心结构:

struct Node {
    std::atomic<node> next{nullptr};
    Task task;
};
<p>struct LockFreeDeque {
std::atomic<node>> head{nullptr};
std::atomic<node>> tail{nullptr};
// 注意:head/tail 不直接暴露给用户,只供 steal 使用
};</node></node></p></node>
  • 本地 push 和 pop 操作只需 CAS 更新 tail 或 head,不涉及跨线程同步
  • steal 操作只读 head 并尝试 CAS 更新,失败即放弃,不阻塞也不重试多次
  • 节点内存回收必须异步,推荐使用 std::atomic<:shared_ptr>></:shared_ptr> 配合引用计数,或更轻量的 epoch-based reclamation

如何避免 ABA 问题导致的节点丢失

典型现象:线程 A 读到 head == p,被抢占;线程 B 把 p 弹出、释放、又新建一个新节点恰好复用同一地址 p;线程 A 恢复后 CAS 成功,但实际操作的是新节点,旧节点被跳过甚至 double-free。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

最简可靠解法不是用 std::atomic<uintptr_t></uintptr_t> 拼版本号(易溢出且平台相关),而是改用 std::atomic<uint64_t></uint64_t> 存 “指针+版本”:低 48 位存地址,高 16 位存版本号,每次 CAS 前递增版本。

  • 定义辅助函数:inline uint64_t pack_ptr(Node* p, uint16_t ver) { return (static_cast<uint64_t>(ver) (p); }</uint64_t>
  • CAS 时用 compare_exchange_weak 对整个 uint64_t 字段,确保指针和版本同时校验
  • 版本号只需在每次修改 head/tail 时自增,无需全局同步,每个字段独立维护即可

生产环境慎用纯无锁 deque,优先考虑混合方案

真实服务中,95% 以上的任务入队/出队发生在单一线程上下文(比如事件循环主线程 push,工作线程 pool pop),此时用细粒度互斥锁(std::mutex)保护两端操作,性能损失几乎不可测,而代码可维护性、调试难度、内存安全边界远优于手写无锁结构。

只有当你明确观测到:perf record -e cache-misses 显示大量缓存行失效,且 std::mutex 的 contention 占 CPU 时间 > 5%,才值得投入精力实现无锁版本。并且——

  • 务必用 thread_local 缓存本地节点池,避免频繁 malloc/free
  • 禁止在 deque 节点析构中调用虚函数或可能触发锁的操作(如 std::cout)
  • 所有原子操作必须通过 clang/gcc 的 -march=native 编译,并确认目标 CPU 支持 cmpxchg16b(x86-64)或 ldaxp/stlxp(ARM64)

无锁结构的 bug 往往在高负载下数小时才复现一次,且无法用 ASan/TSan 完全覆盖。写之前,先问自己:这个队列真的比带锁版本快吗?快多少?值不值得赌上稳定性。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2248

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1019

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

447

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

327

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

406

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

580

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1409

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1217

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习