C++如何实现高效的无锁双端FIFO任务队列(基于Lock-free Deque数据结构)

阿雪同学_9638

阿雪同学_9638

2026-07-18

970人浏览

原创

直接用 std::deque 不行,因其所有操作非原子、非线程安全,多线程下会触发数据竞争;真正可行的是基于 Michael-Scott 或 Vyukov 的无锁设计,依赖 std::atomic + 内存序 + 环形缓冲区 + 分离 head/tail 指针。

c++如何实现高效的无锁双端fifo任务队列(基于lock-free deque数据结构)

为什么直接用 std::deque 不行?

因为 std::deque 的所有操作(push_front、pop_back 等)都不是原子的,更不保证线程安全。多个生产者/消费者同时操作时,会触发数据竞争,导致崩溃或静默错误——哪怕加了互斥锁,也违背“无锁”前提。

真正可行的方案是基于 Michael-Scott 或 Dmitry Vyukov 的无锁 deque 设计,核心依赖 std::atomic + 内存序控制 + 循环缓冲区 + 分离的 head/tail 指针。主流实现如 boost::lockfree::deque(注意:它仅支持固定容量且非完全无锁)或自行实现的 ringbuffer + 双指针方案。

  • 必须用 std::atomic<intptr_t></intptr_t> 或 std::atomic<size_t></size_t> 存储索引,不能用普通整型
  • 所有读写必须指定内存序:memory_order_acquire(读)、memory_order_release(写)、memory_order_acq_rel(CAS)
  • 避免 ABA 问题:简单用 std::atomic 自增索引不够,需配合 tag bits 或 hazard pointer(对 FIFO 场景,若只允许单生产者单消费者,可简化)

单生产者单消费者(SPSC)下最简可行实现

这是唯一能避开 ABA 和内存重排陷阱、又保持高性能的起点。此时无需 CAS,只需两个原子指针 + 缓冲区大小为 2 的幂(便于位运算取模)。

template<typename t size_t capacity>
class spsc_lockfree_deque {
    static_assert((CAPACITY & (CAPACITY - 1)) == 0, "CAPACITY must be power of 2");
    alignas(64) std::atomic<size_t> head_{0};  // producer index
    alignas(64) std::atomic<size_t> tail_{0};  // consumer index
    T buffer_[CAPACITY];
<p>public:
bool try_push<em>front(const T& item) {
auto h = head</em>.load(std::memory_order<em>relaxed);
auto t = tail</em>.load(std::memory_order<em>acquire);
if ((h - t) == CAPACITY) return false; // full
buffer</em>[h & (CAPACITY - 1)] = item;
head_.store(h + 1, std::memory_order_release);
return true;
}</p>
<pre class="brush:php;toolbar:false;">bool try_pop_back(T& out) {
    auto t = tail_.load(std::memory_order_relaxed);
    auto h = head_.load(std::memory_order_acquire);
    if (t == h) return false; // empty
    out = std::move(buffer_[t & (CAPACITY - 1)]);
    tail_.store(t + 1, std::memory_order_release);
    return true;
}

};

注意:try_push_front 和 try_pop_back 是 FIFO 行为(头进尾出),若真要双端操作(如 push_front/pop_front + push_back/pop_back),必须升级为双指针+双缓冲或改用带版本号的 CAS —— 复杂度陡增,且多数任务队列其实只需要一端入、一端出。

C++ Code Review Master
C++ Code Review Master

组合式C++代码评审方案,融合静态分析、AI推理、多轮迭代评审和C++专项检查,适用于PR审查、增量代码审查、全项目评审和代码质量评分,触发词包括review cpp、cpp代码评审、C++review、代码审查。

下载

多生产者多消费者(MPMC)时绕不开的坑

一旦允许多线程同时 push_front 和 push_back,就必须处理两个关键冲突:

  • head 和 tail 指针的并发更新:必须用 compare_exchange_weak,且循环重试;失败后需重新 load 当前值,不能直接 ++
  • 缓冲区边界检查变成竞态点:比如两个线程同时判断 “是否满”,都得到 false,然后都写入同一位置
  • 内存伪共享(false sharing):head_ 和 tail_ 若在同个 cache line,会严重拖慢性能 —— 必须用 alignas(64) 隔开

实际项目中,除非业务明确要求高吞吐双端插入/删除(如实时音视频帧调度),否则建议退一步:用单个无锁 ringbuffer + 任务类型字段(例如 enum class task_type { normal, urgent }),把“前端插入”逻辑移到业务层,避免在原子操作里做分支判断。

别忽略平台和编译器约束

无锁代码不是写完就能跑。x86 上 std::atomic 的 relaxed 序基本等价于普通读写,但 ARM/AArch64 默认不保证 store-store 重排,必须显式用 memory_order_release;Clang/GCC 对 atomic_thread_fence 的优化行为也有差异。

  • 务必用 -march=native 或至少 -march=haswell 编译,确保生成 lock xadd 等原语
  • 禁止在无锁结构里存储 non-trivial 类型(如含虚函数、自定义析构的类)—— 移动构造必须是 trivial,否则 std::move 可能触发锁或异常,破坏无锁假设
  • 调试时禁用优化(-O0)会导致内存序失效,测试必须用 -O2 -DNDEBUG

真正稳定的无锁 deque 往往不是从零手写,而是基于 proven 实现(如 folly::DistributedMutex 配套的 folly::MPMCQueue 改造,或 moodycamel::ConcurrentQueue 的定制版)—— 自研只适合极特殊场景,且必须经过 ThreadSanitizer + libcds test suite 验证。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++ c++编程 c++入门教程

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2228

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

999

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

427

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

307

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

406

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

580

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1389

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1197

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Conan 2 Essentials 免费课程
Conan 2 Essentials 免费课程

共0课时 | 0人学习

CMake 与 Conan 集成实践
CMake 与 Conan 集成实践

共0课时 | 0人学习

Conan 2 高级依赖模型介绍
Conan 2 高级依赖模型介绍

共0课时 | 0人学习