C++如何实现高效的线程安全LRU缓存系统

轻静君_7703

轻静君_7703

2026-06-17

592人浏览

原创

不能只用一把 std::mutex 锁住整个 get() 和 put(),否则吞吐量断崖式下降;应使用 std::shared_mutex 区分读写:get() 用 shared_lock 并发,put() 用 unique_lock 排他,并注意 splice() 参数顺序、淘汰顺序、智能指针优化及迭代器有效性。

c++如何实现高效的线程安全lru缓存系统

为什么不能只用一把 std::mutex 锁住整个 get() 和 put()

吞吐量会断崖式下降——所有读请求(get())和写请求(put())串行排队,哪怕并发读多于写,也完全无法利用多核。真实业务中,读占比常超 90%,锁粒度太粗直接让缓存变成瓶颈。

正确做法是区分读写场景:get() 只需查 map + 移动链表节点,全程可并发;put() 涉及插入、淘汰、更新,必须排他。C++17 的 std::shared_mutex 正为此设计:

  • std::shared_lock<:shared_mutex></:shared_mutex> 用于 get():多个线程可同时持有共享锁
  • std::unique_lock<:shared_mutex></:shared_mutex> 用于 put():写操作独占,自动阻塞其他读写

注意:不要在 get() 中提前释放锁再调用 splice() —— splice() 需要访问链表和 map,必须在锁内完成,否则竞态下迭代器可能已被其他线程 erase。

std::list::splice() 参数顺序为什么总写错

常见错误是写成 cache_list_.splice(cache_list_.begin(), it->second),这会触发编译失败或运行时崩溃。因为 splice() 的三参数重载签名是:splice(pos, list, it),含义是「把 it 指向的节点,插入到 pos 之前」,不是「插入到 pos 位置」。

所以要把节点移到头部,必须写成:

cache_list_.splice(cache_list_.begin(), cache_list_, it->second);

漏掉第二个参数 cache_list_,编译器会匹配到单链表版本(forward_list),而 std::list 不支持;写成 cache_list_.splice(cache_list_.begin(), it->second) 则匹配错误重载,行为未定义。

另外:it->second 是 std::list::iterator,不是指针,不能解引用后传 —— splice() 要的就是迭代器本身。

淘汰尾部节点时,为什么必须先删 unordered_map 再删 list

顺序反了就会留下悬空迭代器:如果先 cache_list_.pop_back(),被删节点的迭代器立即失效,但 cache_map_[key] 还指着它;下次 get(key) 解引用这个迭代器,就是未定义行为(UB),轻则返回垃圾值,重则段错误。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

标准做法是:

  • 取尾部节点:auto last = cache_list_.back()
  • 从 map 中擦除:cache_map_.erase(last.first)
  • 再从 list 中移除:cache_list_.pop_back()

这个顺序保证 map 里永远不存指向已销毁节点的迭代器。同理,在 put() 更新已有 key 时,也不能直接赋值 cache_map_[key] = cache_list_.begin() —— 这会触发 unordered_map::operator[] 默认构造旧值再赋值,异常风险高;应改用 cache_map_.insert_or_assign(key, cache_list_.begin())(C++17)。

Value 类型大时,怎么避免拷贝放大开销

如果 V 是 std::string 或自定义大对象,emplace_front(key, value) 会触发一次拷贝(或移动),而 splice() 移动节点时又涉及一次移动 —— 累计开销不可忽视。

更优解是存储智能指针:

  • 用 std::list<:pair std::unique_ptr>>></:pair> 替代 std::list<:pair v>></:pair>
  • map 存迭代器仍不变:std::unordered_map<k std::list>::iterator></k>
  • put() 时直接构造 std::make_unique<v>(std::move(value))</v>,零拷贝入链表

注意:别用 std::shared_ptr —— 引用计数原子操作有额外开销,且破坏 splice() 的 O(1) 保证(需更新控制块);std::unique_ptr 移动无开销,且与 list 完全兼容。

最易被忽略的是迭代器有效性边界:只要没调用 erase() 或 clear(),std::list 迭代器就一直有效;但一旦发生淘汰或清空,所有对应 map 中的迭代器必须同步清除——这点没有编译器检查,全靠逻辑严谨性兜底。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2268

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1039

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

447

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

327

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

426

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

600

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1429

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1237

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习