c++如何利用内存映射文件提高IO性能_mmap用法详解【深度】

陌伟酱_3589

陌伟酱_3589

2026-04-10

452人浏览

原创

mmap仅在随机访问大文件、多进程共享、避免拷贝三类场景有优势;顺序读小文件用read更高效,错误参数设置或忽略msync将导致段错误、数据不落盘或性能归零。

c++如何利用内存映射文件提高io性能_mmap用法详解【深度】

mmap 不是万能加速器,用错反而比 read/write 慢得多;它只在随机访问大文件、多进程共享、避免拷贝这三类场景下有明确优势。

什么时候该用 mmap,而不是 std::ifstream 或 read

核心判断依据是访问模式和数据规模:

  • 顺序读一个 10MB 日志文件?std::ifstream + read 配合 64KB 缓冲区更稳,mmap 带来额外页表开销,无收益
  • 需要频繁跳转读取 TB 级数据库索引文件的任意 offset?必须用 mmap,否则每次 lseek+read 都触发内核拷贝和上下文切换
  • 多个进程要同时读写同一配置段(如共享内存式通信)?mmap + MAP_SHARED 是唯一低开销方案
  • 文件小于 4KB?直接 read 更快——mmap 至少占用一个页(通常 4KB),小文件纯属浪费

mmap 调用时最关键的三个参数怎么设

错误设置会导致段错误、数据不落盘、或性能归零:

  • prot:读就只用 PROT_READ,写才加 PROT_WRITE;混用 PROT_EXEC 在现代系统上基本被禁用,且毫无必要
  • flags:只读场景一律用 MAP_PRIVATE(写时复制,安全);需持久化修改必须用 MAP_SHARED,否则 msync 无效
  • offset:必须是系统页大小整数倍(getpagesize() 返回值,通常是 4096);传 123 会直接失败并返回 MAP_FAILED

示例:映射文件第 2GB 处开始的 1MB 只读区域

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
int fd = open("data.bin", O_RDONLY);
off_t offset = 2ULL * 1024 * 1024 * 1024; // 必须对齐
size_t length = 1024 * 1024;
void* ptr = mmap(nullptr, length, PROT_READ, MAP_PRIVATE, fd, offset & ~(getpagesize()-1));
// 注意:offset 被手动对齐,不是直接传原值

为什么改了映射内存,磁盘文件没更新

这是最常被忽略的持久化陷阱。即使用了 MAP_SHARED,操作系统也不会立即刷盘:

  • 修改后不调 msync(ptr, len, MS_SYNC),数据只留在页缓存,进程退出或系统崩溃即丢失
  • MS_ASYNC 仅触发后台刷盘,无法保证何时完成,适合日志类容忍丢失的场景
  • 仅靠 munmap 不触发同步,close(fd) 也不管这事——mmap 和 fd 生命周期解耦
  • 若需强一致性(如数据库 WAL),应在关键点显式 msync(..., MS_SYNC),并检查返回值是否为 0

局部映射和预取怎么配合才能真提速

全量映射 TB 文件会耗尽虚拟地址空间(尤其 32 位进程),而预取不加则顺序扫描仍卡在缺页中断上:

  • 用 mio::make_mmap 或手动 mmap 指定 length 和对齐 offset,只映射当前需要的块(例如 128MB 片段)
  • 在循环中访问前,用 __builtin_prefetch(ptr + offset, 0, 3) 提前加载后续缓存行;数字 3 表示“尽可能快地预取”,对顺序扫描最有效
  • 避免在热循环里反复 mmap/munmap:映射/解映射本身有开销,应复用映射区域或按需滑动偏移
  • 实测显示:10GB 文件顺序扫描,加预取 + 局部映射(每次 256MB)比全量映射快 1.7 倍,内存峰值降低 82%

真正难的不是调通 mmap,而是判断哪一段该映射、什么时候该预取、以及数据到底有没有真正落盘——这些决策没法自动化,得贴着业务逻辑算。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
length函数用法
length函数用法

length函数用于返回指定字符串的字符数或字节数。可以用于计算字符串的长度,以便在查询和处理字符串数据时进行操作和判断。 需要注意的是length函数计算的是字符串的字符数,而不是字节数。对于多字节字符集,一个字符可能由多个字节组成。因此,length函数在计算字符串长度时会将多字节字符作为一个字符来计算。更多关于length函数的用法,大家可以阅读本专题下面的文章。

2023.09.19

2007

6

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

3185

3

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2023.08.14

4221

10

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

2023.08.31

3571

3

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.05

1107

5

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

3107

5

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2023.10.16

3087

4

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2023.10.16

2993

3

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

2023.10.19

2901

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习