C++实现内存映射文件的高效读取 _ mmap与指针重解释操作【源码】

夏磊酱_8946

夏磊酱_8946

2026-05-07

761人浏览

原创

mmap读大文件比fread快,因其将文件直接映射至进程虚拟内存,省去内核/用户态数据拷贝与系统调用开销,访问即内存操作;但需注意懒映射、页对齐、错误检查及适用场景。

c++实现内存映射文件的高效读取 _ mmap与指针重解释操作【源码】

为什么直接用 mmap 读大文件比 fread 快?

因为 mmap 把文件逻辑地址直接映射进进程虚拟内存,后续访问就像读数组一样——不触发系统调用、无内核态/用户态切换、还能靠页缓存自动预取。但前提是文件得是普通文件、有确定大小、且你愿意用指针算术而非流式接口。

常见误区是以为只要 mmap 就一定快:如果只读几 KB,或频繁随机跳转且命中率低,反而可能因缺页中断拖慢;另外,mmap 不保证立即加载物理页,首次访问仍会阻塞。

  • 必须检查 mmap 返回值是否为 MAP_FAILED,否则后续指针解引用会段错误
  • 映射长度不能超过文件实际大小(stat.st_size),否则读越界行为未定义
  • PROT_READ 足够时别加 PROT_WRITE,避免内核多分配写时复制页

如何安全地把 mmap 返回的 void* 转成结构体指针?

直接 reinterpret_cast<mystruct>(addr)</mystruct> 是常见做法,但前提是:结构体必须是标准布局(std::is_standard_layout_v<mystruct></mystruct> 为 true),且文件中二进制布局与当前平台的对齐、字节序完全一致。

例如读一个固定 64 字节头 + 后续连续 int32_t 数组的二进制日志文件:

struct LogHeader {
    uint32_t version;
    uint32_t entry_count;
    char reserved[56];
};
// 确保没 padding:static_assert(sizeof(LogHeader) == 64);
auto header = reinterpret_cast<logheader>(mapped_addr);
auto entries = reinterpret_cast<int32_t>(mapped_addr + sizeof(LogHeader));
</int32_t></logheader>
  • 务必用 static_assert 校验结构体大小和字段偏移,尤其跨平台或含 #pragma pack 时
  • 不要对映射区做 delete 或 free —— 必须用 munmap
  • 若文件含浮点数或指针字段,重解释前需确认字节序(如网络字节序需 ntohl)

mmap 映射后,指针越界访问会怎样?

不会立刻崩溃,但结果不可控:可能读到相邻内存页的脏数据、触发 SEGV_MAPERR、或静默返回 0(取决于页表状态和 CPU)。Linux 下典型表现是收到 SIGSEGV,默认终止进程。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

调试建议:

  • 用 valgrind --tool=memcheck 检测非法地址访问(注意:valgrind 不支持 mmap 的所有 flag,部分场景会报错退出)
  • 映射时加 MAP_NORESERVE 并配合 mincore() 预热关键页(减少首次访问延迟)
  • 对边界敏感的操作(如解析变长记录),始终用 mapped_len - current_offset >= needed_bytes 做运行时检查

关闭映射前,要不要 msync?

只读场景完全不需要。只有你用 PROT_WRITE 修改了映射内容,并希望确保这些修改落盘到文件,才需要 msync(mapped_addr, len, MS_SYNC)。但要注意:MS_SYNC 是阻塞的,性能代价高;MS_ASYNC 仅提交写请求,不等落盘。

更常见的误用是:映射时用了 MAP_PRIVATE 却还调 msync——这无效,因为私有映射的修改不会写回原文件。

  • 写共享映射(MAP_SHARED)且需强持久性时,msync + fdatasync(fd) 才算完整落盘
  • 映射关闭前未 msync,而进程意外退出,修改会丢失
  • munmap 本身不触发同步,它只是释放虚拟内存映射关系

真正容易被忽略的是文件描述符生命周期:mmap 不增加 fd 引用计数,close(fd) 后映射仍有效,但后续 ftruncate 或文件删除会影响映射行为。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2248

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1019

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

427

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

327

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

406

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

580

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1409

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1217

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习