c++如何利用内存映射读取超大文件_CreateFileMapping与mmap【进阶】

梦枫小哥_4434

梦枫小哥_4434

2026-03-31

574人浏览

原创

应分块映射超大文件:windows用mapviewoffile按4–64mb分段映射并确保偏移对齐dwallocationgranularity,linux用mmap配合madvise(madv_willneed)替代map_populate,并严格校验访问边界。

c++如何利用内存映射读取超大文件_createfilemapping与mmap【进阶】

Windows 下用 CreateFileMapping 读超大文件,别直接映射整个文件

映射几十 GB 文件时,CreateFileMapping 调用成功不代表内存就到位了——它只创建映射对象,真正触发页错误(page fault)时才从磁盘拉数据。但若你 MapViewOfFile 映射了全部视图,系统可能立刻尝试提交大量物理页,导致 ERROR_COMMITMENT_LIMIT 或卡死。

实操建议:

  • 按需映射:用 MapViewOfFile 的 dwNumberOfBytesToMap 参数控制每次只映射几 MB(比如 4–64 MB),避开单次大映射
  • 映射前调用 SetFileValidData(需管理员权限)可跳过零初始化,提速;但仅适用于你确定后续会写满该区域的场景
  • 注意 SEC_COMMIT 和 SEC_RESERVE 标志区别:前者立即分配页面,后者只预留地址空间——读文件用 SEC_COMMIT 即可,别混用

Linux 下 mmap 映射超大文件,MAP_POPULATE 不是万能加速键

加 MAP_POPULATE 确实会让 mmap 返回前预读页面,但对上百 GB 文件,它会阻塞很久,且可能因内存不足被 OOM killer 干掉——尤其在没有 swap 或 vm.swappiness=0 的机器上。

实操建议:

  • 去掉 MAP_POPULATE,改用 madvise(fd, MADV_WILLNEED) 提前提示内核预读,更轻量、可控
  • 读取时用 mincore() 检查某段是否已入内存,避免盲等;但注意它不保证原子性,返回 1 只表示“当前在内存”,下一秒可能就被换出
  • mmap 后别直接 memset 整块——这会强制所有页提交,等同于自造 MAP_POPULATE

跨平台代码里,MapViewOfFile 和 mmap 的偏移对齐要求不一样

Windows 要求 MapViewOfFile 的 dwFileOffsetLow/dwFileOffsetHigh 必须是系统分配粒度(GetSystemInfo().dwAllocationGranularity,通常是 64 KB)的整数倍;Linux 的 mmap 则要求 offset 是 getpagesize()(通常 4 KB)的倍数。两者不兼容,硬写死 4 KB 对齐在 Windows 上会失败。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

实操建议:

  • Windows 下用 GetSystemInfo 获取 dwAllocationGranularity,并把文件偏移向上对齐到该值
  • Linux 下用 sysconf(_SC_PAGESIZE) 获取页大小,偏移对其对齐
  • 不要用 #define ALIGN 4096 统一处理——这是最常踩的跨平台坑

映射后访问越界不会立刻报错,但 ACCESS_VIOLATION 或 Segmentation fault 很难定位

内存映射区域外的读写,不会像普通数组越界那样触发编译器检查或 std::out_of_range,而是由 MMU 在硬件层抛异常。Windows 上表现为未捕获的 EXCEPTION_ACCESS_VIOLATION,Linux 上是 SIGSEGV,堆栈里往往只剩汇编帧,看不出哪行 C++ 代码越界。

实操建议:

  • 每次 MapViewOfFile / mmap 后,用变量明确记录映射长度(不是文件长度),所有指针运算必须基于该长度做边界检查
  • 调试时 Windows 可用 VirtualQuery 查某地址是否在映射区内;Linux 用 /proc/self/maps 手动比对
  • 禁用 -O2 以上优化再调试——编译器可能把边界检查优化掉,让问题更隐蔽

真正麻烦的不是映射本身,而是你忘了映射区是虚拟地址空间的一部分:它不自动随文件增长而扩展,也不帮你做并发读保护,更不会在 std::vector 里安静待着。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
typedef和define区别
typedef和define区别

typedef和define区别在类型检查、作用范围、可读性、错误处理和内存占用等。本专题为大家提供typedef和define相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.26

313

5

define的用法
define的用法

define用法:1、定义常量;2、定义函数宏:3、定义条件编译;4、定义多行宏。更多关于define的用法的内容,大家可以阅读本专题下的文章。

2023.10.11

619

5

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

2026.04.23

359

31

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

5727

5

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.10

2468

6

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

5727

5

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.10

2468

6

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.26

3219

3

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.27

2778

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习