c++读取大文件方法 c++如何分块读取大文件

陌枫酱_2535

陌枫酱_2535

2026-03-22

896人浏览

原创

fread分块读取大文件更稳定,因可手动控制缓冲区(64kb~1mb),避免内存暴涨和分配失败;std::ifstream需禁用同步机制并分块读取;超大文件推荐mmap按需加载。

c++读取大文件方法 c++如何分块读取大文件

用 fread 分块读取比 std::ifstream 更稳

大文件(比如 >1GB)用 std::ifstream 配合 std::string 或 std::vector<char></char> 一次性读,容易触发内存暴涨或分配失败;fread 手动控制缓冲区大小,更贴近系统调用,出错时也更容易定位是磁盘 I/O 还是内存问题。

常见错误现象:std::bad_alloc、读取速度忽快忽慢、程序卡死在 read() 调用里但没报错。

  • 用 FILE* + fread,缓冲区建议设为 64KB~1MB(size_t buf_size = 1024 * 1024),太小会频繁系统调用,太大无意义
  • 别依赖 fread 返回值等于 buf_size——末尾块通常不满,必须检查实际返回字节数 size_t n = fread(buf, 1, buf_size, fp)
  • Windows 下用 "rb" 模式打开,Linux/macOS 也建议统一用二进制模式,避免换行符误判或截断

std::ifstream 分块读要关掉 std::ios::sync_with_stdio

默认开启的同步机制会让 std::ifstream 内部频繁刷缓冲、锁 stdout/stderr,大文件读取时性能可能比 C 风格低 30% 以上,尤其在多线程环境里容易卡住。

使用场景:你得用 std::string 处理文本行、又不想换 C 风格 API。

  • 开头加 std::ios::sync_with_stdio(false),且最好紧接着 cin.tie(nullptr)
  • 别用 getline 逐行读超长日志文件——行长度不可控,可能一次分配几百 MB;改用 read + 手动找 '\n'
  • 缓冲区用 std::vector<char> buf(1024*1024)</char>,再调 in.read(buf.data(), buf.size()),之后用 in.gcount() 获取真实读入字节数

mmap 在 Linux/macOS 上读超大文件最省内存

当文件远大于可用物理内存(比如 50GB 文件跑在 16GB 内存机器上),mmap 是唯一靠谱方案:内核按需加载页,不提前占满 RAM,且随机访问极快。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

注意:mmap 不是 C++ 标准库功能,是 POSIX 接口,Windows 对应的是 CreateFileMapping,跨平台成本高。

  • Linux 下头文件是 <sys></sys>,关键函数是 mmap 和 munmap
  • 映射后拿到的是 void*,强制转成 const uint8_t* 安全些,避免越界写(只读映射用 PROT_READ)
  • 别对 mmap 返回地址做 delete 或 free——必须用 munmap,否则内存泄漏且下次 mmap 可能失败
  • 小文件(mmap 反而更慢,因为有系统调用开销和页表管理成本

分块读时忘记处理文件末尾边界就崩

几乎所有手写分块逻辑都栽在这儿:假设每次都能读满缓冲区,结果最后一块只有几个字节,后续按固定结构体解析(比如 struct Header)直接越界读,行为未定义——可能读到脏内存、也可能段错误。

典型错误现象:Segmentation fault 发生在文件末尾附近,gdb 显示崩溃在结构体成员访问处,但前面几十万次都没事。

  • 永远以实际读入字节数 n 为准,不是缓冲区大小
  • 如果按记录解析(如每条 128 字节),循环条件得是 pos + sizeof(Record) ,不能写成 <code>pos
  • 用 std::span<const uint8_t></const>(C++20)或 gsl::span 封装当前块,天然带长度检查,比裸指针安全得多

分块读的核心就三点:控制缓冲区大小、严格校验每次读入量、根据用途选底层机制。真正难的不是怎么读,而是读完怎么解析——边界检查漏一丁点,调试起来就不是“读得慢”,而是“读得错”。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.02

6199

3

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2023.09.20

2158

7

javascriptvoid(o)怎么解决
javascriptvoid(o)怎么解决

javascriptvoid(o)的解决办法:1、检查语法错误;2、确保正确的执行环境;3、检查其他代码的冲突;4、使用事件委托;5、使用其他绑定方式;6、检查外部资源等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.11.23

636

5

java中void的含义
java中void的含义

本专题整合了Java中void的相关内容,阅读专题下面的文章了解更多详细内容。

2025.11.27

351

13

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

2023.10.19

3128

3

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

2025.10.17

4829

12

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2025.12.29

3769

9

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

2026.01.19

446

15

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

2023.08.10

4118

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习