c++异步文件读写方法 c++如何实现非阻塞文件IO

云丽酱_4389

云丽酱_4389

2026-03-28

588人浏览

原创

std::async + std::ifstream 无法实现真正异步文件读取,因其底层仍为同步系统调用;可行方案仅有os原生异步接口(如linux io_uring、windows重叠io)或线程池封装同步操作。

c++异步文件读写方法 c++如何实现非阻塞文件io

std::async + std::ifstream 不能真正异步读文件

这是最常踩的坑:用 std::async(std::launch::async, []{ std::ifstream f("a.txt"); ... }) 看似“开了线程”,但底层仍是同步系统调用,文件打开、read()、close() 全部阻塞线程。操作系统没提供真正的非阻塞文件句柄支持(不像 socket 有 O_NONBLOCK),所以 C++ 标准库所有流类(std::ifstream、std::fstream)天然不支持非阻塞 IO。

真正可行的路径只有两条:用 OS 原生异步接口(Linux 的 io_uring 或 aio_read,Windows 的 ReadFileEx),或者把同步操作扔进线程池——后者更通用,但不是“内核级异步”。

Linux 下用 io_uring 实现零拷贝异步读

io_uring 是目前 Linux 上性能最好、最接近“真异步”的文件 IO 方案,它能提交读写请求后立即返回,完成时通过轮询或事件通知。比传统 aio 更轻量、无信号干扰、支持缓冲区共享。

实操要点:

  • 需 kernel ≥ 5.1,编译时链接 -luring
  • 初始化一次 io_uring 实例,复用 ring 结构体,避免反复 setup/teardown 开销
  • 读文件前必须用 openat() 获取 fd,并确保文件以 O_DIRECT 打开(绕过页缓存),否则 io_uring 会退化为同步路径
  • 提交 io_uring_prep_read() 时,用户缓冲区必须是 page-aligned(可用 posix_memalign() 分配)

示例关键片段:

struct io_uring ring;
io_uring_queue_init(32, &ring, 0);
int fd = openat(AT_FDCWD, "data.bin", O_RDONLY | O_DIRECT);
void *buf;
posix_memalign(&buf, 4096, 4096);
io_uring_sqe *sqe = io_uring_get_sqe(&ring);
io_uring_prep_read(sqe, fd, buf, 4096, 0);
io_uring_sqe_set_data(sqe, my_ctx);
io_uring_submit(&ring);

Windows 上用 CreateFile + ReadFileEx 做重叠 IO

Windows 文件句柄支持重叠(overlapped)IO,配合 ReadFileEx 和 APC(Asynchronous Procedure Call)或 I/O 完成端口(IOCP),可实现真正的异步读。注意:必须用 FILE_FLAG_OVERLAPPED 打开文件,且不能对普通 NTFS 本地文件使用 FILE_FLAG_NO_BUFFERING(否则报错 ERROR_INVALID_PARAMETER)。

C++ Code Review Master
C++ Code Review Master

组合式C++代码评审方案,融合静态分析、AI推理、多轮迭代评审和C++专项检查,适用于PR审查、增量代码审查、全项目评审和代码质量评分,触发词包括review cpp、cpp代码评审、C++review、代码审查。

下载

常见错误现象:

  • 忘记在 CreateFile 中传 FILE_FLAG_OVERLAPPED → ReadFileEx 直接返回 false,GetLastError() 是 ERROR_IO_PENDING 以外的值
  • APC 函数在非 Alertable 状态下不会触发 → 必须用 SleepEx(0, TRUE) 或 WaitForSingleObjectEx(h, timeout, TRUE)
  • 缓冲区生命周期管理出错:APC 回调执行时,原始栈变量已销毁,导致读到垃圾数据

关键参数检查点:CreateFile(..., FILE_ATTRIBUTE_NORMAL | FILE_FLAG_OVERLAPPED, ...)、OVERLAPPED 结构体必须 zero-initialized、hEvent 字段设为 NULL(用 APC 时)

跨平台妥协方案:线程池 + 同步 read/write

如果你不需要极致吞吐、也不愿绑定特定系统 API,用线程池封装 read()/write() 是最稳的选择。它不减少系统调用次数,但能避免主线程卡死,对大多数应用足够。

注意事项:

  • 不要为每次读写都创建新线程——用固定大小线程池(如 4–8 线程),避免上下文切换开销
  • 文件描述符(fd)本身是进程级资源,多线程读同一文件需自行同步 offset(用 pread/pwrite 最安全,避免 lseek + read 的竞态)
  • Linux 下普通文件用 O_CLOEXEC 打开,防止 fork 子进程时意外继承 fd
  • C++20 的 std::jthread 比 std::thread 更适合做任务包装,自动 join,不易泄漏

一个极简封装示意:

auto async_read = [](int fd, size_t off, size_t sz) -> std::future<:vector>> {
    return std::async(std::launch::async, [fd, off, sz]{
        std::vector<char> buf(sz);
        ssize_t r = pread(fd, buf.data(), sz, off);
        if (r 

<p>真正难的不是调哪个函数,而是判断你的场景到底需不需要内核级异步:小文件、低频读写,线程池就够了;GB 级日志批量落盘、实时音视频流处理,才值得啃 <code>io_uring</code> 或 IOCP 的文档细节。别为了“异步”而异步,IO 瓶颈往往不在调用方式,而在磁盘寻道、页缓存命中率或锁竞争。</p></char></:vector>

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

2023.09.22

549

3

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

2024.03.01

1678

6

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

2025.06.09

4414

18

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

2025.07.04

4571

25

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

2023.10.19

3108

3

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

2025.10.17

4649

12

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2025.12.29

3729

9

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

2026.01.19

426

15

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

5347

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习