C++实现基于零拷贝技术的异步文件传输 _ sendfile系统调用封装【源码】

轻浩酱_8417

轻浩酱_8417

2026-05-05

779人浏览

原创

不能。sendfile仅支持文件到socket的内核态搬运,目标fd必须是TCP等面向连接socket;它是同步阻塞调用,需配合非阻塞socket与epoll或io_uring实现异步语义。

c++实现基于零拷贝技术的异步文件传输 _ sendfile系统调用封装【源码】

sendfile 系统调用在 C++ 中能直接用于跨进程零拷贝文件传输吗?

不能。Linux 的 sendfile 仅支持「文件描述符到 socket 描述符」的内核态数据搬运,且要求目标 fd 必须是 socket(或某些支持的特殊设备),不支持任意两个普通文件之间复制;更关键的是,它本身是同步阻塞系统调用——所谓“异步文件传输”必须靠上层封装实现,不是 sendfile 自带能力。

常见误判:以为调用一次 sendfile 就等于“异步传输完成”。实际上,若 socket 发送缓冲区满(比如网络卡顿或对端接收慢),sendfile 会阻塞,直到有空间或超时。真正异步需配合非阻塞 socket + epoll / io_uring 驱动。

  • sendfile 不拷贝用户态内存,但仍是同步 syscall,返回前可能挂起线程
  • 要实现异步语义,必须把 sendfile 放进非阻塞上下文,并处理 EAGAIN/EWOULDBLOCK
  • 不能用于 UDP socket —— sendfile 仅支持面向连接的 socket(TCP、SCTP)和部分支持的 packet socket
  • 源文件 fd 必须是普通文件(S_ISREG()),不支持管道、socket、/proc 文件等

如何用 epoll + sendfile 实现真正的异步文件发送循环?

核心思路:把 socket 设为非阻塞,每次调用 sendfile 后检查返回值;若返回 -1 且 errno == EAGAIN,就注册 EPOLLOUT 事件,等内核通知 socket 可写再重试;同时记录已发送偏移,避免重复搬运。

关键点不是“调用 sendfile”,而是“怎么知道什么时候能再调一次”。下面是一个最小可行状态机片段:

struct SendfileState {
    int file_fd;
    int sock_fd;
    off_t offset = 0;
    size_t total_to_send;
    bool done = false;
};
<p>// 在 epoll_wait 返回 EPOLLOUT 后调用
ssize_t try_sendfile(SendfileState& s) {
ssize_t n = sendfile(s.sock_fd, s.file_fd, &s.offset, s.total_to_send - s.offset);
if (n > 0) {
if (s.offset >= s.total_to_send) {
s.done = true;
}
return n;
} else if (n == 0) {
// 文件读完但未达预期长度(如被截断)
s.done = true;
} else if (errno == EAGAIN || errno == EWOULDBLOCK) {
// 需等待 EPOLLOUT,不标记 done
return 0;
} else {
// 其他错误:EINTR 可重试,EINVAL/EBADF 等应终止
return -1;
}
return n;
}</p>
  • 必须传入 off_t* 指针让内核更新偏移,不能每次都从 0 开始
  • sendfile 第四参数是单次最多搬运字节数,建议设为 64*1024 或 128*1024,太大可能触发 TCP 小包合并问题,太小增加 syscall 次数
  • 务必检查 sendfile 返回值是否为 0 —— 表示源文件已到 EOF,但未必发完预期数据
  • 不要在信号处理函数里调用 sendfile:它不可重入,且 errno 可能被覆盖

为什么用 io_uring 替代 epoll + sendfile 更适合高吞吐场景?

因为 epoll + sendfile 仍需频繁进出内核:每次 sendfile 是 syscall,每次 epoll_wait 也是 syscall,而 io_uring 允许批量提交 + 无锁轮询完成队列,把“等 socket 可写”和“发起下一轮 sendfile”合并成一次内核交互。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

Linux 5.19+ 支持 IORING_OP_SENDFILE,可直接提交零拷贝发送任务,无需用户管理偏移或重试逻辑:

struct io_uring_sqe* sqe = io_uring_get_sqe(&ring);
io_uring_prep_sendfile(sqe, sock_fd, file_fd, &offset, count, 0);
io_uring_sqe_set_data(sqe, &my_ctx);
io_uring_submit(&ring);
  • IORING_OP_SENDFILE 会自动处理 EAGAIN 并内部重试,用户只需等完成队列回调
  • 偏移量 offset 必须是用户态变量地址(内核会读写),不能是栈临时变量
  • 当前不支持 sendfile 到 UDP —— 和原生 syscall 限制一致
  • 需要开启 IORING_SETUP_IOPOLL 才能绕过中断,但仅适用于支持轮询的驱动(如 NVMe、某些网卡)

实际部署时最容易被忽略的三个细节

零拷贝不是开个开关就能生效的魔法。很多线上服务启用了 sendfile 却没提升性能,问题往往出在这些地方:

  • socket 开启了 TCP_NODELAY 但没关 TCP_CORK:后者会延迟发送,导致 sendfile 数据卡在内核发送队列,看似“没发出去”
  • 源文件被 mmap 或其它进程 write 修改:sendfile 基于 page cache,若文件内容变更而 page cache 未刷新,可能发送脏数据或触发 ESTALE
  • 忘记调用 posix_fadvise(fd, 0, 0, POSIX_FADV_DONTNEED) 清理 page cache —— 大文件反复传输时 cache 污染严重,反而拖慢后续 IO

真正压测时,用 perf record -e 'syscalls:sys_enter_sendfile' -p $(pid) 看实际调用频次,比看文档更容易发现是不是真走零拷贝路径。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2288

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1059

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

467

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

347

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

426

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

600

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1449

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1237

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1345

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习