c++如何获取文件的物理块大小并以此优化读写缓冲区长度【进阶】

浅磊酱_2011

浅磊酱_2011

2026-04-05

659人浏览

原创

最可靠方式是调用 stat() 获取 st_blksize 字段,它表示文件系统推荐的 i/o 缓冲区大小(如 4096 字节),而非磁盘扇区大小或内存页大小;windows 无等价字段,需用 getdiskfreespace() 结合扇区与簇大小估算。

c++如何获取文件的物理块大小并以此优化读写缓冲区长度【进阶】

Linux 下用 stat() 或 ioctl() 获取文件系统逻辑块大小

物理块大小(即文件系统底层 I/O 的最小对齐单位)不等于磁盘扇区大小,也不等于 open() 的默认缓冲区;它由挂载的文件系统决定,比如 ext4 通常是 4096 字节,XFS 可能是 4096 或更大。直接读取磁盘扇区(如 /sys/block/*/queue/logical_block_size)没用——那是块设备层的,而文件操作走的是 VFS 层,真正影响 read()/write() 效率的是文件系统的「最佳 I/O 大小」。

最可靠的方式是调用 stat() 查看 st_blksize 字段:

struct stat sb;
if (stat("/path/to/file", &sb) == 0) {
    size_t optimal_bufsize = sb.st_blksize; // 通常为 4096、8192、65536 等
}

注意:st_blksize 是「建议的 I/O 缓冲区大小」,不是硬性限制,但对普通文件 read()/write() 调用来说,按它对齐能显著减少内核内部的 copy 和切分开销。某些场景(如打开设备文件或使用 O_DIRECT)需额外用 ioctl(fd, BLKSSZGET, &bs) 获取逻辑扇区大小,但普通文件没必要。

为什么不能直接用 getpagesize() 或硬编码 4096

getpagesize() 返回的是内存页大小(通常 4KiB),和文件系统 I/O 对齐无关;硬编码 4096 在多数桌面 ext4 上碰巧有效,但在以下情况会失效:

  • 某些 XFS 文件系统挂载时指定 su=64k,sw=8,st_blksize 可能是 262144
  • NVMe 上启用多队列或 DAX 模式时,最佳 I/O 大小可能升至 128KiB+
  • 网络文件系统(如 NFSv4.2)的 st_blksize 可能反映服务器端策略,而非本地磁盘

更隐蔽的问题是:即使你用了大缓冲区,若文件打开时没加 O_DIRECT,glibc 的 stdio 缓冲(fread())仍会二次拆分;所以获取 st_blksize 后,应配合 posix_memalign() 分配对齐内存,并用 read()/write() 绕过 libc 缓冲。

实际优化时缓冲区长度怎么设

拿到 st_blksize 后,缓冲区长度不一定要严格等于它——常见做法是取其整数倍,兼顾吞吐与延迟:

C++ Code Review Master
C++ Code Review Master

组合式C++代码评审方案,融合静态分析、AI推理、多轮迭代评审和C++专项检查,适用于PR审查、增量代码审查、全项目评审和代码质量评分,触发词包括review cpp、cpp代码评审、C++review、代码审查。

下载
  • 顺序读写大文件:用 st_blksize * 4 到 st_blksize * 16(如 16KiB–64KiB),避免频繁 syscall,又不至于让单次 I/O 占用太多 page cache
  • 随机读(如数据库页加载):保持单次 read() 长度为 st_blksize,确保每次请求都对齐到文件系统块边界,减少跨块访问
  • 注意 st_blksize 可能为 0(极少见,如某些 procfs 条目),此时回退到 getpagesize() 或 4096
  • 如果文件被 mmap,就别手动设缓冲区了——mmap 本身已由内核按页对齐管理,st_blksize 对它无直接影响

示例片段:

size_t buf_len = sb.st_blksize > 0 ? sb.st_blksize * 8 : 4096;
void* buf;
if (posix_memalign(&buf, sb.st_blksize, buf_len) != 0) {
    // fallback to malloc + manual alignment check
}
ssize_t n = read(fd, buf, buf_len);

Windows 上没有等价的 st_blksize,得换路子

Windows API 没有直接暴露卷级「推荐 I/O 大小」的字段。可用 GetDiskFreeSpace() 获取 lpBytesPerSector(硬件扇区大小,通常 512 或 4096)和 lpBytesPerCluster(分配单元,即簇大小)。后者更接近 Linux 的 st_blksize,因为 NTFS 实际按簇分配空间。

但要注意:lpBytesPerCluster 是文件系统分配粒度,不是 I/O 最佳长度;实测中,用 FILE_FLAG_NO_BUFFERING 时,缓冲区长度必须是扇区大小的整数倍且内存地址对齐到扇区边界——此时应优先用 lpBytesPerSector,而非簇大小。

简单策略:在 Windows 上取 max(lpBytesPerSector, lpBytesPerCluster) 作为基准,再乘以 2–8;同时务必检查 VirtualAlloc() 分配的地址是否满足扇区对齐(addr % sector_size == 0),否则 ReadFile() 会失败并返回 ERROR_INVALID_PARAMETER。

跨平台代码里,别假设 st_blksize 总是可用——Windows 下要分支处理,且运行时探测比编译时宏更可靠。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.26

3119

3

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.27

2698

6

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

2023.08.01

1448

3

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

2459

5

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.08

3250

4

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

1537

3

windows boot manager
windows boot manager

windows boot manager无法开机的解决方法:1、系统文件损坏,使用Windows安装光盘或USB启动盘进入恢复环境,选择修复计算机,然后选择自动修复;2、引导顺序错误,进入恢复环境,选择命令提示符,输入命令"bootrec /fixboot"和"bootrec /fixmbr",然后重新启动计算机;3、硬件问题,使用硬盘检测工具进行扫描和修复;4、重装操作系统。本专题还提供其他解决

2023.08.28

2437

4

windows锁屏快捷键
windows锁屏快捷键

windows锁屏快捷键是Windows键+L、Ctrl+Alt+Del、Windows键+D、Windows键+P和Windows键+R。本专题为大家提供windows相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.30

4587

5

Window.setInterval()方法
Window.setInterval()方法

Window.setInterval() 方法的基本语法是“window.setInterval(function, delay)”,function是要重复执行的函数或代码块,delay是每次执行之间的时间间隔,以毫秒为单位。本专题为大家提供Window.setInterval()相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.31

675

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Conan 2 Essentials 免费课程
Conan 2 Essentials 免费课程

共0课时 | 0人学习

CMake 与 Conan 集成实践
CMake 与 Conan 集成实践

共0课时 | 0人学习

Conan 2 高级依赖模型介绍
Conan 2 高级依赖模型介绍

共0课时 | 0人学习