directio核心目标不是提速,而是稳控内存、避免页缓存污染;必须在单次下载致cached激增、kswapd飙升、await抖动、oom频发时启用,并严格满足文件系统支持、内存/偏移/长度对齐及sendfile off等协同配置。

直接对超大文件启用 directio,不是为了“提速”,而是防止几 GB 的文件把系统页缓存(Page Cache)撑爆,导致内存紧张、kswapd 飙高、I/O 延迟抖动甚至 OOM。它本质是“稳态优化”,适用于视频、镜像、安装包等一次性顺序读取的大静态资源。
只在明确的大文件路径下启用 directio
不能全局开启,必须用精确的 location 匹配目标资源,避免小文件误入:
- 用
location ^~ /download/或location ~* \.(iso|img|mp4|tar\.gz)$隔离路径 - 确保该 location 使用
root或alias直接映射磁盘文件,proxy_pass不触发 directio - 阈值设合理,例如
directio 4m;—— 仅 ≥4MB 文件绕过缓存,小文件仍走 page cache + sendfile
配套关闭冲突机制
directio 和某些核心机制互斥,必须同步禁用:
-
sendfile off;:sendfile 依赖 page cache,二者不可共存 -
gzip off;:压缩需用户态读取并修改响应体,与 directio 的零拷贝路径冲突 -
etag off;和expires off;:避免因头字段计算导致 sendfile 回退,间接干扰 directio 生效条件
确保响应可预测且对齐
directio 要求内核能准确预知传输长度和边界:
- 必须提供
Content-Length:加add_header Content-Length $sent_http_content_length;;若后端未返回,Nginx 需自行计算,否则 fallback 到普通读取 - 文件系统需支持 O_DIRECT:ext4 推荐挂载选项
data=writeback或dioread_nolock;XFS 更稳妥,默认适配 - 偏移与长度需对齐:底层 I/O 块大小通常为 4096 字节,Nginx 内部已处理对齐,但需确保文件未被截断或损坏
验证是否真正生效
不能只看配置写了没,要观测真实行为:
- 下载大文件时观察
/proc/meminfo中Cached增长是否明显放缓 - 用
iostat -x 1对比:directio 下await应更低,说明跳过了内核 I/O scheduler 排队 - 检查 Nginx worker 进程的内存映射:
cat /proc/$(pidof nginx)/maps | grep anon,无大片匿名内存增长,说明未加载进 page cache - 用
strace -e trace=io_submit,read,pread64 -p $(pidof nginx)确认调用的是io_submit(aio+directio 路径),而非pread64











