nginx通过事件驱动(epoll/kqueue)与多级缓冲区实现非阻塞读写:读按需分片、写延迟批量,结合零拷贝(sendfile)、buffer链式复用及内存池管理,兼顾高性能与低内存占用。

Nginx 在非阻塞(Non-blocking)模式下处理缓冲区读写,核心在于它不依赖操作系统默认的阻塞 I/O 行为,而是通过事件驱动机制(如 epoll、kqueue)主动轮询或监听 socket 状态,在数据就绪时立即进行读写操作,同时配合多级内存缓冲区(如 read_buf、request_body、output_filter 链等)实现高效、零拷贝(尽可能)、流式处理。
缓冲区读:按需接收,分片处理
Nginx 不会一次性把整个请求体(尤其是大文件上传)读入内存。它在收到 EPOLLIN 事件后,调用 recv() 尝试读取,但只读当前内核 socket 接收缓冲区中已有的数据(通常几 KB),并存入临时 buffer(如 ngx_http_request_t->header_in 或 request_body->buf)。若未读完,就继续等待下次可读事件;若读到完整请求头,则解析并决定是否继续读请求体。
- 读缓冲区大小可由
client_header_buffer_size和large_client_header_buffers控制 - 请求体缓冲由
client_max_body_size和client_body_buffer_size约束,超限时可能写入临时文件(client_body_temp_path) - 对 HTTP/2 或流式请求(如 SSE、gRPC),Nginx 会持续接收帧并转发,不等待“完整消息”
缓冲区写:延迟发送,批量合并
写操作同样非阻塞:Nginx 把响应数据先写入内存 buffer(如 ngx_http_request_t->out 链表中的 ngx_buf_t),再注册 EPOLLOUT 事件;当 socket 发送缓冲区有空闲空间时,才调用 send() 尽可能多地发出数据。若一次发不完,剩余数据保留在 output chain 中,等待下一次可写事件。
- 启用
tcp_nopush(对应 TCP_CORK)可合并多个小包,减少系统调用和网络开销 -
sendfile模式下,Nginx 可跳过用户态内存拷贝,由内核直接从文件页缓存发送到 socket,但需确保文件未被 mmap 修改且 socket 支持 - 响应体较大时,Nginx 会自动分块(chunked encoding)并控制每块大小,避免长时间独占 worker 进程
零拷贝与内存复用的关键设计
Nginx 尽量避免无谓的数据复制:buffer 结构体(ngx_buf_t)本身不持有数据,只描述内存地址、长度、标志位(如 in_file、memory、last_buf);多个 filter 模块(如 gzip、sub_filter)以链表方式串联 buffer,通过修改指针而非复制内容来传递数据。
- 静态文件服务中,
ngx_http_static_handler直接将文件 buffer 挂到r->out,后续由ngx_http_writer调度发送 - 上游响应(如 proxy_pass)使用
subrequest或upstream模块的专用 recv/send buffer,支持流式转发,无需缓存整条响应 - 所有 buffer 分配来自内存池(
ngx_pool_t),生命周期与 request 或 connection 对齐,避免频繁 malloc/free
超时与异常下的缓冲区清理
非阻塞模式下,读写都可能中途失败或超时。Nginx 为每个连接维护 read 和 write 的定时器(ngx_event_t->timer),一旦超时(如 client_header_timeout、send_timeout),就关闭连接并释放关联的所有 buffer 链、临时文件句柄及 pool 内存。
- 读超时时,未完成的请求体若已写入临时文件,会自动清理(除非配置了
client_body_in_file_only on) - 写失败(如客户端断连)时,Nginx 检测
send()返回EAGAIN/EWOULDBLOCK继续等待,返回ECONNRESET或0则终止连接 - buffer 链中每个
ngx_buf_t设置temporary或memory标志,决定释放策略:临时 buffer 归还 pool,内存 buffer 由模块自行管理
这种基于事件 + 缓冲链 + 内存池的设计,让 Nginx 即使在万级并发下也能以极低内存占用完成高吞吐读写,本质是把“等待”转化为“状态机驱动”,把“复制”压缩到最少必要环节。










