非阻塞 i/o 是 nginx 反向代理高效运转的底层支撑，使单个 worker 进程能同时管理数百上游连接，发完请求后立即处理其他事件，上游响应边收边转或缓存后发，避免慢响应拖垮整体吞吐，并需配合 proxy_buffering、epoll 及系统参数协同优化。
非阻塞 I/O 在 Nginx 反向代理中不是“开关式功能”，而是整个请求处理链路高效运转的底层支撑。它让单个 worker 进程能同时跟踪成百上千个上游连接，不因某个后端响应慢就卡住其他请求。
让反向代理真正异步起来
当 Nginx 作为反向代理转发请求时，它与客户端、上游服务（如 Python 应用、Java 微服务）各自建立独立连接。非阻塞 I/O 意味着：
- 发完请求头/体给上游后，Nginx 不等回包，立刻去处理其他事件（比如新连接、其他响应可写）
- 上游返回响应头时，Nginx 立即读取并解析；若响应体还没到齐，就挂起该连接，继续处理别的任务
- 响应体边收边转——收到一点就往客户端发一点（启用 proxy_buffering off 时），或攒够 buffer 再发（默认开启）
避免 upstream 响应慢拖垮整体吞吐
如果上游服务响应延迟高（比如数据库查询慢、外部 API 耗时长），阻塞式模型会让 Nginx worker 等待，浪费并发能力。而非阻塞机制下：
- 一个 worker 可同时管理数百个等待上游响应的连接，内存开销小、无线程切换
- 即使某后端接口平均耗时 2s，只要它分块输出（如 streaming JSON 或 SSE），Nginx 就能持续转发，降低客户端感知延迟
- 配合 proxy_read_timeout 和 proxy_next_upstream，还能自动容错重试，不影响其他请求
缓冲策略必须匹配非阻塞行为
非阻塞本身不决定是否缓存响应，但缓冲配置会直接影响它能否发挥优势：
- proxy_buffering on（默认）：Nginx 先收全响应再发给客户端——适合小响应、需统一加 header 的场景，但会增加内存占用和首字节延迟
- proxy_buffering off：响应流式透传，适合大文件下载、SSE、长轮询——要求上游支持分块传输，且需调大 proxy_buffer_size（≥12k）防 header 截断
- proxy_buffers 8 16k：为每个连接分配 8 块 16KB 缓冲区，避免频繁 malloc/free，也防止小 buffer 触发临时文件落盘
协同系统层才能释放全部潜力
非阻塞 I/O 效果受限于内核调度和网络栈效率：
- Linux 下确保使用 epoll（Nginx 默认启用），避免 fallback 到低效的 select
- 启用 tcp_nopush 和 tcp_nodelay 组合：前者合并小包减少 syscall，后者在需要低延迟时禁用 Nagle 算法
- 配合 sysctl 调优：net.core.somaxconn、net.ipv4.tcp_tw_reuse 等参数影响连接建立与回收速度，间接决定非阻塞模型能维持多少活跃连接
