nginx实现高并发的关键在于异步事件驱动机制而非堆资源;采用master-worker多进程模型,每个worker单线程、无锁、非阻塞,结合epoll、slab分配器和红黑树超时管理,极致复用cpu、内存与连接资源。

Nginx 实现高并发的关键不在堆资源,而在“不等”——它不为每个连接开线程,也不让进程卡在读写上,而是靠一套轻量、确定、可预测的异步事件驱动机制,把有限的 CPU 和内存用到极致。
Master-Worker 多进程模型提供稳定与并行基础
Master 进程只做管理:加载配置、平滑重启、监控 Worker 状态、响应信号;真正干活的是多个独立的 Worker 进程。每个 Worker 是单线程、无锁设计,彼此隔离,一个出错不影响整体服务。通常将 worker_processes 设为 CPU 核心数,既避免上下文切换浪费,又充分压满多核能力。
单 Worker 内部靠事件循环 + I/O 多路复用高效调度
每个 Worker 启动后进入紧凑的事件循环,不依赖线程池或协程调度器,而是直接调用操作系统原生接口:
- Linux 下使用 epoll(边缘触发为主),一次系统调用即可监听成千上万个 socket 的可读/可写状态
- 连接 accept、recv、send 全程设置为 non-blocking:没数据就立刻返回 EAGAIN,绝不阻塞等待
- 未发送完的数据暂存于连接级 output buffer,同时注册 write 事件,等内核缓冲区腾出空间再继续发
连接生命周期全程非阻塞 + 统一超时管理
从新连接接入到响应结束,Nginx 对每个 socket 的操作都保持非阻塞特性:
- accept 阶段批量收包,减少惊群和延迟
- 读请求头、读请求体、查文件、转发 upstream、组装响应,全部在用户态内存中流水式完成
- 所有超时(read/write timeout、keepalive timeout)统一由红黑树组织,O(log n) 查找+插入,无定时器线程轮询开销
内存与连接资源高度复用
避免频繁分配释放带来的性能抖动:
- 采用 slab 分配器管理小块内存,如 HTTP 头字段、临时缓冲区,提升复用率
- 连接对象(
ngx_connection_t)从连接池中分配,关闭后归还而非销毁 - HTTP 请求结构体、buffer 链表等也按需复用,降低 GC 压力(尤其在 Lua 或模块扩展场景)











