nginx限流核心是“快判+稳存+轻干预”:共享内存+红黑树实现o(log n)快速查询;令牌桶+burst缓冲应对瞬时流量;连接层与请求层双控防止单点打穿;系统级调优保障底层支撑。

Nginx 限流限速在高并发大流量下保持稳定,核心在于三件事:不卡住 worker、不拖慢判断、不被单点打穿。它不是靠“算得准”,而是靠“快判+稳存+轻干预”。
共享内存 + 红黑树,让限流判断不拖后腿
限流状态(比如某个 IP 已发多少请求)全存在共享内存(zone)里,所有 worker 进程共用,不用跨进程通信或加锁。查找用红黑树,复杂度 O(log n),10 万级 IP 下查一次也就几微秒。10MB 内存区能存约 16 万个 IP 记录,够大多数业务用。只要 limit_req_zone 定义合理,限流本身几乎不消耗 CPU,也不会因请求数增长而变慢。
令牌桶 + burst 缓冲,扛住瞬时毛刺不误伤
限流不是简单“超了就拒”,而是用令牌桶算法:按固定速率往桶里加令牌(如 rate=100r/s),请求来时取一个令牌才能过。允许配置 burst(如 burst=50),相当于给桶加个“临时扩容空间”,短时间突发流量先进桶排队,再匀速放出。配合 nodelay 可选择是否排队——要强实时保护就设 nodelay,要平滑体验可去掉,让多余请求稍等几毫秒。
连接层与请求层双控,防止单点资源耗尽
只限 QPS 不够,恶意用户可能开几百个长连接刷小请求。所以必须叠加限连:
- 用 limit_conn_zone $binary_remote_addr zone=conn_ip:10m; 定义连接限制区
- 在 location 中加 limit_conn conn_ip 20;,限制单 IP 最多 20 个并发连接
- 对下载类大文件路径,再加 limit_rate 50k; 控制单连接带宽,避免一个连接吃光带宽
系统级配套必须跟上,否则限流形同虚设
Nginx 自身再快,卡在内核或系统层也白搭:
- 调高 net.core.somaxconn 和 net.ipv4.tcp_max_syn_backlog 至 65535
- Nginx listen 必须显式写 listen 80 backlog=65535;
- 设 worker_rlimit_nofile 1048576;,并确保系统 ulimit -n ≥ 同值
- 关闭 accept_mutex,开启 multi_accept on;,让多个 worker 并行收连接
不复杂但容易忽略











