least_conn是Nginx基于实时活跃连接数调度的负载均衡策略,优先将请求分发给连接数最少的后端,适用于长连接多、响应时间差异大或后端性能异构的场景,支持max_conns软性容量控制。

直接压测对比 least_conn 和轮询的响应延迟,关键不在“换算法”,而在**构造能暴露两者差异的负载场景**——尤其是长连接、耗时不均、节点能力差异明显的环境。轮询只看顺序,least_conn 看实时连接数;只有当后端真实负载不均衡时,两者的延迟表现才会拉开差距。
准备具备差异性的后端服务
用三台行为可区分的后端,才能测出调度逻辑的真实影响:
- 一台模拟“慢节点”:固定返回 1.5 秒延迟(如 Python Flask 加 time.sleep(1.5)),用于制造排队压力
- 一台“快节点”:毫秒级响应(如静态 JSON 返回)
- 一台“长连接节点”:开启 keepalive 并维持多个空闲连接(例如用 curl -H "Connection: keep-alive" 循环发请求但不关闭),让它在轮询下持续被选中,但在 least_conn 下被自然跳过
配置两套独立 upstream 进行隔离测试
不要复用同一组后端混用算法,避免干扰。分别定义:
-
轮询组:
upstream rr_backend { server 10.0.1.10:8080; server 10.0.1.11:8080; server 10.0.1.12:8080; } -
least_conn 组:
upstream lc_backend { least_conn; server 10.0.1.10:8080; server 10.0.1.11:8080; server 10.0.1.12:8080; }
再配两个 location 分别 proxy_pass,确保压测流量互不交叉。这样能排除缓存、连接复用、后端状态污染等干扰因素。
用真实请求模式压测,而非简单并发
单纯高并发短请求(如 ab -n 10000 -c 100)看不出区别。应模拟典型业务特征:
- 混合请求类型:70% 快请求(1s),持续压测 3–5 分钟
- 启用 HTTP/1.1 keepalive:用 wrk 或 hey,加
-H "Connection: keep-alive"和--keepalive参数 - 监控维度要具体:不只是平均延迟,重点看 P90/P95/P99 延迟、超时率、各后端实际接收请求数(通过 access_log 或后端打点统计)
观察与验证的关键指标
真正说明 least_conn 起效的证据不是“平均延迟低一点”,而是:
- 慢节点的请求占比显著低于轮询组(比如从 33% 降到 12%)
- P95 延迟下降明显(例如从 2.1s → 1.3s),说明长尾被切掉了
- 连接堆积现象缓解:用
ss -tn | grep :8080 | wc -l查各后端 ESTAB 连接数,least_conn 组的分布更均衡 - 轮询组出现“某台后端连接数飙升但 CPU 不高”的隐性过载特征,least_conn 组没有











