直接压测加监控,紧盯连接数分布与响应延迟变化;用wrk/hey构造快慢两类接口验证least_conn调度效果,通过Nginx状态接口实时观测各后端active连接趋势,并结合日志与延迟直方图评估响应质量提升及容错能力。

直接压测加监控,不靠日志猜,要盯住连接数分布和响应延迟的实际变化。
用 wrk 或 hey 模拟真实并发请求
轮询和 least_conn 的差异在长耗时请求下才明显,所以测试不能只打毫秒级接口。建议:
- 构造两类请求:一类是 20–50ms 的轻量接口(如健康检查),另一类是模拟慢任务的 3–8 秒延迟接口(可用后端 sleep 实现)
- 用 wrk -t4 -c200 -d30s http://your-domain/slow 持续压测慢接口,观察各后端连接堆积情况
- 同时用 hey -z30s -q10 -c50 http://your-domain/health 混合压测,验证 least_conn 是否能动态避开已满节点
实时查看每个后端的活跃连接数
Nginx 自带 stub_status,但需配合 upstream 模块暴露 per-server 连接状态。更实用的方式是:
- 在 Nginx 配置中启用 status 模块(开源版需编译时加 --with-http_stub_status_module),访问 /nginx_status 可看全局连接数
- 真正关键的是每个 upstream server 的活跃连接数,可通过 nginx-plus 的 API(
/api/5/http/upstreams/)或开源版搭配 nginx_upstream_check_module 的自定义 status 页面获取/servers - 上线后每 5 秒 curl 一次,记录 A/B/C 三台后端的
active字段变化趋势——least_conn 生效时,它们的曲线应错峰、不齐头并进
比对 tail -f 日志 + 延迟直方图
光看连接数还不够,得验证是否真提升了响应质量:
- 在 access_log 中加入 $upstream_addr $upstream_response_time,用 tail -f 实时观察请求落到哪台、耗时多少
- 压测结束后,用脚本统计各后端的 P50/P95/P99 延迟,以及超时($upstream_response_time = “-”)比例;least_conn 应显著降低高延迟节点的 P95,且超时更多集中在被健康检查剔除的异常节点上
- 对比轮询模式下的相同压测结果:若 least_conn 下某台机器连接数始终低于其他两台,且其平均响应时间更稳,说明调度生效
故意制造一台后端卡顿来验证容错
这是最有效的“压力检验”:
- 选一台后端,用 iptables -A OUTPUT -p tcp --dport 8080 -m statistic --mode random --probability 0.3 -j DROP 模拟间歇性丢包,或用 sleep 5 让部分响应变慢
- 此时观察 least_conn 是否快速将新请求导向其余健康节点——连接数应在 10–15 秒内明显倾斜,而非像轮询那样继续均匀分发
- 同时确认 proxy_next_upstream timeout http_504 和 max_fails=2 fail_timeout=15s 配置是否触发重试与摘除,避免请求持续打向假活节点











