nginx实现按需资源分配的核心是加权轮询(weight)主动控流,辅以max_conns限并发、health_check/ fail_timeout被动隔离及least_conn动态调度,避免小内存节点过载。

核心思路是:不靠“避开”小内存服务器,而是用加权轮询(Weighted Round-Robin)主动控制它承接的流量比例,再叠加健康检查与连接限制,防止长尾请求堆积压垮它。
给小内存节点设低权重,让流量自然倾斜
轮询默认平均分发,对性能弱的节点很危险。必须显式设置 weight 参数,让小内存服务器只处理它能扛住的那部分请求。
- 例如:一台 4C8G 小内存机器设 weight=1,另一台 8C16G 设 weight=4,那么理论上每 5 个请求里只有 1 个落到小内存节点
- weight=0 可临时禁用该节点,适合维护或紧急降载;weight 值不必是整数,比如 weight=0.5 也合法(Nginx 1.9.1+ 支持浮点权重)
- 注意:weight 只在轮询模式下生效,若启用了 ip_hash 或 least_conn,权重会被忽略
用 max_fails + fail_timeout 主动隔离异常节点
小内存机器容易因瞬时压力高而响应变慢或超时,不能等它彻底挂掉才反应。要让它“故障即退”,避免持续被轮到。
- 配置如:server 192.168.1.102:8080 weight=1 max_fails=2 fail_timeout=10s;
- 含义:连续 2 次请求失败(502/504/超时),就标记为不可用,10 秒内不再转发任何请求过去
- 这个机制是被动健康检查,无需额外模块,但足够应对小内存节点常见的响应延迟问题
限制单节点并发连接,防长尾请求卡死
轮询按请求数分配,但一个导出报表请求可能耗时 30 秒,期间占满连接,导致后续轻量请求排队——这对小内存节点尤为致命。
- 在 upstream 中启用 max_conns(Nginx 1.11.5+): server 192.168.1.102:8080 weight=1 max_conns=10; 表示最多同时处理 10 个连接,超出的请求会进入 Nginx 队列或返回 503
- 搭配 proxy_buffering off 和 proxy_http_version 1.1,减少缓冲占用;必要时在后端应用层也做请求超时控制
避免常见配置陷阱
很多压力不均问题其实来自配置写错,而非算法本身。
- upstream 必须定义在 http {} 块内,不能塞进 server 或 location,否则启动报 “unknown directive upstream”
- proxy_pass 必须写成 http://backend;(带协议和名称),不能写成 http://192.168.1.102:8080 —— 否则整个 upstream 配置失效
- 别误加 backup:它只在所有非 backup 节点都不可用时才启用,不是“低优先级轮询”,反而会让小内存节点在最差时刻承担全部压力
- 用 127.0.0.1 代替 localhost,避免 DNS 解析失败拖慢故障转移











