合理设置fail_timeout的核心是匹配故障节点真实恢复节奏,避免震荡或延迟回流;必须确保proxy_read_timeout明显小于fail_timeout(如30s对应8–12s),并收紧proxy_connect_timeout(2–3s)和proxy_send_timeout(≤3s),同时精准配置proxy_next_upstream仅对error、timeout及5xx异常计数。

合理设置 fail_timeout 的核心,是让故障节点“下线冷静期”与真实恢复节奏匹配,既不因太短引发反复摘除(震荡),也不因太长拖慢服务回流。它本身不触发重试,但决定了试探恢复的时机——而这个时机一旦被卡住,就会陷入“刚上线→失败→再下线→再试探→再卡住”的死循环。
确保 proxy_read_timeout 明显小于 fail_timeout
这是避免死循环最关键的约束。如果 proxy_read_timeout 等于甚至超过 fail_timeout,那么试探请求会卡满整个静默期,Nginx 在这期间无法发起下一次探测,用户请求也持续阻塞在读阶段。
- 建议设为
fail_timeout的 1/2 或更短:例如fail_timeout=30s,则proxy_read_timeout应 ≤15s,推荐 8–12s - 连接层也要收紧:
proxy_connect_timeout控制在 2–3s 内,避免连接拒绝类失败被拉长 - 对上传类接口,
proxy_send_timeout同样需 ≤3s,防止发送卡顿干扰失败计数
精准配置 proxy_next_upstream,只对真正异常状态计数
如果后端返回大量 502/503 却没被计入失败,节点会持续收请求却始终不下线;反之,若把 404、429 等业务码也加入,又会导致健康节点被误踢。
- 必须显式启用:
proxy_next_upstream error timeout http_500 http_502 http_503 http_504 - 慎加
http_404:静态资源缺失是常态,不应触发节点摘除 - 缓存类后端(如 Redis)慎加
http_502:进程崩溃应直接剔除,而非反复重试换节点
按服务响应特征差异化设值,拒绝一刀切
同一套参数放在不同服务上,效果可能截然相反。关键看平均 RT 和可容忍抖动窗口。
- 缓存服务(Redis/Memcached):RT 通常 max_fails=2 fail_timeout=10s,快进快出
- 常规 Web 接口(API/页面):RT 100–300ms,偶有网络抖动,建议
max_fails=3 fail_timeout=30s,兼顾稳定性 - 长耗时任务(报表导出、大文件上传):单次请求可能持续 60s,
fail_timeout至少设为 60s,max_fails设为 2,避免慢请求误判 - 金融级强实时接口:要求秒级隔离,可设
max_fails=1 fail_timeout=5s,但必须配套幂等+重试保障
配合 slow_start 防止刚恢复就被压垮
节点恢复后若立即承接全量流量,容易因瞬时压力再次失败,形成“恢复→过载→失败→下线→再恢复”的循环。
- 在 upstream 中为节点添加
slow_start=30s(NGINX Plus 支持,Open Source 不支持) - 权重从 0 缓慢升至标称值,给服务留出预热时间(如 JVM JIT、连接池填充、缓存重建)
- 若用 Open Source,可通过临时降低 weight + 人工观察方式模拟慢启动











