Nginx Least Connections 算法中怎么利用 proxy_read_timeout 快速释放死掉的慢速连接-Nginx-PHP中文网

proxy_read_timeout不参与least connections计数，但通过及时关闭僵死连接确保其统计真实有效；需按路径精准设值（略大于正常空闲、短于异常卡死）、启用upstream keepalive、后端超时早于nginx，并配合proxy_next_upstream error timeout http_504实现自动重试。

nginx least connections 算法中怎么利用 proxy_read_timeout 快速释放死掉的慢速连接

proxy_read_timeout 本身不参与 Least Connections 负载均衡算法的连接计数逻辑，但它能间接影响后端服务器在 Least Connections 中的“有效连接数”——通过快速切断已挂死、无响应的连接，让 Nginx 及时从 upstream 连接池中移除失效连接，从而让 Least Connections 真实反映各后端当前可服务的连接负载。

关键在于：Least Connections 统计的是 Nginx 当前与后端保持的活跃连接数（active connections），而非请求排队数或超时中的连接。如果一个连接因后端卡死而长期空闲却不释放，它仍被计入该后端的连接数，导致后续请求持续被错误分发过去，形成“雪崩式倾斜”。

所以，proxy_read_timeout 的作用不是“告诉算法怎么选”，而是“确保算法统计的数据是干净的”。

它怎么帮 Least Connections “看清真实负载”

当后端出现以下情况时，连接会僵在 ESTABLISHED 状态但不再传输数据：

后端进程死循环、OOM 挂起
数据库锁死、线程池耗尽
TLS 层握手未完成或证书校验阻塞（注意：这属于 proxy_connect_timeout 范畴）
响应头已返回，但响应体迟迟不发（这才是 proxy_read_timeout 的主战场）

此时，若 proxy_read_timeout 设置合理，Nginx 会在空闲超时后主动 close() 该 socket，释放 fd 和内存，并从该后端的活跃连接计数中减去 1。Least Connections 下次选节点时，就能跳过这个已“失联但未清理”的后端。

FastAPI Flask Proxy

FastAPI + Flask 混合部署最佳实践，解决路由定义、API 代理等常见问题，适用于同时运行 FastAPI API 与 Flask 前端的场景。

下载

实操要点：让 `proxy_read_timeout` 真正生效于 Least Connections 场景

必须设得比后端真实卡死时间略短，但比正常慢响应略长
例如：监控发现该后端 P95 响应体传输耗时为 8 秒，但偶发卡死连接平均在 42 秒后才彻底无响应 → proxy_read_timeout 45; 是较优值。设成 30 秒会误杀正常慢请求；设成 120 秒则僵死连接堆积，Least Connections 失效。
必须配合 upstream keepalive 使用
```
upstream backend {
    least_conn;
    server 10.0.1.10:8080;
    server 10.0.1.11:8080;
    keepalive 32;  # 复用连接，避免每次新建都重算连接数
}
```
若没开 keepalive，每个请求都新建连接 → 卡死后连接数瞬间飙升又缓慢释放（TIME_WAIT），Least Connections 统计剧烈抖动，反而更不准。
必须确保后端超时早于 Nginx
Tomcat 的 connectionTimeout 设为 40000（40 秒），Nginx 的 proxy_read_timeout 就应设为 35 或 38。否则后端先断连，Nginx 可能收到 RST 或 FIN 后未及时更新连接状态，或日志报 110: Connection timed out（系统级错误），导致连接计数滞后甚至泄漏。
建议开启 proxy_next_upstream error timeout http_504;
当 proxy_read_timeout 触发 504 后，Nginx 可自动重试其他后端（前提是请求幂等）。这既提升可用性，也避免单点僵死拖垮整个 Least Connections 分发效果。
不要全局统一配置，按 location 隔离风险路径
比如 /api/v1/legacy/check 是低端鉴权服务，易卡死：
```
location /api/v1/legacy/check {
    proxy_pass http://backend;
    proxy_read_timeout 30;
    proxy_send_timeout 30;
    proxy_connect_timeout 5;
    proxy_next_upstream error timeout http_504;
}
```
其他健康接口仍用默认或更短值（如 15 秒），防止慢接口污染整体连接池统计。