配置 nginx 代理流式响应超时,核心在于调整 proxy_read_timeout 参数。该指令默认值为 60 秒,当后端服务(如 ai 模型推理)生成数据间隔超过此值时,nginx 会断开连接并返回 504 错误。只需在 location 块中显式设置一个更大的时间值(例如 3600 秒),即可保持长连接直到数据流结束。

如何区分请求超时与读取超时?
区分这两者能避免不必要的资源浪费。proxy_connect_timeout 仅控制 Nginx 与后端建立 TCP 连接的等待时间,通常设为几秒即可;而 proxy_read_timeout 控制的是从后端接收数据的总时长。对于流式接口,只要后端还在持续发送数据,proxy_read_timeout 的计时器就会不断重置,因此它是决定流式体验的关键。

server {
listen 80;
location /api/stream {
proxy_pass http://backend_service;
# 设置读取超时为 1 小时
proxy_read_timeout 3600s;
# 设置连接超时为 5 秒
proxy_connect_timeout 5s;
}
}
上述配置将确保 Nginx 能够处理长达一小时的流式数据传输,同时快速拒绝无法连接的后端节点。
为什么设置了大超时后仍出现断流?
如果已经设置了较大的 proxy_read_timeout 但依然断流,通常是客户端或中间网络设备(如负载均衡器、防火墙)先于 Nginx 切断了连接。此外,若后端服务本身存在逻辑缺陷导致长时间无输出,Nginx 也会因超时而中断。排查时需确认上游服务的实际输出频率,并确保网络链路中的其他组件也支持相应的长连接时长。











