nginx 本身不提供显式请求队列功能，但可通过 limit_req（burst+nodelay）、proxy_buffering、max_conns 配合负载均衡等组合配置实现可控缓冲与等待；真正长时排队应交由业务层或专用中间件完成。
Nginx 本身不直接提供“请求排队等待”的队列功能（如类似应用层消息队列那样缓存并延后处理请求），它默认是转发式代理：请求来了就立刻转发给后端，若后端忙不过来，通常由后端返回 502/503 或超时，Nginx 再将错误透传给客户端。但通过组合配置，可以模拟或实现有限的、可控的请求缓冲与等待行为，核心在于控制连接建立节奏和资源占用边界。
以下是几种实际可行、生产环境常用的方式：
1. 使用 limit_conn 和 limit_req 控制并发与速率
这是最常用、最轻量的“软排队”手段——不真排队，而是限制单位时间/IP 的请求数，超出的请求可选择延迟处理（burst + nodelay）或直接拒绝。
http {
limit_conn_zone $binary_remote_addr zone=addr:10m;
limit_req_zone $binary_remote_addr zone=req:10m rate=10r/s;
upstream backend {
server 192.168.1.10;
server 192.168.1.11;
}
server {
location /api/ {
# 允许每个IP最多5个并发连接，超出则503
limit_conn addr 5;
# 每秒最多10个请求，允许突发5个（排队等待），超时1s则丢弃
limit_req zone=req burst=5 nodelay;
proxy_pass http://backend;
}
}
}
-
burst=5表示允许最多5个请求暂存（在内存中排队），Nginx 会按顺序逐个转发； -
nodelay表示不延迟执行（即 burst 内的请求立即发，不匀速），去掉它就变成“匀速排队”； - 若排队超时（默认
burst请求等待超过1s），Nginx 返回503 Service Unavailable。
✅ 适用场景：防突发流量冲击、保护后端不被压垮；适合 HTTP 短连接 API。
2. 用 proxy_buffering + proxy_busy_buffers_size 缓冲响应，间接缓解压力
虽然不排队请求本身，但开启响应缓冲后，Nginx 可暂存后端返回的数据，让后端更快释放连接，相当于“错峰释放”，减轻后端瞬时压力。
location / {
proxy_buffering on;
proxy_buffer_size 4k;
proxy_buffers 8 4k;
proxy_busy_buffers_size 8k;
proxy_max_temp_file_size 1g;
proxy_pass http://backend;
}
- 后端边生成响应，Nginx 边接收并缓存；
- 客户端慢（如弱网下载），不影响后端继续处理新请求；
- ⚠️ 注意：大文件或长流式响应慎用，可能耗尽内存或磁盘。
3. 结合后端健康状态与连接数限制（max_conns）实现“自然排队”
让 Nginx 主动避开已满载的节点，把请求导向空闲节点——虽无显式队列，但效果等价于“系统级排队”。
upstream backend {
server 192.168.1.10 max_conns=200; # 最多接受200个活跃连接
server 192.168.1.11 max_conns=200;
least_conn; # 优先选当前连接最少的
}
- 当某台后端已达
max_conns，Nginx 不再向其派发新请求； - 请求会自动落到其他未满节点，或触发
proxy_next_upstream重试逻辑； - 配合
least_conn算法，能更公平地分摊负载。
4. 真正排队？需借助外部组件或定制模块
标准 Nginx 不支持持久化请求队列（如 Redis 队列 + 异步 worker）。若业务强依赖“请求必须排队不丢”，常见做法是：
- 前置一层轻量网关（如 Envoy、Traefik）启用队列策略；
- 或在应用层实现：Nginx 将请求转给一个“排队服务”（如基于 RabbitMQ/Kafka 的调度器），再由消费者拉取执行；
- 开源模块如
nginx-queue（非官方，维护状态不稳定）可提供简单内存队列，但不推荐用于生产核心链路。
⚠️ 注意：纯靠 Nginx 做长时排队易导致连接堆积、内存溢出、超时混乱，违背其“高并发、低延迟”的设计初衷。
不复杂但容易忽略的是：真正的请求排队不是 Nginx 的职责，而是应由业务层或专用中间件承担。Nginx 的角色是快速决策、限流、转发和兜底——把“等”这件事，交给更合适的地方去做。
