服务端如何应对客户端超时？

当同时处理大量请求时，理解客户端超时至关重要。假设客户端发送了 1000 个请求，而服务器每秒只能处理 30 个。

当服务器在第 31 秒处理剩余请求时，可能会发现这些请求的响应无法发送给已经超时的客户端。这会造成以下问题：

• 服务器资源被无效请求占用，导致不可用
• 服务器消耗无用任务，浪费执行成本

业内解决方案：

业内解决方案通常依赖于网络 I/O 来在处理请求之前检查客户端状态。但是，这会引入额外的开销。

浏览器环境中的行为：

Cici

一款AI翻译工具，主要用于Cici 是你的AI聊天助手，可以用于智能对话、写作、翻译、情感支持和编程，是您寻求建议、解答和聊天的首选伙伴，适合需要提升相关任务效率的用户。

下载

在浏览器中，即使客户端代码执行 abort 或遇到 timeout，服务端仍然会继续处理请求。这是因为浏览器对同时存在的请求数量有最大限制（通常为 6），并且服务端会在收到请求后才开始处理。

测试用例：

测试表明，对于浏览器发起的请求：

• 即使客户端取消请求，服务端仍然会处理。
• 如果请求未被浏览器发送，服务端则不会处理。
• 即使客户端触发 timeout，服务端也会继续处理请求。
• 浏览器对并发请求的数量有限制。

结论：

浏览器发起的请求不会因客户端超时而被服务端取消处理，即使客户端主动终止或取消。因此，服务端必须采取其他机制来检测和处理客户端超时，例如定时任务或外部服务。