如何在高并发 Fetch 请求中实现基于滑动窗口的流量控制

陌枫酱_1616

陌枫酱_1616

2026-04-10

653人浏览

原创

滑动窗口限流不能直接用 setTimeout 模拟,因其执行时机不可控且无法感知请求真实完成时间;必须基于实际完成请求动态更新计数,推荐用 performance.now() 记录起止时间、数组+双指针维护窗口、AbortController 实现熔断,并完全兼容 fetch 参数以支持重试与缓存。

如何在高并发 fetch 请求中实现基于滑动窗口的流量控制

滑动窗口限流为什么不能直接用 setTimeout 模拟

很多人尝试用 setTimeout + 队列手动调度 Fetch 请求,结果在高并发下出现窗口错位、计数漂移、时间戳不同步等问题。根本原因是 setTimeout 的执行时机不可控,且无法感知请求真实完成时间(比如网络超时、重试、响应解析耗时)。滑动窗口必须基于「实际完成的请求」动态更新时间片内的计数,而不是「发起时刻」或「计划执行时刻」。

实操建议:

  • 用 performance.now() 记录每个请求的 开始 和 结束 时间戳,精度远高于 Date.now()
  • 窗口数据结构必须支持 O(1) 时间内剔除过期条目——推荐用数组存 { timestamp, success },配合双指针移动左边界
  • 避免在 Promise 链中嵌套限流逻辑,应把限流器封装为独立中间件,统一拦截 fetch 调用

如何用 AbortController 配合窗口计数做请求熔断

当滑动窗口内失败率超过阈值(如 40%),后续请求不应排队等待,而应快速失败。这时不能只靠计数器,必须结合 AbortController 主动中断挂起中的请求。

常见错误现象:TypeError: Failed to fetch 后仍继续派发新请求,导致雪崩;或限流器返回 pending Promise 却未清理,内存泄漏。

实操建议:

  • 为每个待调度请求创建独立 AbortController,并在窗口触发熔断时调用所有 pending 控制器的 abort()
  • 在 fetch 调用前检查当前窗口失败率,若超标则直接 reject 并跳过调度队列
  • 监听 signal.aborted,在 catch 块中区分是用户主动取消、超时还是限流熔断,避免误报监控指标

fetch 限流中间件必须透传哪些参数才能兼容重试和缓存

直接包装 fetch 函数时,如果忽略 cache、redirect、keepalive 等选项,会导致重试逻辑失效或 Service Worker 缓存被绕过。

使用场景:前端 SDK 封装 API 调用,需支持幂等重试 + CDN 缓存 + 离线 fallback。

实操建议:

  • 限流器函数签名应完全兼容原生 fetch(input, init),包括 init.signal、init.credentials 等所有字段
  • 对带 cache: 'force-cache' 或 cache: 'only-if-cached' 的请求,可考虑跳过限流(它们不发网络请求)
  • 若启用重试(如 3 次),需在窗口计数中将多次重试视为单次逻辑请求,否则会因重试放大流量

滑动窗口时间片选 60s 还是 1s?性能差异在哪

选 60 秒窗口看似平滑,但在突发流量下响应滞后严重——比如第 59 秒涌入 1000 请求,限流器要等到下一分钟才开始压制。而 1 秒窗口虽灵敏,但高频读写数组 + 时间戳比对会吃掉可观 CPU。

性能影响实测(Chrome 120,中端笔记本):

  • 1 秒窗口:每秒 500+ 请求时,slidingWindow.count() 平均耗时 0.08ms,可接受
  • 60 秒窗口:同样负载下,每次计数需遍历平均 3000 条记录,耗时跃升至 0.35ms,GC 压力明显
  • 折中方案:用 10 秒窗口 + 每秒采样合并,平衡精度与开销

真正容易被忽略的是时钟偏移问题:服务端返回的 Date 头与客户端本地时间不一致时,基于响应头校准窗口起点比单纯依赖 performance.now() 更可靠——尤其跨地域部署场景。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
js获取数组长度的方法
js获取数组长度的方法

在js中,可以利用array对象的length属性来获取数组长度,该属性可设置或返回数组中元素的数目,只需要使用“array.length”语句即可返回表示数组对象的元素个数的数值,也就是长度值。php中文网还提供JavaScript数组的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

5506

5

js刷新当前页面
js刷新当前页面

js刷新当前页面的方法:1、reload方法,该方法强迫浏览器刷新当前页面,语法为“location.reload([bForceGet]) ”;2、replace方法,该方法通过指定URL替换当前缓存在历史里(客户端)的项目,因此当使用replace方法之后,不能通过“前进”和“后退”来访问已经被替换的URL,语法为“location.replace(URL) ”。php中文网为大家带来了js刷新当前页面的相关知识、以及相关文章等内容

2023.07.04

1349

3

js四舍五入
js四舍五入

js四舍五入的方法:1、tofixed方法,可把 Number 四舍五入为指定小数位数的数字;2、round() 方法,可把一个数字舍入为最接近的整数。php中文网为大家带来了js四舍五入的相关知识、以及相关文章等内容

2023.07.04

5444

6

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

2023.09.01

1020

4

JavaScript转义字符
JavaScript转义字符

JavaScript中的转义字符是反斜杠和引号,可以在字符串中表示特殊字符或改变字符的含义。本专题为大家提供转义字符相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.04

1976

5

js生成随机数的方法
js生成随机数的方法

js生成随机数的方法有:1、使用random函数生成0-1之间的随机数;2、使用random函数和特定范围来生成随机整数;3、使用random函数和round函数生成0-99之间的随机整数;4、使用random函数和其他函数生成更复杂的随机数;5、使用random函数和其他函数生成范围内的随机小数;6、使用random函数和其他函数生成范围内的随机整数或小数。

2023.09.04

3805

4

如何启用JavaScript
如何启用JavaScript

JavaScript启用方法有内联脚本、内部脚本、外部脚本和异步加载。详细介绍:1、内联脚本是将JavaScript代码直接嵌入到HTML标签中;2、内部脚本是将JavaScript代码放置在HTML文件的`<script>`标签中;3、外部脚本是将JavaScript代码放置在一个独立的文件;4、外部脚本是将JavaScript代码放置在一个独立的文件。

2023.09.12

5013

6

Js中Symbol类详解
Js中Symbol类详解

javascript中的Symbol数据类型是一种基本数据类型,用于表示独一无二的值。Symbol的特点:1、独一无二,每个Symbol值都是唯一的,不会与其他任何值相等;2、不可变性,Symbol值一旦创建,就不能修改或者重新赋值;3、隐藏性,Symbol值不会被隐式转换为其他类型;4、无法枚举,Symbol值作为对象的属性名时,默认是不可枚举的。

2023.09.20

3280

5

java访问控制修饰符介绍
java访问控制修饰符介绍

java访问控制修饰符有四种,分别是public、protected、private、默认访问修饰符。详细介绍:1、public,public是最宽松的访问控制修饰符,被修饰的类、方法和变量可以被任何其他类访问,当一个类、方法或变量被声明为public时,它们可以在任何地方被访问,无论是同一个包中的类还是不同包中的类;2、protected修饰符等等。

2023.09.20

1048

7

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习