动态权重限流是根据业务维度动态赋予权重并实时调控的限流机制。它基于用户等级、场景ID等维度计算权重,结合双层滑动窗口统计加权吞吐量,通过可插拔策略引擎(如权重占比截断法)实现准入控制、异步排队与降级兜底,并支持监控告警、前后端协同及离线保底。

什么是动态权重限流
动态权重限流不是简单地给每个请求设一个固定QPS阈值,而是根据请求携带的业务维度(如用户等级、设备类型、场景ID、地域标签等)赋予不同权重,再基于实时总权重和全局配额做动态放行决策。比如:VIP用户请求权重大于普通用户,高频调用的场景A权重高于冷门场景B;当系统总负载上升时,还能自动压缩低优先级权重的通过率。
核心设计要点
该组件本质是一个带策略调度能力的 Promise 包装器,需在不侵入业务代码的前提下完成拦截、评估、排队、执行与降级闭环:
-
声明式接入:通过装饰器或高阶函数包裹异步方法,例如
withRateLimit(apiCall, { key: 'sceneId', weight: (ctx) => ctx.user.level * 10 }) - 上下文感知权重计算:支持运行时提取请求上下文(如 Vue 组件实例、Axios config、React hooks 中的 state),动态算出本次调用权重
- 双层滑动窗口统计:底层用 Redis 或本地 LRU + 时间分片维护「维度-权重」聚合值(非请求数),上层按秒/分钟滚动更新全局加权吞吐量
- 可插拔策略引擎:默认采用“权重占比截断法”——若当前窗口已消耗 85% 配额,则只允许权重 ≤ 当前剩余配额 × 0.2 的请求通过;也支持熔断触发后自动切换为固定阈值模式
Promise 层封装关键逻辑
组件返回的是一个符合 Promise A+ 规范的新 Promise,但内部做了三重控制:
-
准入检查:构造时立即调用策略引擎判断是否可入队,失败则直接 reject 带错误码
ERR_RATELIMIT_WEIGHT_EXCEED -
异步排队:通过微任务队列(
queueMicrotask)或setTimeout(0)实现非阻塞排队,避免阻塞主线程;支持设置最大等待时长,超时 reject - 执行兜底:实际发起网络请求前再次校验(防止排队期间配额突变),失败时自动 fallback 到缓存响应或预设降级数据,仍返回 Promise 形式结果
生产可用增强项
仅限流不够,要真正提升网络策略韧性还需补充:
- 权重漂移监控:对高频维度(如 top 10 sceneId)单独打点,当某维度权重使用率连续 3 分钟 >90%,触发告警并建议调优
-
前端-后端协同权重:服务端返回 HTTP Header
X-Weight-Quota: 1200/2000,前端组件据此动态调整后续请求权重系数,形成闭环反馈 - 离线保底策略:无网络或 Redis 不可达时,自动启用本地指数退避 + 权重衰减模型(如每失败一次,同维度权重临时 ×0.7),避免完全不可用










