c# 接口限流的实现 c# 令牌桶算法和漏桶算法

落敏大大_9043

落敏大大_9043

2026-02-02

455人浏览

原创

直接用 Microsoft.Extensions.RateLimiting 是因它已内置线程安全、分布式支持的令牌桶实现,手写易遗漏竞态处理、时间精度和突发流量逻辑;核心参数需结合接口响应时间设定,如 PermitLimit 对应最大并发数,TokensPerPeriod 与 ReplenishmentPeriod 共同决定平均吞吐,QueueLimit 应根据超时容忍度合理设置。

c# 接口限流的实现 c# 令牌桶算法和漏桶算法

为什么直接用 Microsoft.Extensions.RateLimiting 而不是手写令牌桶

ASP.NET Core 7+ 内置的限流中间件已默认采用令牌桶(TokenBucketRateLimiter)实现,且做了线程安全、跨请求共享、支持分布式(配合 IDistributedCache)等关键优化。手写容易漏掉:Interlocked 竞态处理、滑动窗口时间精度、突发流量下的令牌预分配逻辑。除非你明确需要自定义填充策略(比如按 CPU 使用率动态调速),否则不建议从零实现。

TokenBucketRateLimiter 的核心配置参数怎么设才合理

关键参数不是“桶大小”和“填充速率”两个数字,而是它们与业务响应时间的耦合关系。例如:接口平均耗时 200ms,但允许最多 5 个并发请求瞬间打进来,那么 PermitLimit 至少为 5;若希望每秒最多放行 10 次,则 QueueProcessingOrder 设为 Fifo,QueueLimit 建议不超 5(避免排队过长导致超时),ReplenishmentPeriod 设为 TimeSpan.FromSeconds(1),TokensPerPeriod 设为 10。

  • PermitLimit:桶容量,决定最大并发请求数,不是 QPS —— 它限制的是“同时能抢到令牌的请求数”
  • TokensPerPeriod 和 ReplenishmentPeriod 共同决定平均吞吐,但不保证每秒精确放行——令牌是随时间匀速填充的,不是定时触发
  • 若接口 P99 响应时间达 2s,QueueLimit 设太高会导致后续请求在队列里等满 30s 才被拒绝,应设为 Math.Min(5, (int)(30 / avgResponseSeconds))

漏桶算法在 C# 里其实很少单独用

漏桶强调恒定输出速率,天然适合做“削峰填谷”,但 .NET 生态中几乎没有开箱即用的漏桶限流器。Microsoft.Extensions.RateLimiting 不提供漏桶实现,第三方库如 AspNetCoreRateLimit 也只支持滑动窗口或固定窗口。真要模拟漏桶,得自己维护一个按固定间隔出队的 ConcurrentQueue + Timer,但会引入时钟漂移、GC 暂停导致漏速不准等问题。实际项目中,更常见的是用消息队列(如 RabbitMQ 的 x-max-length + x-overflow=reject-publish)在网关层做漏桶语义。

Microsoft Skill Creator
Microsoft Skill Creator

使用 Learn MCP 工具为 Microsoft 技术创建代理技能。当用户想要创建教授代理任何 Microsoft 技术的技能时使用。

下载

分布式场景下令牌桶怎么保持一致性

单机 TokenBucketRateLimiter 默认用内存存储,集群部署时必须切换为分布式模式。关键不是换存储,而是选对序列化方式:IDistributedCache 存的是 TokenBucketState 结构体,含 AvailableTokens、LastReplenishedUtc 等字段。Redis 是首选,但要注意:StackExchange.Redis 的 StringGetAsync + StringSetAsync 必须用 Lua 脚本保证原子性,否则多个实例可能同时读到旧值并各自填充,导致超发。官方限流器已内置该脚本,只需确认你用的是 RedisRateLimiter(.NET 8+)或配置了 AddDistributedRateLimiter 并注入 RedisCache 实例。

services.AddRateLimiter(options =>
{
    options.AddPolicy("api", context =>
        context.Request.RouteValues["controller"]?.ToString() == "Api"
            ? new TokenBucketRateLimiterOptions
            {
                PermitLimit = 10,
                TokensPerPeriod = 10,
                ReplenishmentPeriod = TimeSpan.FromSeconds(1),
                QueueLimit = 3
            }
            : new FixedWindowRateLimiterOptions { PermitLimit = 100, Window = TimeSpan.FromMinutes(1) });
});

真正难的不是配参数,而是理解“令牌桶”本质是个带状态的时间函数——它把请求速率映射成一个可加减的整数,而这个整数在分布式环境下必须靠强一致存储兜底。多数人卡在 Redis 连接超时没重试、缓存键没加前缀导致多服务冲突、或者误把 QueueLimit 当作总请求数限制。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
rabbitmq和kafka有什么区别
rabbitmq和kafka有什么区别

rabbitmq和kafka的区别:1、语言与平台;2、消息传递模型;3、可靠性;4、性能与吞吐量;5、集群与负载均衡;6、消费模型;7、用途与场景;8、社区与生态系统;9、监控与管理;10、其他特性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

704

5

Java 消息队列与异步架构实战
Java 消息队列与异步架构实战

本专题系统讲解 Java 在消息队列与异步系统架构中的核心应用,涵盖消息队列基本原理、Kafka 与 RabbitMQ 的使用场景对比、生产者与消费者模型、消息可靠性与顺序性保障、重复消费与幂等处理,以及在高并发系统中的异步解耦设计。通过实战案例,帮助学习者掌握 使用 Java 构建高吞吐、高可靠异步消息系统的完整思路。

2026.01.28

1228

20

RabbitMQ使用教程合集
RabbitMQ使用教程合集

RabbitMQ使用教程合集整理 RabbitMQ 基础教程、消息队列开发案例、生产者消费者、交换机与队列实战内容。

2026.05.20

224

15

RabbitMQ集群部署指南
RabbitMQ集群部署指南

RabbitMQ集群部署指南聚合 RabbitMQ 集群部署、高可用架构、镜像队列、故障恢复、监控与运维优化内容。

2026.05.20

137

12

RabbitMQ Docker实战指南
RabbitMQ Docker实战指南

RabbitMQ Docker实战指南提供 RabbitMQ Docker 镜像部署、Docker Compose、Kubernetes Operator 与云原生实践教程。

2026.05.20

162

10

什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2213

5

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.07

3774

5

什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

2024.05.11

749

5

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

2025.12.18

664

18

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go-Zero官方文档
Go-Zero官方文档

共0课时 | 0人学习