Java 中并发编程怎么在微服务架构中利用并发工具类封装一个轻量级的限流网关

梦芳姑娘_5191

梦芳姑娘_5191

2026-07-27

570人浏览

原创

限流网关的核心目标不是替代 Sentinel 或 Resilience4j,而是作为轻量级 API 入口层实现单机限流,依托 AtomicInteger、Semaphore、Guava RateLimiter 等并发工具封装计数器、并发数、令牌桶策略,并支持动态规则与多框架集成。

java 中并发编程怎么在微服务架构中利用并发工具类封装一个轻量级的限流网关

限流网关的核心目标不是替代 Sentinel 或 Resilience4j

微服务架构中,限流网关通常位于 API 入口(如 Spring Cloud Gateway 或自研网关层),它的轻量级体现在不依赖外部组件、不引入复杂配置、不侵入业务逻辑。Java 并发工具类(如 AtomicInteger、Semaphore、RateLimiter(Guava)、ConcurrentHashMap + ScheduledExecutorService)适合封装单机维度的限流策略,适用于中小流量场景或作为兜底/降级层。

用 AtomicInteger 实现简单计数器限流(QPS 控制)

适用于固定时间窗口内限制总请求数,实现简单、无锁开销低,但存在“边界突刺”问题(如 0:59.9 和 1:00.1 可能各放行 100 次)。

  • 维护一个原子整数 count 和上一窗口开始时间 lastResetTime
  • 每次请求检查是否跨窗口:若当前时间 - lastResetTime ≥ 窗口时长(如 1000ms),则重置 count = 0,lastResetTime = 当前时间
  • 若 count.incrementAndGet() ≤ 阈值,则放行;否则拒绝
  • 注意:需配合 volatile long 或 AtomicLong 存储 lastResetTime,避免可见性问题

用 Semaphore 实现并发数限流(连接数/线程数控制)

适合保护下游资源不被突发并发压垮(如数据库连接池、HTTP 客户端连接),本质是控制同时执行的请求数,而非单位时间请求数。

  • 初始化时指定 permits 数量(如 new Semaphore(50))
  • 网关拦截器中 tryAcquire(),成功则继续链路,失败返回 429
  • 务必在 filter chain 结束后(无论成功失败)调用 release(),建议用 try-finally 包裹
  • 可搭配 Fairness 参数控制是否公平调度,高吞吐场景建议 false(默认)

用 Guava RateLimiter 做平滑令牌桶限流(推荐用于多数场景)

相比计数器更平滑,支持预热、支持突发流量缓冲,且线程安全、无状态,适合作为 Filter 或 GlobalFilter 的核心组件。

java-api-doc-generator
java-api-doc-generator

分析 Java Spring Boot 后端 Controller 代码,自动生成 Markdown 格式的接口文档。当用户说“生成 Java 接口文档”、“生成 API 文档”、“从 Spring 代码生成文档”时触发。

下载
  • 按路由粒度或服务名构建 RateLimiter 实例,缓存到 ConcurrentHashMap
  • 使用 create(double permitsPerSecond) 或 create(double permitsPerSecond, long warmupPeriod, TimeUnit) 预热
  • 拦截时调用 limiter.tryAcquire() —— 返回 true 放行,false 拒绝;或用 acquire() 阻塞等待(不推荐网关层阻塞)
  • 注意:RateLimiter 是单实例、线程安全的,不要每次 new,也不要按请求 new

结合路由元数据动态加载限流规则

真正“轻量”不等于“写死阈值”。可通过配置中心(如 Nacos、Apollo)监听变更,或从请求头/X-Route-ID 解析路由标识,再查本地缓存获取对应限流参数。

  • 定义 RuleKey = serviceId + "-" + routeId,作为限流器 map 的 key
  • 监听配置变更时,对新增 key 初始化 RateLimiter,对变更 key 替换旧实例(注意旧实例不再使用即可,无需显式销毁)
  • 未匹配到规则时走默认限流器(如 100 QPS),避免空指针或全放行
  • 可加一层装饰器:记录被限流次数 + 时间戳,供 Prometheus 暴露 /actuator/metrics/ratelimit.rejected

不依赖 Spring Cloud Gateway 也能嵌入 WebMvc 或 WebFlux

如果是传统 Spring Boot WebMvc 应用,可用 @Order(1) 的 HandlerInterceptor;如果是 WebFlux,用 GlobalFilter + Mono.defer() 封装限流逻辑。关键点是把限流判断放在最外层,早拒绝、少穿透。

  • WebMvc 中:preHandle 返回 false 即中断请求,直接 setStatus(429)
  • WebFlux 中:filter 内部用 Mono.fromCallable(() -> limiter.tryAcquire()).flatMap(b -> b ? chain.filter(exchange) : Mono.error(new ResponseStatusException(HttpStatus.TOO_MANY_REQUESTS)))
  • 异常统一处理:捕获自定义限流异常,在 @ControllerAdvice 中转成标准 JSON 响应体

Java免费学习笔记:立即使用
解锁 Java 大师之旅:从入门到精通的终极指南

相关文章

编程速学教程(入门课程)
编程速学教程(入门课程)

编程怎么学习?编程怎么入门?编程在哪学?编程怎么学才快?不用担心,这里为大家提供了编程速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.15

11477

6

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

2023.07.05

8602

9

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

2023.07.31

7392

8

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.01

1224

3

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.02

988

3

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

1476

5

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

3009

5

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

2023.08.03

20271

3

配置java环境变量
配置java环境变量

配置Java环境变量是为了让操作系统能够识别和使用Java的相关命令和功能。本专题为大家提供配置java环境变量相关文章,帮助大家解决问题。

2023.08.03

1315

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Hyperf官方中文手册(3.1)
Hyperf官方中文手册(3.1)

共0课时 | 0人学习

消息队列MQ使用详解
消息队列MQ使用详解

共9课时 | 1.3万人学习