如何实现 Guava Cache 的非阻塞 get() 与异步刷新

聖光之護

聖光之護

2026-07-11

749人浏览

原创

本文详解如何通过重写 CacheLoader.reload() 方法,结合 refreshAfterWrite,使 Guava LoadingCache 在触发刷新时真正实现非阻塞读取——即命中需刷新的条目时立即返回旧值,同时后台异步加载新值,避免请求线程阻塞。

本文详解如何通过重写 `cacheloader.reload()` 方法,结合 `refreshafterwrite`,使 guava loadingcache 在触发刷新时真正实现非阻塞读取——即命中需刷新的条目时立即返回旧值,同时后台异步加载新值,避免请求线程阻塞。

Guava Cache 默认的 refreshAfterWrite 并不能直接提供“非阻塞 get”语义:当条目达到刷新时间但尚未被刷新时,首次调用 cache.get(key) 会同步触发 reload(即使你传入的是 AsyncCacheLoader),导致当前线程阻塞等待数据库查询完成——这恰恰违背了高吞吐、低延迟场景下的设计目标。

根本解法在于:显式重写 CacheLoader.reload(K, V) 方法,使其返回 ListenableFuture,并确保内部异步执行加载逻辑。仅使用 CacheLoader.asyncReloading(...) 包装器是不够的,因为 Guava 仍会默认调用 reload() 的同步委托版本;必须主动提供异步实现。

✅ 正确做法如下(以 Scala 为例,Java 同理):

Facet
Facet

Facet.ai是一款AI图像生成和编辑工具,具备实时图像生成和编辑功能

下载
import com.google.common.cache.{CacheBuilder, LoadingCache, CacheLoader}
import com.google.common.util.concurrent.{ListenableFuture, ListenableFutureTask, MoreExecutors}
import java.util.concurrent.ExecutorService

class AsyncDbCacheLoader[K, V](dbExecutor: ExecutorService) extends CacheLoader[K, V] {
  // 必须重写 reload:返回 Future,且在后台线程中执行 DB 查询
  override def reload(key: K, oldValue: V): ListenableFuture[V] = {
    val task = ListenableFutureTask.create(() => {
      // ✅ 真正的异步 DB 加载逻辑(不阻塞调用线程)
      loadFromDatabase(key)
    })
    dbExecutor.execute(task)
    task
  }

  // 基础 load 方法(用于初始加载或 fallback)
  override def load(key: K): V = {
    loadFromDatabase(key)
  }

  private def loadFromDatabase(key: K): V = {
    // 模拟耗时 DB 查询(如 JDBC/ORM 调用)
    // 注意:此处不应在当前线程同步阻塞,但 load() 本身允许阻塞(仅用于首次加载)
    // 实际中可考虑用 CompletableFuture + join() 或适配响应式客户端
    ???
  }
}

// 构建缓存:关键点 —— 不再使用 asyncReloading 包装!直接传入自定义 AsyncCacheLoader
val cache: LoadingCache[String, User] = CacheBuilder.newBuilder()
  .maximumSize(10_000)
  .refreshAfterWrite(30, TimeUnit.SECONDS)   // 触发刷新的时机
  .expireAfterWrite(5, TimeUnit.MINUTES)     // 最大存活时间(兜底过期)
  .concurrencyLevel(8)
  .recordStats()
  .build(new AsyncDbCacheLoader(dbThreadPool))

? 关键要点说明:

  • reload(K, V) 是核心:Guava 在 refresh 场景下优先调用此方法(而非 load(K))。只有它返回 ListenableFuture,且该 Future 异步完成,才能实现“get() 立刻返回旧值 + 后台刷新”。
  • 无需 asyncReloading():该工具类适用于将同步 CacheLoader “包装”为异步,但它无法改变 reload() 的默认同步行为;而我们已通过重写 reload 原生支持异步,更直接、更可控。
  • 线程安全与资源隔离:DB 查询务必提交到专用线程池(如 dbThreadPool),避免占用缓存操作线程(如 ForkJoinPool.commonPool),防止线程饥饿。
  • 异常处理建议:在 reload 中捕获 DB 异常,并在 Future 中传播(如 task.setException(e)),Guava 会记录统计并保留旧值;也可通过 cache.refresh(key) 主动触发刷新并监听结果。
  • 注意 load() 仍可能阻塞:首次加载或缓存未命中时,load() 会被调用——若 DB 查询极慢,仍会影响单次请求。对此可考虑预热、降级策略,或结合 get(key, callable) 提供超时 fallback。

? 总结:Guava Cache 的非阻塞刷新能力并非开箱即用,而是依赖开发者正确实现 reload() 的异步契约。只要 reload 返回真正异步完成的 ListenableFuture,配合 refreshAfterWrite,即可达成“读不阻塞、数据最终一致”的高性能缓存模式——旧值即时服务,新值后台更新,完美契合数据库读多写少、容忍短暂陈旧的业务场景。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.15

3744

6

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

2023.07.05

2775

9

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

2023.07.31

2778

8

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.01

636

3

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.02

601

3

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

705

5

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

1289

5

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

2023.08.03

18844

3

配置java环境变量
配置java环境变量

配置Java环境变量是为了让操作系统能够识别和使用Java的相关命令和功能。本专题为大家提供配置java环境变量相关文章,帮助大家解决问题。

2023.08.03

646

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.4万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 131.8万人学习