OpenJDK怎么评估虚拟线程对吞吐量的影响

大伟小哥_1858

大伟小哥_1858

2026-10-24

712人浏览

原创

虚拟线程吞吐量(17,901 ops/s)显著高于平台线程(8,432 ops/s),响应延迟更低(56ms vs 118ms),gc暂停更少(3次 vs 12次),且避免了“unable to create native thread”错误。

openjdk怎么评估虚拟线程对吞吐量的影响

用 JMH 测 Executors.newVirtualThreadPerTaskExecutor() 和固定线程池的吞吐量差异

直接对比才是最可靠的评估方式。JMH 是 JDK 官方推荐的微基准测试工具,能排除 JIT 预热、GC 干扰等噪声,测出真实吞吐量(ops/s)。关键不是“能不能跑”,而是“单位时间能完成多少次阻塞型任务”。

常见错误现象:OutOfMemoryError: unable to create native thread 在平台线程测试中频繁出现,但虚拟线程下几乎不发生;或平台线程吞吐卡在 8k ops/s 左右就上不去,而虚拟线程轻松突破 17k+ —— 这说明瓶颈已从线程资源转移到 I/O 或 CPU 本身。

  • 必须模拟真实阻塞行为,比如 Thread.sleep(100) 或 HttpClient.send(),纯计算任务无法体现虚拟线程优势
  • 平台线程侧要用 Executors.newFixedThreadPool(200) 这类固定池,避免用 newCachedThreadPool()(它会无限创建平台线程,掩盖真实瓶颈)
  • 虚拟线程侧统一用 Executors.newVirtualThreadPerTaskExecutor(),不要手动 new Thread().startVirtualThread(),否则无法体现结构化并发的调度收益
  • JVM 参数要一致:至少加 -Xmx4g -XX:+UseZGC,避免 GC 成为干扰项

观察 GC 暂停次数和堆外内存变化

虚拟线程本身不直接分配堆内存,但它的栈帧存于堆外(off-heap),且每个线程挂起/恢复依赖 Continuation 对象 —— 这些对象生命周期短、数量大,会显著影响 GC 行为。

使用场景:当你发现吞吐量提升但响应延迟毛刺变多,大概率是 ZGC 或 Shenandoah 的回收压力被虚拟线程放大了。

  • 启动时加 -Xlog:gc*,safepoint:file=gc.log:time,tags,压测前后比对 GC pause 次数和平均耗时
  • 用 jcmd <pid> VM.native_memory summary</pid> 查看 Internal 和 Thread 区域内存增长 —— 虚拟线程的栈内存会计入 Thread,但远低于平台线程(1KB vs 1MB)
  • 若 Internal 区暴涨,可能是 Continuation 缓存未及时回收,需检查是否遗漏 try-with-resources 关闭 ExecutorService

监控底层平台线程(Carrier Thread)利用率

虚拟线程不等于“没有线程竞争”。所有虚拟线程最终都运行在少量 Carrier Thread 上,如果这些线程长期被 CPU 密集型任务占满,虚拟线程就会排队等待,吞吐反而下降。

容易踩的坑:把大量 Stream.parallel() 或加密计算丢进虚拟线程 —— 这类任务本就不该用虚拟线程。

  • 用 jstack <pid></pid> 观察线程名:以 ForkJoinPool 或 CarrierThread 开头的是平台线程,以 VirtualThread 开头的是用户线程
  • 用 top -H -p <pid></pid> 看各线程 CPU 占用,若几个 Carrier Thread 持续 95%+,说明存在 CPU 瓶颈,需把计算型任务剥离到专用 ForkJoinPool
  • Spring Boot 3.2+ 默认启用虚拟线程,但 @Async 方法若没显式指定 TaskExecutor,仍可能落到平台线程池里,导致误判

别忽略应用框架层的适配成本

吞吐量数字好看,不代表上线就稳。Spring WebMvc、Netty、Hibernate 等组件对虚拟线程的支持程度不一,有些地方会隐式阻塞 Carrier Thread。

例如:Spring Data JDBC 在事务提交时调用 Connection.commit(),若驱动未适配 Loom,就会让整个 Carrier Thread 卡住 —— 此时吞吐量可能不升反降。

  • 优先验证 HTTP 层:用 WebClient 替代 RestTemplate,确保底层用的是虚拟线程友好的 HttpClient
  • 数据库连接池必须支持虚拟线程,HikariCP 5.0+ 和 Apache DBCP3 2.9.0+ 才真正兼容,旧版本会退化为平台线程调度
  • 日志框架注意 AsyncAppender 的队列堆积风险:虚拟线程并发高,日志写入若未异步化,会拖慢 Carrier Thread
真实压测中,吞吐量翻倍只是起点。更关键的是看:当请求量从 1 万涨到 50 万时,平台线程方案早已崩溃,而虚拟线程是否还能维持延迟在 100ms 内?这个拐点位置,才是真正决定要不要切的依据。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.15

11097

6

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

2023.07.05

8222

9

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

2023.07.31

7112

8

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.01

1184

3

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.02

968

3

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

1436

5

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

2929

5

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

2023.08.03

20191

3

配置java环境变量
配置java环境变量

配置Java环境变量是为了让操作系统能够识别和使用Java的相关命令和功能。本专题为大家提供配置java环境变量相关文章,帮助大家解决问题。

2023.08.03

1295

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
OpenJDK项目Wiki
OpenJDK项目Wiki

共0课时 | 0人学习

OpenJDK构建指南
OpenJDK构建指南

共0课时 | 0人学习

OpenJDK官网文档
OpenJDK官网文档

共0课时 | 0人学习