Java程序如何使用MyBatis流式读取Oracle亿级数据?

星明姑娘_7895

星明姑娘_7895

2026-11-11

433人浏览

原创

MyBatis + Oracle 流式读取必须设 fetchSize = Integer.MIN_VALUE(-2147483648),而非关闭;需配合 TYPE_FORWARD_ONLY、CONCUR_READ_ONLY 及正确驱动参数(如 ojdbc8、SetBigStringTryClob=true)才能触发逐行流式,否则仍会全量加载导致 OOM。

java程序如何使用mybatis流式读取oracle亿级数据?

MyBatis + Oracle 流式读取必须关掉 fetchSize 吗?

不是必须关,而是必须显式设为 Integer.MIN_VALUE(即 -2147483648),否则 MyBatis 默认用 JDBC 的 Statement 模式批量拉取,内存照样爆。Oracle 驱动对流式支持依赖两个关键点:JDBC URL 中启用 oracle.jdbc.defaultRowPrefetch=1(仅辅助),以及 ResultSet 必须用 ResultSet.TYPE_FORWARD_ONLY + ResultSet.CONCUR_READ_ONLY + fetchSize = Integer.MIN_VALUE 组合触发底层的「逐行流式」行为。

常见错误现象:OutOfMemoryError: Java heap space 即使只 select 1 列;或日志里看到 Row prefetch size: 10 却没生效——本质是 MyBatis 没把 fetchSize 透传给 Oracle JDBC。

  • MyBatis XML 中必须在 标签加属性:fetchSize="-2147483648"
  • Mapper 接口方法不能加 @Options 注解覆盖,它不支持负数 fetchSize(MyBatis 3.4+ 仍会转成正数)
  • Spring Boot 配置 mybatis.configuration.default-fetch-size 对负值无效,必须写死在 SQL 定义里

Oracle JDBC 驱动版本和连接参数怎么配才不翻车?

Oracle 12c+ 推荐用 ojdbc8.jar(对应 JDK 8+),ojdbc6 在流式场景下有已知 bug:即使设了 fetchSize = Integer.MIN_VALUE,驱动仍可能缓存多行。连接 URL 必须带 SetBigStringTryClob=true 和 oracle.jdbc.autoCommitSpecCompliant=false,前者防 CLOB 字段触发隐式 fetch,后者避免 auto-commit 干扰流式游标生命周期。

典型错误配置:jdbc:oracle:thin:@//host:1521/orcl?useUnicode=true&characterEncoding=utf8 —— 这是 MySQL 风格参数,Oracle 会静默忽略,导致流式失效。

  • 正确 URL 示例:jdbc:oracle:thin:@//10.0.1.100:1521/ORCLPDB1?oracle.jdbc.defaultRowPrefetch=1&SetBigStringTryClob=true&oracle.jdbc.autoCommitSpecCompliant=false
  • Driver class 必须是 oracle.jdbc.driver.OracleDriver(ojdbc8 已废弃该类,改用 oracle.jdbc.OracleDriver,但流式兼容性更稳)
  • 连接池(如 HikariCP)需禁用连接测试:connection-test-query=SELECT 1 FROM DUAL 可能提前消耗游标

流式读取时 MyBatis 的 ResultHandler 怎么写才安全?

ResultHandler 是唯一安全的流式消费方式,绝不能用 List 接收结果——那等于全量加载到内存。它的核心约束是:处理逻辑必须轻量、无状态、不缓存原始对象;一旦 handler 方法返回,MyBatis 立即释放当前行的 ResultSet 资源。

Java 开发专家
Java 开发专家

精通 Java 21+,掌握虚拟线程、模式匹配和 Spring Boot 3.x 等现代特性。是 Java 生态系统(包括 GraalVM、Project Lo

下载

容易踩的坑:resultHandler.handleResult(...) 里调用 session.insert(...) 触发新查询,会破坏当前游标;或把 ResultContext 里的对象塞进全局 List,导致 GC 不掉。

  • handler 内禁止任何数据库操作(包括同 session 的其他 select/insert)
  • 字段映射尽量用基本类型或 String,避免嵌套对象(如 ),否则 MyBatis 可能预加载关联数据
  • 示例安全写法:
    sqlSession.select("selectBigTable", params, context -> {
        MyRecord r = (MyRecord) context.getResultObject();
        // 立即写入文件 / 发 Kafka / 计算聚合,不保留引用
        writer.write(r.getId() + "," + r.getName());
    });

为什么 Oracle 游标没关闭、连接被占满?

流式读取本质是保持打开的 ResultSet 和底层 Oracle 游标(cursor),直到 handler 执行完毕或发生异常。如果 handler 抛异常、或业务逻辑卡住(如网络 IO 阻塞)、或未显式调用 sqlSession.close(),游标不会自动释放,数据库端 v$open_cursor 持续增长,最终报 ORA-01000: maximum open cursors exceeded。

这不是 MyBatis 的 bug,而是 JDBC 规范要求:流式 ResultSet 生命周期由应用控制。

  • 必须用 try-with-resources 包裹 SqlSession(确保 close)
  • handler 内部必须做超时控制(如 CompletableFuture.orTimeout()),防无限等待
  • Oracle 端监控关键视图:SELECT sid, sql_id, open_cursor_count FROM v$session WHERE open_cursor_count > 50

亿级数据流式不是“开个开关就完事”,关键是把 ResultSet 当作一次性的、不可重入的资源管道,任何环节持有引用、延迟释放、跨线程传递,都会让整个链路卡死在数据库侧。

Java免费学习笔记:立即使用
解锁 Java 大师之旅:从入门到精通的终极指南

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

oracle java

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.15

12377

6

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

2023.07.05

9462

9

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

2023.07.31

8072

8

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.01

1304

3

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.02

1048

3

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

1556

5

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

3249

5

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

2023.08.03

20491

3

配置java环境变量
配置java环境变量

配置Java环境变量是为了让操作系统能够识别和使用Java的相关命令和功能。本专题为大家提供配置java环境变量相关文章,帮助大家解决问题。

2023.08.03

1415

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程