MyBatis 怎么优化分页查询在大数据量下的性能

夏浩酱_4042

夏浩酱_4042

2026-08-08

594人浏览

原创

大数据分页慢的根源是count(*)耗时和深分页offset扫描无效数据,优化需禁用/异步count、改用游标分页、精简关联查询、覆盖索引及流式处理等策略。

mybatis 怎么优化分页查询在大数据量下的性能

大数据量下分页查询慢,核心问题就两个:一是 COUNT(*) 统计总条数太耗时,二是 LIMIT offset, size 在深分页时扫描大量无效数据。MyBatis 本身不带分页能力,实际优化需结合插件(如 PageHelper)或升级为 MyBatis-Plus,并配合数据库层策略。

禁用或异步化 COUNT 查询

很多场景根本不需要精确总页数——比如“加载更多”、“无限滚动”。这时可跳过 COUNT:

  • PageHelper:调用 PageHelper.startPage(pageNum, pageSize, false),第三个参数 false 表示不执行 count
  • MyBatis-Plus:用 page.setSearchCount(false),再传入 selectPage
  • 若必须显示总页数,可改为异步统计或缓存近似值(如定时任务更新表行数快照)

改用游标分页(推荐用于高并发/深分页)

放弃页码概念,改用“上次最后 ID”作为分页锚点,彻底规避 OFFSET 扫描:

  • 要求:主键或唯一有序字段(如 id、create_time),且有索引
  • SQL 示例:SELECT * FROM user WHERE id > #{lastId} ORDER BY id LIMIT 20
  • MyBatis-Plus 写法:lambdaQuery().gt(User::getId, lastId).orderByAsc(User::getId).last("LIMIT " + size).list()
  • 前端需保存并传递 lastId,不支持随机跳页,但性能稳定、可扩展

关联查询与结果集精简

分页慢常因关联爆炸或字段冗余导致:

  • 避免在分页主查中用 <collection></collection> 做一对多嵌套——它会触发 N+1 查询或生成巨大笛卡尔积
  • 改用两阶段查询:先分页查主表 ID 列表,再用 IN 批量查关联数据(注意 IN 数量限制)
  • 只查必要字段,不用 SELECT *;XML 中用 <resultmap></resultmap> 精确映射,减少对象封装开销和网络传输
  • 对大文本、JSON、BLOB 字段,考虑延迟加载或单独接口获取

其他关键优化点

这些细节容易被忽略,但影响显著:

  • 索引覆盖:确保排序字段、WHERE 条件字段、分页锚点字段都在联合索引中,让查询走索引不回表
  • 流式查询处理超大数据导出:用 ResultHandler 或 MyBatis-Plus 的 selectObjs 配合 fetchSize = Integer.MIN_VALUE,逐批拉取,防 OOM
  • 分页插件配置合理化:PageHelper 开启 reasonable=true 防越界,MyBatis-Plus 设置 maxLimit 防恶意大页请求
  • 读写分离+分库分表后分页:单库分页失效时,需中间件(如 ShardingSphere)支持归并分页,或业务层聚合

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

java 大数据

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

5376

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1249

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

243

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

486

22

mybatis一级缓存和二级缓存
mybatis一级缓存和二级缓存

在MyBatis中,一级缓存和二级缓存是两种不同级别的缓存机制,它们都可以用来提高性能。本专题提供mybatis一级缓存和二级缓存相关文章,大家可以免费阅读。

2023.08.21

583

4

ibatis和mybatis有什么区别
ibatis和mybatis有什么区别

ibatis和mybatis的区别:1、基本信息不同;2、开发时间不同;3、功能与易用性;4、配置文件;5、入参类型与出参类型;6、返回结果集接受方式;7、语法差异;8、数据库方言支持;9、插件支持;10、社区活跃度;11、全球化支持。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

2602

5

mybatis如何配置数据库连接
mybatis如何配置数据库连接

mybatis配置数据库连接的方法:1、指定数据源;2、配置事务管理器;3、配置类型处理器和映射器;4、使用环境元素;5、配置别名。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

446

5

mybatis工作原理及流程是什么
mybatis工作原理及流程是什么

mybatis工作原理及流程:1、配置文件;2、接口与映射;3、sql解析与生成;4、执行计划;5、结果处理;6、动态sql;7、缓存机制;8、插件;9、事务管理;10、日志与监控;11、扩展性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

292

4

hibernate和mybatis有哪些区别
hibernate和mybatis有哪些区别

hibernate和mybatis的区别:1、实现方式;2、性能;3、对象管理的对比;4、缓存机制。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

302

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
dev.java 官方:Learn Java
dev.java 官方:Learn Java

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习