如何优化MySQL大表深分页查询导致的性能瓶颈问题?

陌萱姑娘_3474

陌萱姑娘_3474

2026-08-07

954人浏览

原创

直接结论:用 limit offset, size 查几百万行后的数据性能必然崩,因 mysql 必须扫描并丢弃前 offset 行;优化方案包括延迟关联(先查 id 再 join)和游标分页(where 排序字段 > 上一页末值)。

如何优化mysql大表深分页查询导致的性能瓶颈问题?

直接结论:用 LIMIT offset, size 查几百万行后的数据,性能必然崩。这不是索引没加好,而是 MySQL 必须扫描并丢弃前 offset 行——哪怕你只想要 10 条。

为什么 LIMIT 1000000, 20 比 LIMIT 0, 20 慢几十倍

MySQL 不会“跳”到第 1000001 行,它得从头开始数:先按 ORDER BY 排序(走索引也得遍历 B+ 树叶子节点),再逐行读、逐行计数,直到凑够 1000020 行,最后扔掉前 1000000 行。

这个过程带来三重开销:

  • 大量二级索引回表(如果 SELECT * 或含非索引列)
  • B+ 树叶子节点跨页遍历,I/O 次数激增
  • 排序缓冲区(sort_buffer_size)可能溢出,触发磁盘临时文件

实测中,570 万行的表,LIMIT 800000, 20 耗时 2.1 秒;优化后降到 0.3 秒——差距不在 SQL 写法“炫技”,而在是否绕开了偏移量扫描。

SELECT * FROM t ORDER BY id LIMIT 100000, 10 怎么改才不回表炸

核心思路是把“查全行 → 舍弃大部分”改成“先精准定位 ID → 再按 ID 拿数据”。前提是:排序字段和过滤条件能走索引,且主键是高效查找锚点(如自增 id)。

典型错误写法(子查询带 LIMIT 直接报错):

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
SELECT * FROM t WHERE id IN (SELECT id FROM t ORDER BY id LIMIT 100000, 10);

正确写法(加一层派生表绕过限制):

SELECT t.* FROM t INNER JOIN (SELECT id FROM t ORDER BY id LIMIT 100000, 10) AS tmp ON t.id = tmp.id;
  • 子查询只走主键索引或覆盖索引,不回表
  • 外层 JOIN 只回表 10 次,而非 100010 次
  • 必须确保 ORDER BY 字段有索引,否则子查询本身就会 filesort

游标分页(WHERE id > ? ORDER BY id LIMIT ?)怎么落地

这是真正规避 offset 的方案,但要求业务接受“只能下一页/上一页”,不能跳转任意页码。

  • 前端需保存上一页最后一条记录的 id(比如 last_id = 123456)
  • 下一页查询写成:SELECT * FROM t WHERE id > 123456 ORDER BY id LIMIT 20
  • 必须有唯一、递增、非空的排序字段(推荐自增主键或 created_at + 主键组合)
  • 如果排序字段可能重复(如多个记录同秒创建),要补上主键避免漏数据:WHERE (created_at, id) > ('2026-06-05 10:00:00', 999999) ORDER BY created_at, id LIMIT 20

注意:游标值不能来自用户输入,必须由服务端校验或生成,防止越权或错位。

容易被忽略的细节和兜底判断

覆盖索引优化和游标分页都依赖索引有效性。以下情况会让优化失效:

  • WHERE 条件中用了函数(如 WHERE DATE(create_time) = '2026-06-05'),导致索引无法下推
  • ORDER BY 和 WHERE 字段未命中同一复合索引,触发 Using filesort
  • 表有大量 UPDATE,导致 B+ 树分裂严重,叶子节点物理不连续,I/O 效率下降
  • 缓存池(innodb_buffer_pool_size)太小,热点索引页反复进出内存

当数据量突破千万且业务强依赖随机跳页(如后台导出第 5000 页),就该考虑架构级方案:把分页逻辑下沉到 Elasticsearch,或用物化视图预聚合。SQL 层优化有天花板,别硬扛。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4103

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

871

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1069

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

5981

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2883

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

5960

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

7961

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1090

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

952

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 182人学习