如何在MySQL中使用LIMIT和OFFSET实现大数据量的深度分页?

云敏姑娘_7491

云敏姑娘_7491

2026-07-16

146人浏览

原创

limit offset 深度分页性能差的本质是mysql必须扫描并丢弃前offset行,时间复杂度o(offset+limit),无法通过索引跳过计数过程;优化需绕开offset,改用游标分页(如where id > last_id order by id limit size),前提是排序字段有索引且支持顺序翻页。

如何在mysql中使用limit和offset实现大数据量的深度分页?

LIMIT OFFSET 在大数据量下无法实现真正“优化”,只能被绕开——它天生不适合深度分页。 你不是写错了 SQL,也不是索引没建好,而是 MySQL 必须扫描并丢弃前 OFFSET 行,这个逻辑无法跳过。100 万行偏移?它就得读 1000020 行,再扔掉 100 万行。这不是调参能救的。

为什么 LIMIT OFFSET 深度分页会越来越慢

MySQL 不是“定位到第 N 行”,而是老老实实按 ORDER BY 排序后,从头开始逐行计数、丢弃,直到第 OFFSET + 1 行才开始取数据。

  • EXPLAIN 显示 rows 高达几十万甚至上百万,Extra 出现 Using filesort 或 Using index 但查询仍卡住
  • 第 1 页(LIMIT 20 OFFSET 0)毫秒级,第 5000 页(LIMIT 20 OFFSET 99980)直接超时
  • 加了 WHERE type = ? 也无效——过滤发生在排序和偏移之后,无效扫描照旧
  • 哪怕主键有索引,B+ 树也要遍历大量叶子节点才能“数够”偏移量

用 WHERE + 上一页末尾值替代 OFFSET(游标分页)

把“跳过 N 行”变成“从某个确定值之后取数据”,彻底避开偏移扫描。前提是排序字段有索引、值可比较(如 id、updated_at),且业务允许顺序翻页(不支持随机跳转)。

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
  • id 升序分页:上一页最后一条 id 是 6800000,下一页写 SELECT * FROM t WHERE id > 6800000 ORDER BY id LIMIT 20
  • 时间倒序分页(ORDER BY updated_at DESC):上一页最后一条 updated_at 是 '2026-04-10 15:22:33',下一页写 SELECT * FROM t WHERE updated_at
  • 若 updated_at 不唯一(多条同秒),必须叠加主键防漏/重:WHERE updated_at
  • ORDER BY 字段必须建索引;禁止写 ORDER BY DATE(created_at) 这类函数表达式,否则索引失效

实在要支持任意页码跳转?用覆盖索引 + JOIN 回表

当后台管理必须输入“第 892 页”时,优先让 MySQL 只扫描索引,不查全表,大幅减少回表次数。

  • 第一步只查 id(走主键或二级索引):SELECT id FROM t WHERE type = 8 ORDER BY id LIMIT 1000000, 20(毫秒级)
  • 第二步用这些 id 关联原表:SELECT a.* FROM t a JOIN (SELECT id FROM t WHERE type = 8 ORDER BY id LIMIT 1000000, 20) b ON a.id = b.id
  • 子查询中严禁写 SELECT *;主表 a.id 必须有索引(主键天然满足)
  • 实测从 37 秒降到 0.3 秒——关键在避免大偏移量下的全行回表

最容易被忽略的细节

游标分页上线后常因三个点翻车:

  • 前端传错上一页末尾值:类型不对(字符串传成数字)、时区未统一(updated_at 是 UTC 却按本地时间解析)、精度丢失(毫秒级时间截断成秒)
  • ORDER BY 字段含 NULL 值:WHERE id > ? 会跳过所有 NULL 行,需显式处理,例如 WHERE (id > ?) OR (id IS NULL AND ...)
  • 主键非自增整型:用 UUID 或随机字符串作主键时,B+ 树分裂频繁,范围查询效率骤降,游标分页效果大打折扣

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

4476

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1229

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

223

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

446

22

数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

3963

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

851

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1029

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

5801

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2743

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 178人学习

使用phpenv集成环境安装极致CMS
使用phpenv集成环境安装极致CMS

共2课时 | 283人学习