如何实现SQL分页查询最佳实践_对比OFFSET与键集分页效率

P粉602998670

P粉602998670

2026-04-05

722人浏览

原创

offset分页在大数据量下变慢是因为数据库必须扫描并跳过前offset行,即使只取1条记录也要读取并丢弃前面所有行;索引无法绕过“跳过”动作,尤其order by字段有重复值时优化器更保守,常退化为全索引扫描。

如何实现sql分页查询最佳实践_对比offset与键集分页效率

OFFSET分页在大数据量下为什么越来越慢

因为数据库必须扫描并跳过前 OFFSET 行,哪怕你只要第1000001条记录,它也得把前面100万行全读出来、计数、丢弃。索引能加速定位起始位置,但无法绕过这个“跳过”动作——尤其是当 ORDER BY 字段存在重复值时,排序稳定性会让优化器更保守,实际执行计划常退化为全索引扫描。

常见错误现象:SELECT * FROM orders ORDER BY created_at DESC LIMIT 20 OFFSET 100000 执行时间从几毫秒飙升到2秒以上,且 OFFSET 每翻一倍,耗时几乎线性增长。

  • 使用场景:仅适用于总记录数稳定在万级以内、且分页深度可控(如前100页)的后台管理页
  • 参数差异:LIMIT 越小越快,OFFSET 越大越慢;加复合索引 (created_at, id) 可缓解但不根治
  • 兼容性影响:所有主流SQL方言都支持,但PostgreSQL 13+ 对 OFFSET 做了部分优化,MySQL 8.0 仍无实质性改进

键集分页(Keyset Pagination)怎么写才不翻车

核心是用上一页最后一条记录的排序字段值作为下一页的查询条件,彻底避开 OFFSET。它本质是“游标式”分页,要求排序字段组合具备唯一性或强确定性。

典型错误写法:WHERE created_at —— 如果多条记录 <code>created_at 相同,结果会漏数据或重复。

  • 正确做法:强制用主键补全排序键,例如 ORDER BY created_at DESC, id DESC,然后下一页条件写成 WHERE (created_at, id)
  • 使用场景:高并发列表页(如电商商品流、消息时间线)、数据持续写入且需深分页的系统
  • 性能影响:响应时间恒定,与总数据量无关;但必须有覆盖排序字段的联合索引,否则走全表扫描
  • 注意点:前端必须保留上一页末尾的完整排序键值(不止一个字段),不能只传 created_at

MySQL和PostgreSQL在键集分页上的关键差异

两者都支持行构造器(row constructor)语法,但对 NULL 和类型隐式转换的处理不同,直接导致分页断层或越界。

常见错误现象:PostgreSQL中 WHERE (a, b) > (1, NULL) 返回空结果;MySQL 5.7 则可能报错或行为不一致。

  • MySQL建议用显式拆解:WHERE created_at > '2023-01-01' OR (created_at = '2023-01-01' AND id > 12345)
  • PostgreSQL可安全使用行构造器:WHERE (created_at, id) > ('2023-01-01', 12345),但需确保字段非空或提前过滤
  • 索引要求一致:都必须建 INDEX (created_at, id),顺序与 ORDER BY 完全一致,否则无法利用索引下推

什么时候该放弃分页,改用搜索或加载更多

当用户真实需求不是“看第N页”,而是“找某类内容”时,硬做深分页只是掩盖问题。比如用户滚动到第50页后还在刷,大概率是在找特定信息,而非浏览。

容易被忽略的信号:OFFSET 超过10万、接口平均响应>500ms、前端反复请求同一“页码”但数据不变。

  • 替代方案:提供搜索框 + 筛选条件,后端用 WHERE 过滤后再分页,把100万行变成几千行再 OFFSET
  • 或改用无限滚动(infinite scroll),每次加载基于上一批末尾的 cursor,本质还是键集分页,但用户感知更自然
  • 警惕“伪分页”:某些ORM自动生成 OFFSET 语句却不暴露底层逻辑,查文档确认是否支持手动指定游标条件

键集分页真正难的不是写SQL,而是让前后端对齐游标格式、处理边界空值、以及在数据变更频繁时保证一致性——这些细节一旦漏掉,分页就会悄悄跳行或卡死。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

2473

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

449

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

614

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3990

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

1346

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

3562

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

3516

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

642

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

526

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.4万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 131.8万人学习