在SQL中使用窗口函数进行数据去重有哪些最佳实践?

轻婷小哥_9769

轻婷小哥_9769

2026-08-03

420人浏览

原创

必须用row_number()去重,因其为每行生成唯一序号,而rank()/dense_rank()在排序值相同时会分配相同序号,导致rn=1匹配多行;需配合partition by分组、order by(含兜底字段)排序,并通过cte或子查询筛选rn=1。

在sql中使用窗口函数进行数据去重有哪些最佳实践?

窗口函数去重必须用 ROW_NUMBER(),别用 RANK() 或 DENSE_RANK()

因为去重目标是“每组只留一行”,而 RANK() 和 DENSE_RANK() 在排序值相同时会分配相同序号,导致 rn = 1 可能匹配多行。只有 ROW_NUMBER() 保证每行编号唯一,哪怕 ORDER BY 字段完全相同,也会按物理顺序(或优化器决定的顺序)强加一个唯一序号。

常见错误是直接套用排名函数却不验证重复序号:

  • 写 RANK() OVER (PARTITION BY user_id ORDER BY login_time DESC) → 若两人同秒登录,可能两个都得 rn = 1,WHERE rn = 1 就漏删了
  • 正确做法是加兜底排序:例如 ORDER BY login_time DESC, login_id DESC,确保排序键组合唯一

PARTITION BY 字段必须和业务去重逻辑严格一致

比如要“每个用户每天只保留一条浏览记录”,PARTITION BY 就得是 user_id, DATE(login_time);如果只写 user_id,就会把同一天多次浏览全压成一条,违背需求。

容易踩的坑:

  • 忽略隐式类型转换:比如 PARTITION BY user_id 中 user_id 是字符串,但值里有前后空格,会导致同个用户被分到不同组 → 先清洗再分区
  • 时间字段没截断:用 login_time 分区但实际要按天去重 → 必须写 PARTITION BY user_id, CAST(login_time AS DATE) 或 DATE(login_time)
  • MySQL 8.0+ 支持,但旧版不支持窗口函数 → 先查 SELECT VERSION() 确认环境

CTE + WHERE rn = 1 是最安全的写法,别省略 CTE

直接在主查询里嵌套 ROW_NUMBER() 会导致语法错误(多数数据库不允许在 WHERE 中引用窗口函数结果),必须用 CTE 或子查询包裹。

求职精灵
求职精灵

一款AI办公效率工具,主要用于有见求职旗下AI求职平台,提供AI简历优化、AI模拟面试、岗位查询、职业规划等,适合需要提升相关任务效率的用户。

下载

正确结构:

WITH ranked AS (
  SELECT *,
         ROW_NUMBER() OVER (PARTITION BY user_id ORDER BY login_time DESC, login_id DESC) AS rn
  FROM logins
)
SELECT user_id, login_time, login_id
FROM ranked
WHERE rn = 1;

注意点:

  • CTE 中必须显式列出所有需要的字段,别用 * 后又在外部 SELECT * —— 某些引擎(如 Presto)会报错
  • 如果原表很大,先用 WHERE 过滤再进 CTE,比如只处理近30天数据,避免全表扫描
  • rn = 1 不能写成 rn ,虽等价但可读性差,且部分优化器不会识别这种等价

性能关键:给 PARTITION BY + ORDER BY 字段建联合索引

窗口函数执行时,数据库需对每个分区做排序。若没有合适索引,会触发大量临时磁盘排序,慢得明显。

比如语句中是 PARTITION BY user_id ORDER BY login_time DESC,最优索引是:

CREATE INDEX idx_user_login ON logins (user_id, login_time DESC);

其他情况:

  • 如果还用了 login_id 作第二排序字段,索引应为 (user_id, login_time DESC, login_id DESC)
  • PostgreSQL 支持降序索引,MySQL 8.0+ 也支持,但 MySQL 5.7 不支持 DESC 关键字,只能建 (user_id, login_time) 然后靠排序优化器处理
  • 别只建单列索引:user_id 和 login_time 各自的索引对窗口排序帮助很小
真正难的是把业务语义准确翻译成 PARTITION BY 和 ORDER BY 的组合——多一个字段、少一个字段、顺序颠倒,结果就可能全错。写完一定要用小样本数据手工核对几组,尤其关注边界情况:空值、时间相同、字符编码差异。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4143

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

871

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1069

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6041

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2923

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6000

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8041

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1090

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

952

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习