如何用SQL ROW_NUMBER去除重复数据?

云萱姑娘_4040

云萱姑娘_4040

2026-08-17

423人浏览

原创

row_number()仅生成唯一行号,不删除数据;真正去重需结合子查询或cte筛选rn=1的行,如with ranked as (select , row_number() over (partition by email order by created_at desc) as rn from users) select from ranked where rn = 1。

如何用sql row_number去除重复数据?

ROW_NUMBER() 本身不删数据,只标记行号

很多人以为 ROW_NUMBER() 能直接“去重”,其实它只是给每一行按规则打一个序号。真正去重得靠这个序号配合 WHERE 或子查询筛选——比如只保留每个分组里的第一行。

典型误区是写成:SELECT DISTINCT *, ROW_NUMBER() OVER (...) FROM ...,这毫无意义:DISTINCT 和窗口函数不能混用,SQL 会报错或行为不可控。

  • 必须把 ROW_NUMBER() 放在子查询或 CTE 里生成序号列
  • 分区字段(PARTITION BY)要选真正定义“重复”的依据,比如 email、order_id,而不是主键
  • 排序字段(ORDER BY)决定哪一行被保留:想留最新记录就按时间倒序,想留最早就正序

标准写法:用 CTE + WHERE 过滤重复行

这是最清晰、兼容性最好的方式,适用于 PostgreSQL、SQL Server、Oracle、MySQL 8.0+:

WITH ranked AS (
  SELECT *,
         ROW_NUMBER() OVER (
           PARTITION BY email ORDER BY created_at DESC
         ) AS rn
  FROM users
)
SELECT id, email, created_at
FROM ranked
WHERE rn = 1;

注意:PARTITION BY email 表示“相同邮箱视为一组”,ORDER BY created_at DESC 让最新注册的排第一,rn = 1 就只取每组头一条。

  • 如果表没主键或时间字段,可用 ORDER BY id 保底,但结果不稳定(不同数据库可能返回不同行)
  • 别在 WHERE 里直接写 ROW_NUMBER() > 1 —— 窗口函数不能出现在 WHERE 子句中
  • PostgreSQL 允许在子查询里用 SELECT *,但 SQL Server 要显式列出字段,避免 CTE 中出现重复列名

DELETE 重复行时,必须用主键或唯一标识定位

想真正删数据?不能直接 DELETE FROM ... WHERE rn > 1,因为 rn 是计算列,不在原表里。得先拿到要删的行 ID:

DELETE FROM users
WHERE id NOT IN (
  SELECT id FROM (
    SELECT id,
           ROW_NUMBER() OVER (
             PARTITION BY email ORDER BY created_at DESC
           ) AS rn
    FROM users
  ) ranked
  WHERE rn = 1
);

这个写法看似绕,但安全:它靠 id 定位,不会误删整组。

  • 千万避免 DELETE FROM users WHERE email IN (...) 这种写法——它会删掉所有同邮箱记录,只剩一条也不剩
  • MySQL 5.7 或更早版本不支持在子查询中引用同一张表,得加一层包装:SELECT * FROM (SELECT ...) AS tmp
  • 大表执行前务必加 EXPLAIN 看是否命中索引;PARTITION BY 字段最好有索引,否则性能断崖下跌

替代方案:GROUP BY + 聚合函数更轻量,但有局限

如果只要查去重后的某几个字段(比如只取每个邮箱的最新创建时间),GROUP BY 加 MAX(created_at) 比 ROW_NUMBER() 更快,也更易读:

SELECT email, MAX(created_at) AS latest_time
FROM users
GROUP BY email;

但它没法带回整行数据(比如对应那条记录的 id 或 name),除非用 JOIN 回原表,反而更复杂。

  • ROW_NUMBER() 的核心价值是“保留完整原始行”,而不仅是聚合统计
  • 如果业务只要去重结果集展示,不用改原表,优先考虑 GROUP BY;如果要导出/同步/清理,还是用带 ROW_NUMBER() 的 CTE 更稳妥
  • SQLite 直到 3.25.0 才支持窗口函数,老版本只能用关联子查询模拟,性能差很多

实际执行时最容易卡在分区字段没索引,或者误把 ORDER BY 写成 created_at ASC 却以为留的是最新数据。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4123

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

871

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1069

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6001

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2883

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

5980

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8001

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1090

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

952

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习