如何在MySQL中查询重复数据并只保留一条

千敏吖_6186

千敏吖_6186

2026-11-20

105人浏览

原创

先用GROUP BY+MIN(id)定位每组重复数据中要保留的最小ID,再通过DELETE JOIN或CTE+ROW_NUMBER()删除其余行;执行前须备份、建索引并处理NULL及字符集问题。

如何在mysql中查询重复数据并只保留一条

用 GROUP BY + MIN(id) 找出每组重复数据的最小 ID

重复数据通常指多个行在关键字段(如 email、phone)上完全一致,但主键 id 不同。保留一条的本质是:对每组重复记录,只留下 id 最小(或最大)的那一行,其余删除。

先确认哪些字段构成“重复逻辑”——比如用户表按 email 判重,订单表可能按 user_id 和 order_time 联合判重。确定后,用 GROUP BY 分组,配合 MIN(id) 拿到要保留的 ID 列表:

SELECT MIN(id) AS keep_id, email
FROM users
GROUP BY email
HAVING COUNT(*) > 1;

这个结果告诉你:每个重复 email 对应该保留哪条记录的 id。注意必须加 HAVING COUNT(*) > 1,否则会把所有唯一值也查出来。

用 DELETE JOIN 一次性删掉重复行(保留最小 ID)

直接 DELETE 多表关联是 MySQL 中最稳妥的删除方式,避免子查询报错 You can't specify target table for update in FROM clause。

假设表叫 users,按 email 去重,保留每组中 id 最小的那条:

DELETE u1 FROM users u1
INNER JOIN users u2
WHERE u1.email = u2.email
  AND u1.id > u2.id;

这段语句的意思是:对每一对 email 相同的记录,如果 u1.id 更大,就删掉 u1。等效于“留下每组最小 id,删其余”。

  • 务必先备份或在测试库验证,DELETE 不可逆
  • 确保 email 字段有索引,否则 JOIN 会全表扫描,大表可能卡死
  • 如果想保留最大 id,把条件改成 u1.id

用窗口函数(MySQL 8.0+)更直观地标记重复行

如果你用的是 MySQL 8.0 或更新版本,ROW_NUMBER() 能让逻辑更清晰,适合需要预览、分步操作或保留规则更复杂的场景。

例如,给每个 email 分组内的行按 id 升序编号,只保留编号为 1 的:

win可用的mysql指令skill
win可用的mysql指令skill

安装、修复、更新或打包一个基于 Python 和 PyMySQL 实现的 Windows `mysql` 命令。适用于用户希望在 PowerShell/CMD 中输入 `mysql` 时重定向到 Python 实现、需要交互式输入 MySQL 连接信息、需要同步到当前用户本地 bin 目录,或需要将该能力封装成可公开复用的 Codex skill。

下载
SELECT id, email,
       ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn
FROM users;

再套一层删掉 rn > 1 的行(需用临时表或 CTE 避免直接删):

DELETE FROM users
WHERE id IN (
  SELECT id FROM (
    SELECT id,
           ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn
    FROM users
  ) t
  WHERE t.rn > 1
);

注意:MySQL 不允许在子查询中直接引用被删表,所以外层必须套一层匿名表 t。

  • 窗口函数写法易读、易调试,适合加额外条件(比如只处理 status = 'active' 的重复数据)
  • 性能上,大表不如 DELETE JOIN 快,因为涉及排序和临时结果集
  • 5.7 及更早版本不支持,别在旧环境硬套

去重前必须检查 NULL 值和字符集问题

GROUP BY 和 JOIN 对 NULL 的处理容易被忽略:MySQL 中 NULL = NULL 为 FALSE,所以多个 email IS NULL 的行不会被归到同一组,也就不会被识别为重复。

如果业务允许把空邮箱视为相同值,得显式处理:

GROUP BY IF(email IS NULL, '', email)

另外,字符集/排序规则不一致也会导致“看起来一样却判为不同”,比如 utf8mb4_0900_as_cs(区分大小写) vs utf8mb4_unicode_ci(不区分)。执行前查一下:

SHOW FULL COLUMNS FROM users LIKE 'email';

看 Collation 列是否统一。不一致时,WHERE email = 'A@B.COM' 可能查不到 a@b.com,去重自然失效。

真正麻烦的不是语法怎么写,而是你认定的“重复”在数据库里是否真的相等——NULL、空格、不可见字符、大小写、字符集,任何一个没对齐,删完发现还有“漏网之鱼”。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

mysql

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

5143

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

1051

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1349

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

7241

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3863

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

7220

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

10141

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1390

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1192

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程