先用GROUP BY+MIN(id)定位每组重复数据中要保留的最小ID,再通过DELETE JOIN或CTE+ROW_NUMBER()删除其余行;执行前须备份、建索引并处理NULL及字符集问题。

用 GROUP BY + MIN(id) 找出每组重复数据的最小 ID
重复数据通常指多个行在关键字段(如 email、phone)上完全一致,但主键 id 不同。保留一条的本质是:对每组重复记录,只留下 id 最小(或最大)的那一行,其余删除。
先确认哪些字段构成“重复逻辑”——比如用户表按 email 判重,订单表可能按 user_id 和 order_time 联合判重。确定后,用 GROUP BY 分组,配合 MIN(id) 拿到要保留的 ID 列表:
SELECT MIN(id) AS keep_id, email FROM users GROUP BY email HAVING COUNT(*) > 1;
这个结果告诉你:每个重复 email 对应该保留哪条记录的 id。注意必须加 HAVING COUNT(*) > 1,否则会把所有唯一值也查出来。
用 DELETE JOIN 一次性删掉重复行(保留最小 ID)
直接 DELETE 多表关联是 MySQL 中最稳妥的删除方式,避免子查询报错 You can't specify target table for update in FROM clause。
假设表叫 users,按 email 去重,保留每组中 id 最小的那条:
DELETE u1 FROM users u1 INNER JOIN users u2 WHERE u1.email = u2.email AND u1.id > u2.id;
这段语句的意思是:对每一对 email 相同的记录,如果 u1.id 更大,就删掉 u1。等效于“留下每组最小 id,删其余”。
- 务必先备份或在测试库验证,
DELETE不可逆 - 确保
email字段有索引,否则JOIN会全表扫描,大表可能卡死 - 如果想保留最大
id,把条件改成u1.id
用窗口函数(MySQL 8.0+)更直观地标记重复行
如果你用的是 MySQL 8.0 或更新版本,ROW_NUMBER() 能让逻辑更清晰,适合需要预览、分步操作或保留规则更复杂的场景。
例如,给每个 email 分组内的行按 id 升序编号,只保留编号为 1 的:
安装、修复、更新或打包一个基于 Python 和 PyMySQL 实现的 Windows `mysql` 命令。适用于用户希望在 PowerShell/CMD 中输入 `mysql` 时重定向到 Python 实现、需要交互式输入 MySQL 连接信息、需要同步到当前用户本地 bin 目录,或需要将该能力封装成可公开复用的 Codex skill。
SELECT id, email,
ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn
FROM users;
再套一层删掉 rn > 1 的行(需用临时表或 CTE 避免直接删):
DELETE FROM users
WHERE id IN (
SELECT id FROM (
SELECT id,
ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn
FROM users
) t
WHERE t.rn > 1
);
注意:MySQL 不允许在子查询中直接引用被删表,所以外层必须套一层匿名表 t。
- 窗口函数写法易读、易调试,适合加额外条件(比如只处理
status = 'active'的重复数据) - 性能上,大表不如
DELETE JOIN快,因为涉及排序和临时结果集 - 5.7 及更早版本不支持,别在旧环境硬套
去重前必须检查 NULL 值和字符集问题
GROUP BY 和 JOIN 对 NULL 的处理容易被忽略:MySQL 中 NULL = NULL 为 FALSE,所以多个 email IS NULL 的行不会被归到同一组,也就不会被识别为重复。
如果业务允许把空邮箱视为相同值,得显式处理:
GROUP BY IF(email IS NULL, '', email)
另外,字符集/排序规则不一致也会导致“看起来一样却判为不同”,比如 utf8mb4_0900_as_cs(区分大小写) vs utf8mb4_unicode_ci(不区分)。执行前查一下:
SHOW FULL COLUMNS FROM users LIKE 'email';
看 Collation 列是否统一。不一致时,WHERE email = 'A@B.COM' 可能查不到 a@b.com,去重自然失效。
真正麻烦的不是语法怎么写,而是你认定的“重复”在数据库里是否真的相等——NULL、空格、不可见字符、大小写、字符集,任何一个没对齐,删完发现还有“漏网之鱼”。










