最常用去重语句是DELETE FROM t WHERE ROWID NOT IN (SELECT MIN(ROWID) FROM t GROUP BY col1, col2),但需加WHERE限定、排除NULL并建组合索引;推荐用EXISTS替代NOT IN以规避NULL陷阱,且须确保col1、col2有索引。

直接用 DELETE + GROUP BY + ROWID 最常用,但必须加 WHERE 限定范围
生产环境里最常写的语句是:DELETE FROM t WHERE ROWID NOT IN (SELECT MIN(ROWID) FROM t GROUP BY col1, col2)。它快、可读性强,但危险点在于:如果漏写 WHERE 条件(比如没加业务过滤),子查询会扫描全表,NOT IN 又遇到 NULL 就直接失效——结果是“看起来执行成功,实际一行没删”。
实操建议:
- 先跑一遍验证查询:
SELECT COUNT(*) FROM (SELECT MIN(ROWID) FROM t GROUP BY col1, col2),确认返回行数符合预期(比如你预估去重后剩 80 万,这里就得是 80 万) - 如果
col1或col2可能为NULL,必须显式排除:WHERE col1 IS NOT NULL AND col2 IS NOT NULL,否则所有NULL组会被合并成一组,只留一个ROWID,其余全删 - 千万级表慎用,Oracle 优化器可能不走索引,建议在
col1, col2上建组合索引
用 EXISTS 替代 NOT IN 避开 NULL 和性能陷阱
NOT IN 在子查询结果含 NULL 时整个条件恒为 FALSE,这是 Oracle 老坑。而 EXISTS 不受 NULL 影响,且执行计划通常更可控。
等价写法是:“删掉那些存在另一行字段相同、但 ROWID 更小的记录”:
DELETE FROM t a
WHERE EXISTS (
SELECT 1 FROM t b
WHERE b.col1 = a.col1
AND b.col2 = a.col2
AND b.ROWID <p>这个逻辑天然跳过 <code>NULL</code> 比较,也不依赖聚合函数,适合字段含空值的场景。但注意:</p>
- 必须确保
col1, col2上有索引,否则嵌套循环会极慢 - 如果重复组特别大(比如某组有上万条),
EXISTS可能比GROUP BY版本更耗资源 - 不能用
MAX(ROWID)改写成 “保留最新”,因为b.ROWID 天然对应“删旧留新”
大表别用临时表 CREATE TABLE AS SELECT DISTINCT
有人图省事写:CREATE TABLE t_tmp AS SELECT DISTINCT * FROM t,再 TRUNCATE 原表、INSERT 回去。这对千万级表是灾难——等于全表扫两遍 + 全量写入 + 索引重建,锁表时间长、归档日志爆炸。
真正可行的替代思路只有两个:
- 分批删:
DELETE FROM t WHERE ... AND ROWNUM 包进 PL/SQL 循环,每次提交,降低 UNDO 压力 - 分区表场景下,直接
DROP重复数据所在的旧分区,再INSERT /*+ APPEND */去重后数据,效率翻倍 - 绝对不要在生产高峰期跑这种全表操作;提前在备库验证执行时间
ROWID 不是绝对可靠的时间顺序代理
很多人默认 MIN(ROWID) = 最早插入,“保留原始记录”就选它。但 ROWID 只反映物理位置(文件号+块号+槽号),跟插入时间无必然关系——高水位线推进、ALTER TABLE MOVE、分区分裂都会打乱顺序。
如果你的业务真需要“按时间保留”,必须依赖真实时间字段(比如 create_time):
DELETE FROM t a
WHERE EXISTS (
SELECT 1 FROM t b
WHERE b.col1 = a.col1
AND b.col2 = a.col2
AND b.create_time <p>这时 <code>create_time</code> 字段必须有索引,且不能为 <code>NULL</code>。没有时间字段?那 <code>ROWID</code> 就只是个近似方案,得跟业务方对齐“保留哪条算合理”。</p>











