如何用SQL DISTINCT去除查询结果中的重复数据

浅明大大_2362

浅明大大_2362

2026-07-24

371人浏览

原创

distinct去不掉“看起来重复”的数据,是因为它按整行所有列值完全一致判断重复,而非按业务感知的局部字段;如name相同但id或created_at不同,仍视为不同行。

如何用sql distinct去除查询结果中的重复数据

为什么 DISTINCT 有时去不掉“看起来重复”的数据

因为 DISTINCT 判断重复是基于**整行所有列的值完全一致**,不是按某几列“肉眼觉得重复”。比如两行数据在 name 和 email 上相同,但 created_at 差1秒,或 id 不同,DISTINCT 就会保留这两行。

常见错误现象:SELECT DISTINCT name FROM users 返回了多个同名用户——这不是 bug,是设计行为。只要其他列(哪怕没选出来)存在差异,数据库仍视其为不同行,只是投影后你“看不见”那些差异列。

  • 若想按 name 去重,必须只查 name,且确保没有隐藏的隐式差异(如尾部空格、大小写、不可见字符)
  • MySQL 默认不区分大小写,PostgreSQL 区分;用 TRIM() 和 LOWER() 预处理可规避部分问题
  • DISTINCT 在执行计划中通常触发排序或哈希去重,大数据量时性能明显下降

DISTINCT 和 GROUP BY 的关键区别在哪

DISTINCT 是结果集去重操作,不支持聚合;GROUP BY 是分组逻辑,天然支持 COUNT()、MAX() 等聚合函数。两者语义不同,不能简单互换。

典型误用:SELECT DISTINCT name, COUNT(*) FROM users —— 语法直接报错,因为 COUNT(*) 需要 GROUP BY name。

  • 要统计每个 name 出现次数:用 SELECT name, COUNT(*) FROM users GROUP BY name
  • 只要去重后的 name 列表:用 SELECT DISTINCT name FROM users 即可,更轻量
  • 某些场景下 GROUP BY 可替代 DISTINCT(如 SELECT name FROM users GROUP BY name),但语义模糊,不推荐用于单纯去重

多字段 DISTINCT 的陷阱:NULL 怎么算重复

SQL 标准规定:两个 NULL 值在 DISTINCT 中被视为相等。但实际行为受数据库影响——例如 PostgreSQL 严格遵循标准,而旧版 MySQL 在某些模式下可能表现异常。

SEO GPT
SEO GPT

一款面向 SEO、PPC 和数字营销团队的 AI 工具平台,围绕搜索优化与广告营销任务提供内容和运营辅助能力。

下载

常见问题:含 NULL 的字段参与 DISTINCT,导致结果比预期少(多个 NULL 被合并成一个)。

  • 若业务要求把 NULL 当作不同值处理,需提前转换:如 COALESCE(status, 'UNKNOWN')
  • 多字段组合时,(a=1, b=NULL) 和 (a=1, b=NULL) 算重复;但 (a=1, b=NULL) 和 (a=1, b='') 永远不重复
  • 避免在 DISTINCT 中混用 NULL 和空字符串,它们是不同值

替代 DISTINCT 的更可控方案:ROW_NUMBER() + CTE

当需要“按某列去重,同时保留该组中最新/最旧的一条完整记录”时,DISTINCT 完全无能为力。这时必须用窗口函数。

例如:每个 email 只取 id 最大的那条用户记录。

WITH ranked AS (
  SELECT *, ROW_NUMBER() OVER (PARTITION BY email ORDER BY id DESC) AS rn
  FROM users
)
SELECT id, name, email FROM ranked WHERE rn = 1;
  • ROW_NUMBER() 确保每组内顺序唯一,不会因排序字段重复导致随机取值
  • 相比 GROUP BY + MAX(id) 再 JOIN,CTE 方案更直观、易维护
  • 注意:SQLite 3.25+、PostgreSQL 8.4+、MySQL 8.0+ 支持窗口函数;旧版 MySQL 必须用变量模拟,稳定性差

真正麻烦的从来不是“怎么写 DISTINCT”,而是“你以为重复,其实数据库认为不重复”——查之前先 SELECT * FROM table LIMIT 5 看原始数据,比硬调 DISTINCT 有效得多。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4303

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

911

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1129

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6221

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3063

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6200

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8381

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1150

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

992

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uniapp简爱读书项目开发--第一季
Uniapp简爱读书项目开发--第一季

共36课时 | 16.9万人学习

Uniapp简爱读书项目开发--第二季
Uniapp简爱读书项目开发--第二季

共12课时 | 1.8万人学习