如何在SQL查询中使用DISTINCT关键字去除重复数据

千枫吖_7551

千枫吖_7551

2026-09-11

188人浏览

原创

DISTINCT 作用于整行而非单字段,对所有SELECT列组合去重;需注意ORDER BY限制、NULL处理差异、性能开销大,复杂场景应优先用GROUP BY或窗口函数替代。

如何在sql查询中使用distinct关键字去除重复数据

DISTINCT 会作用于所有 SELECT 列,不是只去重某一个字段

很多人以为 DISTINCT 是针对某个字段去重的,比如写 SELECT DISTINCT name, age FROM users,就以为只让 name 不重复。其实不是——DISTINCT 是对整行结果去重,只有当 name 和 age 的组合完全相同时,才会被合并成一条。

常见错误现象:查出来行数比预期多,或者明明 name 有重复却没被去掉。

  • 如果只想看不重复的 name,得写成 SELECT DISTINCT name FROM users
  • 如果还要附带其他字段(比如对应最新一条记录的 id),DISTINCT 就无能为力了,得换用 GROUP BY 或窗口函数
  • 在含 NULL 的列上使用 DISTINCT,多数数据库(如 PostgreSQL、SQL Server)会把多个 NULL 视为相同值;但 MySQL 在某些模式下行为略有差异,需实测确认

ORDER BY 必须引用 SELECT 中出现的列或表达式

加了 DISTINCT 后,ORDER BY 不能随便写。例如 SELECT DISTINCT name FROM users ORDER BY created_at 会报错,因为 created_at 没出现在 SELECT 列表里。

使用场景:你常想按时间排序去重后的名称列表,但又不想暴露时间字段本身。

  • 正确写法是 SELECT DISTINCT name FROM users ORDER BY MAX(created_at) DESC(配合 GROUP BY 才合法,纯 DISTINCT 仍不支持聚合函数)
  • 更稳妥的做法是改用 GROUP BY name ORDER BY MAX(created_at) DESC,语义清晰且兼容性好
  • PostgreSQL 允许 ORDER BY 引用未选中的列(只要该列在 GROUP BY 中),但标准 SQL 不保证,别依赖

DISTINCT 性能开销不小,尤其大数据量时

DISTINCT 底层通常要排序或哈希去重,数据量一上来,CPU 和内存压力明显增加。不是语法错了才慢,是设计上就重。

WaytoAGI-通往AGI之路
WaytoAGI-通往AGI之路

一款AI工具,主要用于飞书提供的AGI一站式学习平台,适合需要提升相关任务效率的用户。

下载

容易踩的坑:在分页查询(如 LIMIT 10 OFFSET 100)前加 DISTINCT,数据库得先把全量去重结果算出来,再截取,效率极低。

  • 先确认是否真需要全局去重——有时前端或应用层做一次简单去重更轻量
  • 确保去重字段上有索引,尤其是多列 DISTINCT 时,联合索引顺序要匹配 SELECT 字段顺序
  • 替代方案:用 EXISTS 或 ROW_NUMBER() 窗口函数实现“每组取一条”,往往比 DISTINCT 更可控、更易加条件

MySQL 中 DISTINCT 和 GROUP BY 在语义和优化器处理上越来越趋同

MySQL 8.0+ 对 SELECT DISTINCT 和 SELECT ... GROUP BY(无聚合函数)做了等价重写,执行计划常常一样。但别因此混用——语义不同,可读性和维护性差。

比如 SELECT DISTINCT a, b FROM t 和 SELECT a, b FROM t GROUP BY a, b 结果一致,但后者明确表达了“按 a 和 b 分组”,后续加 MAX(c) 就很自然;前者一旦要加聚合,就得重构成 GROUP BY。

  • 团队协作中,优先用 GROUP BY 表达分组意图,哪怕暂时没聚合函数
  • 注意 MySQL 5.7 及以前版本对 ONLY_FULL_GROUP_BY 模式的限制,DISTINCT 不受此影响,但掩盖了潜在逻辑问题
  • 某些 ORM(如 Django ORM)生成的 DISTINCT 查询,在复杂 join 场景下可能意外放大结果集,比手写 GROUP BY 更难调试

实际去重逻辑越复杂,越早放弃 DISTINCT 这个“快捷键”越好。它适合一眼看清、单表、字段少的场景;稍一绕,就得靠 GROUP BY、窗口函数或子查询来锚定你要的那一条。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4583

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

951

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1209

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6561

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3323

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6520

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8961

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1210

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1072

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习