如何在MySQL中正确使用SELECT DISTINCT去除重复

冬磊小哥_4287

冬磊小哥_4287

2026-11-15

768人浏览

原创

SELECT DISTINCT 作用于整行而非单字段,NULL被视为相同值且只保留一个,大数据量下性能差需优化,ORDER BY字段必须出现在SELECT列表中。

如何在mysql中正确使用select distinct去除重复

SELECT DISTINCT 作用的是整个 SELECT 列表,不是某一个字段

很多人写 SELECT DISTINCT name, class FROM students,本意是“只按 name 去重”,结果却得到一堆 name 相同但 class 不同的行。这是因为 DISTINCT 判断重复的单位是整行——即 (name, class) 这个组合。只要组合值不同,就算不同行。

常见错误现象:

  • 查“不同用户”却写了 SELECT DISTINCT user_id, city FROM orders,导致同一用户在多个城市下单时被计为多条
  • 误以为 DISTINCT 会“优先保留第一条”,其实它不保证顺序,也不保留关联字段的任意合理值

正确做法:

  • 真要只按一列去重 → 写 SELECT DISTINCT user_id FROM orders
  • 想按一列去重但还要带出其他字段(比如最新订单时间)→ 不能靠 DISTINCT,得用 GROUP BY 或窗口函数

NULL 值会被视为相同值,但只保留一个

MySQL 把所有 NULL 当作相等来处理。所以 SELECT DISTINCT city FROM users 中,哪怕表里有 10 行 city IS NULL,结果里也只出现一次 NULL。

这和 WHERE city = city 或 GROUP BY city 的行为一致,但容易被忽略:

  • 如果你在统计“非空城市数”,COUNT(DISTINCT city) 会把 NULL 算进去,需显式排除:COUNT(DISTINCT CASE WHEN city IS NOT NULL THEN city END)
  • 导出数据时发现少了几条,可能就是因为空值被合并了,建议先用 SELECT COUNT(*), COUNT(city), COUNT(DISTINCT city) FROM users 对比验证

大数据量下 DISTINCT 性能差,别直接全表扫

DISTINCT 底层依赖排序或哈希去重,当查询字段没索引、又没加 WHERE 时,MySQL 往往要扫描全表并构建临时内存结构。百万级表查 SELECT DISTINCT text_column FROM huge_table 可能卡住或触发磁盘临时表。

win可用的mysql指令skill
win可用的mysql指令skill

安装、修复、更新或打包一个基于 Python 和 PyMySQL 实现的 Windows `mysql` 命令。适用于用户希望在 PowerShell/CMD 中输入 `mysql` 时重定向到 Python 实现、需要交互式输入 MySQL 连接信息、需要同步到当前用户本地 bin 目录,或需要将该能力封装成可公开复用的 Codex skill。

下载

优化路径很实际:

  • 先缩小数据范围:SELECT DISTINCT city FROM users WHERE created_at > '2025-01-01'
  • 给常用去重字段建索引;注意 TEXT 类型只能建前缀索引,比如 ALTER TABLE users ADD INDEX idx_city (city(50))
  • 如果只是要数量,用 COUNT(DISTINCT city) 比先查再去重更省资源
  • 避免在 DISTINCT 后选大字段(如长文本、JSON),它们显著拖慢哈希计算

ORDER BY 字段必须出现在 SELECT 列表中

这条语句会报错:SELECT DISTINCT city FROM users ORDER BY score DESC,因为 score 不在 SELECT 里,MySQL 无法对未选中的列排序。

这不是 MySQL 的 bug,而是 SQL 标准要求:排序依据必须是结果集里的列(或其表达式)。解决方式只有两个:

  • 把排序字段加进 SELECT 和 DISTINCT,比如 SELECT DISTINCT city, score FROM users ORDER BY score DESC —— 但这时去重粒度变成 (city, score),语义已变
  • 改用 GROUP BY: SELECT city FROM users GROUP BY city ORDER BY MAX(score) DESC,这才是“按城市分组,再按该城市最高分排序”的真实意图

真正难缠的点在于:你写的 DISTINCT 语句看似能跑通,但只要涉及排序、聚合或关联其他表,就很容易滑向语义模糊区——这时候它已经不是“去重工具”,而是在掩盖逻辑缺陷。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

mysql

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

5003

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

1011

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1309

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

7081

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3723

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

7060

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

9881

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1350

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1172

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程