SQL如何查找分组后某个字段不唯一的记录_结合GROUP BY与COUNT

浅强吖_2721

浅强吖_2721

2026-06-10

745人浏览

原创

用窗口函数count(*) over(partition by group_col, target_col)标记每行重复次数,再where cnt>1筛选原始记录;旧版数据库需用自关联或子查询join,注意null处理与索引优化。

sql如何查找分组后某个字段不唯一的记录_结合group by与count

怎么用 GROUP BY + COUNT 找出分组内某字段“不唯一”的记录

直接查出那些在分组中出现多次的值,而不是只返回计数结果。核心是:先分组聚合计数,再把计数结果作为条件反推原始数据。

常见错误是只写 SELECT group_col, target_col, COUNT(*) FROM t GROUP BY group_col, target_col HAVING COUNT(*) > 1——这只能告诉你哪些(分组+目标值)组合重复了,但拿不到原始行;如果目标是“把所有重复的原始记录捞出来”,必须连回原表或用窗口函数。

  • 最稳方案是窗口函数:COUNT(*) OVER (PARTITION BY group_col, target_col),然后在外层 WHERE cnt > 1
  • 兼容旧版数据库(如 MySQL 5.6)只能用自关联或子查询,性能差且易漏 NULL 分组
  • 注意 GROUP BY group_col, target_col 中的 target_col 如果为 NULL,会被归为同一组——多数引擎把所有 NULL 当作相同值,业务上是否合理需确认

COUNT(*) OVER (PARTITION BY ...) 是不是万能解法

它能直接在每行附带一个计数,适合“标记并筛选重复行”,但有三个实际限制:

  • MySQL 5.7 之前不支持窗口函数,强行用会报 ERROR 1064
  • PostgreSQL 和 MySQL 8.0+ 支持,但 PARTITION BY 里不能用表达式(如 TRIM(name)),得先在子查询里处理好
  • 如果 group_col 和 target_col 组合基数极高(比如千万级唯一组合),OVER 会触发大量内存排序,可能 OOM;此时不如先建临时去重表再 JOIN

示例(MySQL 8.0+):

Pixelcut.ai
Pixelcut.ai

Pixelcut.ai是一款AI图片处理工具,AI产品背景移除和替换。

下载
SELECT * FROM (  SELECT *, COUNT(*) OVER (PARTITION BY dept_id, job_title) AS cnt  FROM employees) t WHERE cnt > 1;

为什么不能只靠 GROUP BY + HAVING 返回原始记录

GROUP BY 本质是降维聚合,每组只返回一行。即使你写 SELECT *, COUNT(*),数据库也会报错或随机取某一行的非聚合列值(MySQL 5.7+ 默认拒绝)。

  • 想看到所有重复的原始行,GROUP BY 必须配合子查询或 JOIN,例如:SELECT e.* FROM employees e INNER JOIN (SELECT dept_id, job_title FROM employees GROUP BY dept_id, job_title HAVING COUNT(*) > 1) dup ON e.dept_id = dup.dept_id AND e.job_title = dup.job_title
  • 这个写法在 job_title 为 NULL 时可能失效:因为 NULL = NULL 永远为 false,得改用 IS NOT DISTINCT FROM(PostgreSQL)或 COALESCE(job_title, 'NULL')(MySQL)做安全比较
  • 索引建议:给 (dept_id, job_title) 建联合索引,能加速子查询中的 GROUP BY 和外层 JOIN

NULL 值在重复判定里到底算不算“相同”

绝大多数主流数据库(MySQL、PostgreSQL、SQL Server)在 GROUP BY 和窗口函数的 PARTITION BY 中,都把所有 NULL 视为相等——即 (1, NULL) 和 (1, NULL) 属于同一组。但这不等于业务逻辑上该如此。

  • 如果你的业务认为 “未知职位(NULL)” 和 “未知职位” 不应算重复(比如来自不同录入渠道),就得提前清洗:COUNT(*) OVER (PARTITION BY dept_id, COALESCE(job_title, UUID()))
  • 检查 NULL 占比:先跑 SELECT COUNT(*) FILTER (WHERE job_title IS NULL) AS null_cnt, COUNT(*) FROM employees WHERE dept_id = 'D001'(PostgreSQL)或等效写法,避免误判
  • 别依赖 DISTINCT 预过滤——SELECT DISTINCT * 会把整行去重,而你要的是“按某些字段组合去重”,语义完全不同

真正容易被忽略的是:当 target_col 本身是字符串时,末尾空格、大小写、不可见字符(如 \u200B)都会影响分组结果,但肉眼难识别。动手前先 SELECT HEX(job_title), LENGTH(job_title) FROM employees WHERE dept_id = 'X' LIMIT 5 看一眼原始字节。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4323

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

911

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1129

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6241

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3083

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6220

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8421

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1150

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1012

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
FastAPI SQL数据库实战文档
FastAPI SQL数据库实战文档

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习

PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 188人学习