如何在SQL中根据多个字段的组合进行去重统计?

胖萱小哥_7664

胖萱小哥_7664

2026-06-12

1059人浏览

原创

select distinct col1, col2, col3 from table 按三列完整组合去重,仅当所有字段值完全相同时才视为重复;null 被视为相同值,含主键字段则必然无法去重。

如何在sql中根据多个字段的组合进行去重统计?

SELECT DISTINCT 多字段组合去重的写法

直接写 SELECT DISTINCT col1, col2, col3 FROM table 就能按这三列的完整组合去重,不是分别对每个字段去重。数据库会把整行看作一个元组,只有所有字段值都相同时才视为重复。

常见错误是误以为 DISTINCT 只作用于第一个字段,比如写成 SELECT DISTINCT user_id, email, created_at 却期待只保留每个 user_id 的最新一条——这不会发生,它只是筛掉完全相同的三元组。

  • 如果表里有主键或唯一标识字段(如 id),千万别放进 SELECT DISTINCT 列表,否则必然无去重效果
  • NULL 值会被当作相同值合并:多行 (a, NULL) 只保留一行
  • 字段顺序影响结果但不影响语义,DISTINCT a, bDISTINCT b, a 返回的组合集合相同,只是排序可能不同

COUNT(DISTINCT col1, col2) 统计组合唯一数

主流数据库(MySQL 5.7+、PostgreSQL、SQL Server、Oracle、SQLite)都支持 COUNT(DISTINCT col1, col2) 直接统计多列组合的唯一数量,语法简洁且性能通常优于子查询。

注意这不是所有数据库都原生支持:旧版 MySQL(5.6 及更早)在某些嵌套场景下会报错;Hive SQL 也不支持该写法,需改用子查询。

  • 错误写法:DISTINCT COUNT(col1, col2) —— 语法非法,数据库直接报错 syntax error at or near "DISTINCT"
  • 字段含空格或大小写差异时,COUNT(DISTINCT CONCAT(TRIM(city), '-', UPPER(region))) 比裸写更可控
  • 若其中任一字段为 NULL,整个组合会被忽略(即 (1, NULL) 不参与计数)

GROUP BY 子查询替代方案(兼容性优先)

当目标数据库不支持 COUNT(DISTINCT a, b),或你需要后续加复杂条件(如过滤某组内最大时间戳)时,用子查询 + GROUP BY 最稳妥:

Starry.ai
Starry.ai

starryai是一款可根据文字提示生成艺术图像和视频的 AI 创作应用。

下载
SELECT COUNT(*) AS unique_count
FROM (SELECT col1, col2 FROM table GROUP BY col1, col2) AS t;

这个写法在所有 SQL 引擎中都能跑通,且便于扩展:比如想统计“每个部门中不同职级的数量”,可直接在外层加 WHERE 或与另一张表 JOIN

  • 别漏写子查询的别名(如示例中的 AS t),MySQL 8.0+ 和 PostgreSQL 要求必须有
  • 如果组合字段很多(如 5 列),GROUP BY 的哈希开销可能比 COUNT(DISTINCT) 更高,需实测
  • 避免在子查询里做函数计算(如 UPPER(name)),否则索引失效,去重变慢

去重结果少于预期?先查数据本身

多数时候不是 SQL 写错了,而是数据隐含干扰项:末尾空格、大小写、不可见字符、类型隐式转换(比如字符串 '123' 和数字 123 在某些引擎里不等价)。

快速排查步骤:

  • 抽一组原始数据:SELECT col1, col2 FROM table WHERE col1 = 'X' LIMIT 10,肉眼确认是否真重复
  • 检查空格:SELECT col1, LENGTH(col1), HEX(col1) FROM table WHERE col1 LIKE '% %'
  • 统一大小写再试:COUNT(DISTINCT LOWER(col1), LOWER(col2))
  • 确认 NULL 占比:SUM(CASE WHEN col1 IS NULL OR col2 IS NULL THEN 1 ELSE 0 END)

真正麻烦的是跨库迁移时字段 collation 不一致,比如 MySQL 的 utf8mb4_0900_as_csutf8mb4_general_ci 对大小写的处理完全不同——这种问题单靠 SQL 很难绕开,得提前对齐。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

3643

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

771

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

929

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

5381

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2403

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

5380

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

6961

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

950

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

832

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
FastAPI SQL数据库实战文档
FastAPI SQL数据库实战文档

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习

PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 166人学习