如何在SQL查询中避免多个COUNT(DISTINCT)造成的多次扫描

轻晨姑娘_9460

轻晨姑娘_9460

2026-11-09

240人浏览

原创

多个COUNT(DISTINCT)会让查询变慢,因为数据库为每列单独启动去重流程,分别构建哈希表或排序结构,无法复用中间结果,导致IO、CPU和内存开销翻倍;优化方式是将各字段去重下沉至独立子查询预聚合,再轻量JOIN。

如何在sql查询中避免多个count(distinct)造成的多次扫描

COUNT(DISTINCT) 多次出现,数据库大概率会为每个单独启动一次去重流程——不是“慢一点”,而是IO、CPU、内存开销直接翻倍。

为什么多个 COUNT(DISTINCT) 会让查询变慢

常见错误是写类似 COUNT(DISTINCT user_id), COUNT(DISTINCT order_id), COUNT(DISTINCT product_id) 这样的语句。数据库不会“合并去重”,而是分别构建三套哈希表或排序结构:每列都扫一遍全表(或分组内数据),中间结果无法复用。EXPLAIN 中反复看到 Using temporary; Using filesort 就是典型信号。

  • MySQL/PostgreSQL 对每个 COUNT(DISTINCT col) 都走独立聚合通道,不共享状态
  • 若字段无索引,全表扫描触发三次;有索引也难避免多次随机访问
  • 在 GROUP BY 场景下更糟:10 万个分组 × 3 次去重 = 30 万次哈希操作

用子查询预聚合替代多字段并列

把高成本的去重下沉到子查询,外层只做轻量 JOIN。这是最通用、跨数据库兼容的解法。

原始写法(低效):

SELECT
  channel,
  COUNT(DISTINCT user_id),
  COUNT(DISTINCT order_id),
  COUNT(DISTINCT product_id)
FROM sales
WHERE dt = '2026-09-15'
GROUP BY channel;

优化后(推荐):

SELECT
  t1.channel,
  t1.user_cnt,
  t2.order_cnt,
  t3.product_cnt
FROM (
  SELECT channel, COUNT(DISTINCT user_id) AS user_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
) t1
JOIN (
  SELECT channel, COUNT(DISTINCT order_id) AS order_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
) t2 ON t1.channel = t2.channel
JOIN (
  SELECT channel, COUNT(DISTINCT product_id) AS product_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
) t3 ON t1.channel = t3.channel;
  • 每个子查询只扫一次数据,且可利用 (channel, user_id) 等联合索引加速
  • 结果集极小(比如几百个 channel),JOIN 几乎无压力
  • 务必在每个子查询里加相同过滤条件(如 WHERE dt = ...),否则分区裁剪失效

PostgreSQL / MySQL 8.0+ 可用 CTE 提升可读性

逻辑不变,但用 WITH 把预聚合步骤显式拆开,避免嵌套过深。

WITH user_agg AS (
  SELECT channel, COUNT(DISTINCT user_id) AS user_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
),
order_agg AS (
  SELECT channel, COUNT(DISTINCT order_id) AS order_cnt
  FROM sales WHERE dt = '2026-09-15' GROUP BY channel
)
SELECT u.channel, u.user_cnt, o.order_cnt
FROM user_agg u
JOIN order_agg o ON u.channel = o.channel;
  • CTE 不是视图,不会物化(除非加 MATERIALIZED),性能和子查询等价
  • 调试时可单独运行每个 CTE,快速定位哪一列去重最慢
  • 注意 PostgreSQL 中若 CTE 被多次引用,可能重复执行——此时应改用临时表

大数据量下慎用 CONCAT 模拟多列 DISTINCT

有人试图用 COUNT(DISTINCT CONCAT(user_id, '|', order_id)) 合并计算,但风险极高。

  • 分隔符 | 若出现在原始数据中(比如 user_id 是 JSON 字符串),会导致不同组合被误判为相同
  • CONCAT 结果不可索引,无法利用覆盖索引加速
  • 字符串拼接本身有 CPU 开销,尤其字段长或 NULL 多时
  • 真正需要多列组合去重(如 (user_id, order_id)),应直接用原生语法:COUNT(DISTINCT user_id, order_id)(MySQL 8.0.22+)或 COUNT(DISTINCT (user_id, order_id))(PostgreSQL)

真正卡点不在语法怎么写,而在是否让去重发生在最小可行数据集上——先过滤、再分组、最后去重,顺序错一步,代价就翻几倍。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4863

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

991

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1269

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6901

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3583

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6880

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

9581

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1290

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1132

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习