为什么SQL聚合查询耗时极长且产生了大量临时磁盘IO?

冬瑶酱_3926

冬瑶酱_3926

2026-11-08

316人浏览

原创

GROUP BY或ORDER BY未走索引会强制触发Using temporary和Using filesort,根本原因是索引未覆盖WHERE、分组/排序字段及SELECT非聚合列,导致MySQL必须建临时表并额外排序;典型表现是EXPLAIN中同时出现这两项,且tmp_table_size与max_heap_table_size不一致会加剧磁盘IO。

为什么sql聚合查询耗时极长且产生了大量临时磁盘io?

GROUP BY 或 ORDER BY 没走索引,强制触发 Using filesort + Using temporary

这是最常见也最容易被忽略的根源。MySQL 在执行 GROUP BY 或 ORDER BY 时,若无法利用索引完成排序或分组,就会在内存中建临时表;一旦结果集超过 tmp_table_size 或 max_heap_table_size(取较小值),就立刻落盘为 MyISAM 临时表,产生大量磁盘 IO。

典型现象:EXPLAIN 输出中同时出现 Using temporary 和 Using filesort;SHOW STATUS LIKE 'Created_tmp_disk_tables'; 值持续上升。

  • 字段未建索引,或索引顺序与 GROUP BY 列不一致(如索引是 (a,b),但写的是 GROUP BY b,a)
  • 对字段用了函数或表达式(如 GROUP BY YEAR(create_time)、ORDER BY UPPER(name)),导致索引失效
  • 字符集/排序规则不一致(比如关联字段一个是 utf8mb4_0900_as_cs,另一个是 utf8mb4_general_ci),使索引无法用于排序
  • 查询中混用 SELECT * 和 GROUP BY,触发 MySQL 5.7+ 的严格模式报错或隐式排序开销

聚合字段未被索引覆盖,回表放大中间结果集

当 GROUP BY 字段有索引,但 SELECT 中包含非索引列(比如 SELECT name, COUNT(*) FROM user GROUP BY dept_id),MySQL 就得先按 dept_id 分组统计,再回主键查每条记录的 name —— 这会导致中间结果膨胀,临时表体积远超预期。

尤其在 COUNT(DISTINCT ...) 或多字段 GROUP BY 场景下,内存不够时会直接写磁盘,IO 峰值飙升。

  • 优先改写为覆盖索引查询:确保 GROUP BY 列 + 所有 SELECT 非聚合列都在同一个联合索引中,例如 INDEX(dept_id, name)
  • 避免在聚合查询中 SELECT *,只取真正需要的字段
  • 若必须取大字段(如 TEXT),考虑先 GROUP BY 得到 ID 列表,再用 JOIN 或子查询补全详情

聚合函数本身不可优化,且数据分布极不均匀

MIN()/MAX() 在有索引时能快速定位首尾节点,但 COUNT(*)、SUM()、AVG() 等必须遍历所有匹配行。如果 WHERE 条件过滤率极低(比如 WHERE status != 0 匹配了 95% 的行),即使走了索引,扫描行数依然巨大。

更麻烦的是,InnoDB 的 COUNT(*) 不像 MyISAM 那样缓存总行数,每次都要实际遍历——尤其在 MVCC 下还要判断可见性,CPU 和 IO 双重压力。

  • 确认 WHERE 条件是否真的能高效过滤:用 EXPLAIN 查看 rows 和 filtered 值,filtered 接近 100 表示几乎没过滤
  • 对高频聚合场景,可建汇总表(如按天预计算用户数),用定时任务维护,避免实时扫大表
  • 不要依赖 SELECT COUNT(*) FROM t 统计全表——除非真需要精确值;否则用估算值(如 SHOW TABLE STATUS 中的 Rows)更快

临时表引擎配置不合理,小内存逼出大磁盘IO

MySQL 默认用 MEMORY 引擎建内部临时表,但该引擎不支持 TEXT/BLOB 类型,也不支持变长字符串过长(超过 max_heap_table_size 单行限制),一触即溃转磁盘。

很多人只调大 tmp_table_size,却忘了 max_heap_table_size 必须同步调高,否则以二者最小值为准,等于白调。

  • 检查当前设置:SELECT @@tmp_table_size, @@max_heap_table_size;
  • 生产环境建议设为相同值,例如 256M(需根据可用内存评估)
  • 若聚合结果含大字段或长字符串,干脆跳过内存阶段,直接强制用 InnoDB 临时表(MySQL 8.0+ 支持 internal_tmp_mem_storage_engine=INNODB),避免频繁落盘抖动

真正卡住聚合查询的,往往不是“有没有索引”,而是“索引能不能支撑整个聚合流水线”。从 WHERE 过滤 → GROUP BY 分组 → SELECT 取值 → 临时表落盘,每个环节都可能悄悄放大 IO。盯紧 EXPLAIN 里的 type、key、Extra,比盲目调参管用得多。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4843

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

991

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1269

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6861

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3563

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6840

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

9521

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1290

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1132

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习