如何解决SQL子查询引起的临时表溢出问题_调整内存参数与改写

大萱君_9750

大萱君_9750

2026-04-13

199人浏览

原创

因为tmp_table_size和max_heap_table_size必须同时满足,系统以二者较小值为准;若只调大其一,仍会触发磁盘临时表或error 1114。

如何解决sql子查询引起的临时表溢出问题_调整内存参数与改写

为什么 tmp_table_size 和 max_heap_table_size 调高了还是报错?

MySQL 在执行含子查询(尤其是 IN、JOIN 或派生表)的语句时,若中间结果集过大,会将内存临时表自动转存为磁盘临时表(MyISAM 或 InnoDB),但前提是满足两个阈值:必须同时不超过 tmp_table_size 和 max_heap_table_size 中的较小值。很多人只调大其中一个,结果仍触发磁盘落盘甚至 ERROR 1114 (HY000): The table 'sql_xxx' is full。

实操建议:

  • 检查当前生效值:SELECT @@tmp_table_size, @@max_heap_table_size;,确认二者是否一致;不一致时以小者为准
  • 在 my.cnf 中同步设置两者为相同值(例如 tmp_table_size = 256M,max_heap_table_size = 256M),避免隐式截断
  • 注意:该参数是会话级变量,仅对新连接生效;已存在的连接需重连或显式 SET SESSION
  • 调得过高可能引发 OOM(尤其在并发多、子查询密集的场景),建议结合 SHOW STATUS LIKE 'Created_tmp%'; 观察实际使用量再逐步调整

子查询改写成 JOIN 为什么有时反而更慢?

不是所有 IN (SELECT ...) 都适合直接改 JOIN——MySQL 优化器对子查询的物化(materialization)策略在 5.6+ 后已较成熟,而盲目改写可能破坏索引利用或引入重复行导致额外去重开销。

实操建议:

  • 先用 EXPLAIN FORMAT=JSON 对比原语句和改写后语句的 query_block->materialized_from_subquery 或 join_execution->table 节点,确认是否真用了物化表
  • 若子查询结果集小(IN 并确保子查询字段有索引;若子查询本身可下推条件(如 WHERE user_id IN (SELECT id FROM users WHERE status=1)),把条件提到子查询内部
  • 改 JOIN 时务必加 DISTINCT 或 GROUP BY 防止笛卡尔膨胀,例如:SELECT DISTINCT t1.* FROM t1 JOIN (SELECT DISTINCT id FROM t2 WHERE ...) t2 ON t1.id = t2.id
  • 对 NOT IN,必须排除子查询含 NULL 的情况,否则逻辑错误;改用 NOT EXISTS 更安全

如何判断子查询是否真的需要物化?

MySQL 是否物化子查询,取决于能否进行“半连接”(semi-join)优化。当子查询满足关联条件、无聚合/排序/外部引用时,优化器倾向走 semi-join;否则强制物化——这时才是临时表溢出的高发点。

实操建议:

  • 检查 EXPLAIN 输出中 select_type 字段:若为 DEPENDENT SUBQUERY 或 MATERIALIZED,说明未走 semi-join
  • 禁用物化强制走 semi-join(仅调试用):SET optimizer_switch='materialization=off';,观察执行计划是否变成 FirstMatch 或 LooseScan
  • 常见破坏 semi-join 的写法:子查询里用 ORDER BY、LIMIT、GROUP BY、引用外层非关联字段、或子查询本身是 UNION
  • 若必须保留复杂子查询逻辑,考虑拆成临时表:CREATE TEMPORARY TABLE tmp_ids AS SELECT id FROM ...;,再 JOIN tmp_ids——可控且能建索引

临时表溢出时,SHOW PROCESSLIST 看到 Copying to tmp table on disk 意味着什么?

这表示 MySQL 已放弃内存临时表,正在把数据写入磁盘(默认在 tmpdir 下生成 #sql_*.MYD/.MYI 或 #sql-*.ibd)。此时不仅慢,还可能因磁盘空间不足或 innodb_tmpdir 权限问题直接失败。

实操建议:

  • 立即查磁盘剩余空间:df -h $MYSQL_TMPDIR(注意不是 /tmp,而是 MySQL 实际配置的 tmpdir)
  • 确认 innodb_tmpdir 是否指向高速存储(如 SSD),避免和系统盘混用
  • 监控 Created_tmp_disk_tables 增速,若远高于 Created_tmp_tables,说明大量操作被迫落盘,需针对性优化
  • 对无法避免的大结果集,可在 SQL 层加 SQL_BUFFER_RESULT 提示(SELECT SQL_BUFFER_RESULT ...),让 MySQL 尽早释放锁并控制内存生命周期

临时表问题从来不是单点参数能根治的,关键在看清执行路径是否真需要物化、物化是否合理、以及磁盘侧有没有兜底能力。改写子查询前,先看 EXPLAIN 里的 materialized_from_subquery 和 tmp_table 字段,比盲目调参管用得多。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4083

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

871

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1069

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

5961

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2863

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

5940

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

7921

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1070

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

952

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习