如何优化SQL中的IN和NOT IN_EXISTS替换与连接查询改写

落雪吖_8628

落雪吖_8628

2026-03-20

299人浏览

原创

IN和NOT IN在大数据量下慢因全量展开匹配或子查询临时表溢出;NOT IN遇NULL恒为UNKNOWN致结果为空;应改用关联的NOT EXISTS或LEFT JOIN+IS NULL,并建好索引。

如何优化sql中的in和not in_exists替换与连接查询改写

IN 和 NOT IN 在大数据量下为什么慢

因为数据库通常会对 IN 列表做全量展开,再逐个匹配;如果右边是子查询(比如 IN (SELECT id FROM orders)),多数引擎会先执行子查询生成临时结果集,再对主表每行做哈希查找或嵌套循环——当子查询返回几万行、主表又很大时,IN 很容易触发全表扫描或临时表溢出。

更麻烦的是 NOT IN:只要子查询里任意一行是 NULL,整个条件就恒为 UNKNOWN,结果集直接变空。这是 SQL 三值逻辑的硬伤,不是 bug,但常被忽略。

  • 子查询含 NULL 时,NOT IN 等价于 FALSE,查不到任何数据
  • IN 没这个问题,但性能差、内存占用高,尤其在 MySQL 5.7 或 PostgreSQL 低版本中
  • Oracle 对 IN 有隐式重写优化,但不可依赖;SQL Server 默认走哈希匹配,仍可能 spill 到 tempdb

用 NOT EXISTS 替换 NOT IN 的实操要点

核心是把“不在集合中”转成“找不到匹配行”,语义更清晰,且天然绕过 NULL 陷阱。

注意子查询必须关联外层,否则变成非相关子查询,效果等同于 NOT IN。

  • 错误写法:WHERE NOT EXISTS (SELECT 1 FROM orders WHERE status = 'shipped') —— 没关联,永远返回空或全表
  • 正确写法:WHERE NOT EXISTS (SELECT 1 FROM orders WHERE orders.user_id = users.id AND status = 'shipped')
  • MySQL 8.0+、PostgreSQL 12+、SQL Server 2019+ 都能对这类关联子查询自动转成半连接(semi-join)或反连接(anti-join),性能接近左连接 + IS NULL
  • 记得给关联字段建索引,比如 orders(user_id, status),否则 NOT EXISTS 也会慢

LEFT JOIN + IS NULL 和 NOT EXISTS 哪个更快

没有绝对答案,取决于数据分布、索引、统计信息准确度和优化器能力。但可以按场景判断:

  • 当右表匹配率很低(比如用户中只有 5% 下过单),NOT EXISTS 通常更优——找到第一个匹配就停,不用扫完所有行
  • 当右表匹配率高或需复用右表其他字段(如订单时间、金额),LEFT JOIN 更合适,避免多次执行子查询
  • PostgreSQL 中两者计划常一致;MySQL 5.7 对 LEFT JOIN ... IS NULL 有时误判为全表扫描,加 STRAIGHT_JOIN 或改写为 NOT EXISTS 反而稳定
  • 别写 LEFT JOIN ... WHERE right_col IS NULL AND right_col != 'xxx' —— 条件放 ON 才生效,放 WHERE 会让左连接退化为内连接

IN 列表超过 1000 项时怎么安全处理

Oracle 限制 IN 最多 1000 项;MySQL 虽无硬限,但超大列表会导致解析慢、执行计划不准、甚至 OOM。

不要拼接超长字符串,也不要用临时表硬扛——优先走应用层分批或改用连接。

  • 应用侧拆成每 500 项一批,用 UNION ALL 合并结果(注意去重开销)
  • 把 ID 列表写入临时表(如 CREATE TEMPORARY TABLE tmp_ids (id BIGINT PRIMARY KEY)),然后 JOIN —— MySQL 8.0+ 临时表支持索引,效果接近原生 IN
  • 用 VALUES ROW 构造行集合(PostgreSQL / SQL Server):SELECT * FROM users WHERE id IN (SELECT id FROM (VALUES (1),(2),(3)) AS t(id))
  • 千万别用 FIND_IN_SET 或正则匹配替代 IN,那是索引杀手

真正难的不是语法替换,是搞清「哪部分数据会变 NULL」「索引是否覆盖关联条件」「执行计划里有没有 Using temporary」——这些不看 EXPLAIN 或 pg_stat_statements,光改写 SQL 没用。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4543

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

951

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1189

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6501

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3263

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6460

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8861

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1210

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1052

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134万人学习