SQL如何分批删除千万级历史数据

轻萱大大_3005

轻萱大大_3005

2026-08-07

601人浏览

原创

mysql大量delete后需执行optimize table才能释放磁盘空间,因其仅逻辑标记删除、不物理回收页,必须重建表(即创建新.ibd、顺序写入有效数据、原子替换)才可真正缩容。

sql如何分批删除千万级历史数据

为什么不能直接用 DELETE FROM table WHERE create_time

千万级数据单次执行会锁表、耗尽事务日志、触发超时或 OOM,MySQL 可能报 Lock wait timeout exceeded,PostgreSQL 容易卡住 WAL 归档。真实生产中,这条语句往往跑不完就失败,还拖垮线上查询。

核心矛盾在于:DELETE 是事务性操作,每行都记 undo log,全量扫描+逐行标记+清理,I/O 和内存压力极大。

  • MySQL InnoDB 下,大事务会导致 innodb_log_file_size 快速写满,进而阻塞其他写入
  • PostgreSQL 中长事务会阻止 vacuum 清理 dead tuple,表膨胀不可逆
  • 即使加了索引,WHERE 条件字段(如 create_time)若未被有效利用(比如函数包裹:DATE(create_time) ),仍会全表扫描

怎么安全分批删:用主键 or 时间字段做游标

关键不是“分多少批”,而是“每次只碰一小块连续数据,且不依赖 OFFSET(它会越来越慢)”。推荐两种游标方式:

  • 主键游标(最稳):适用于有自增 id 或唯一递增字段的表。先查出最小 id,再按 WHERE id BETWEEN x AND y 删,删完更新边界
  • 时间字段游标(需谨慎):仅当 create_time 有索引、且该字段值基本单调递增(无大量重复或乱序插入)时可用。避免用 ORDER BY create_time LIMIT N 配合 OFFSET,因为偏移越大越慢

示例(MySQL,按主键分批):

SELECT MIN(id), MAX(id) FROM orders WHERE create_time 
<p>拿到范围后,循环执行:</p>
<pre class="brush:php;toolbar:false;">DELETE FROM orders WHERE id >= 1000000 AND id 
<p>每次删 1w 行,<code>id</code> 范围固定、走索引、不扫描无关数据。</p>

<h3>每批删多少行?别迷信“1000”或“5000”</h3>
<p>批量大小必须结合你的硬件和负载动态调:SSD 延迟低可稍大(如 5k–10k),HDD 或高并发场景建议 1k–3k;重点看执行时间是否稳定在 1s 内、binlog/vacuum 压力是否可控。</p>
  • MySQL:观察 SHOW PROCESSLIST 中 Time 列,持续 >2s 就该减小批次
  • PostgreSQL:监控 pg_stat_progress_vacuum 和 pg_stat_activity,避免长时间 deleting 状态
  • 无论哪种数据库,都要在 DELETE 后加 SLEEP(0.1)(MySQL)或 pg_sleep(0.1)(PG),让出 I/O 和 CPU,防止抖动影响线上请求

删完还要做什么?很多人漏掉这步

DELETE 不等于释放磁盘空间——尤其 MySQL InnoDB 表空间文件(ibdata1 或独立表空间)不会自动收缩,PostgreSQL 的 bloat 也不会自动回收。

  • MySQL:对大表执行 OPTIMIZE TABLE orders(注意:会锁表,建议在低峰或用 pt-online-schema-change)
  • PostgreSQL:运行 VACUUM FULL orders(阻塞读写)或更稳妥的 VACUUM orders + 后续 CLUSTER(需额外磁盘空间)
  • 无论哪种,删完务必检查表统计信息是否更新:ANALYZE orders,否则后续查询可能走错执行计划

真正麻烦的不是删数据本身,而是删完之后的碎片整理和统计同步——这两步常被跳过,结果发现查询变慢、磁盘没降、监控报警照常响。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4483

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

931

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1169

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6441

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3223

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6400

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8741

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1190

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1032

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.9万人学习