如何在MySQL中执行在线数据归档而不影响业务?

P粉602998670

P粉602998670

2026-07-09

985人浏览

原创

pt-archiver是percona toolkit中专为mysql设计的低影响归档工具,通过分批小事务、智能熔断、可限流、不锁表机制,安全迁移历史数据;其工作原理为“分批查找→搬运插入→确认删除→提交事务”循环执行,避免长事务、间隙锁、主从延迟和io风暴。

如何在mysql中执行在线数据归档而不影响业务?

在线归档必须分批、加锁可控、避开主键竞争,否则必然卡住业务写入。

为什么直接 INSERT ... SELECT + DELETE 会阻塞业务

单条大事务会持有源表的 MDL 锁(metadata lock)和行锁,尤其在 DELETE 阶段若没走索引或扫描全表,会锁住大量无关行;INSERT ... SELECT 在可重复读隔离级别下还会对源表快照加间隙锁,导致新插入的热数据被阻塞。常见现象包括:应用报 Lock wait timeout exceeded、慢查询堆积、主从延迟飙升。

关键点:

  • 时间字段必须有索引,且 WHERE 条件能命中该索引——用 EXPLAIN 确认 typerange 或更好
  • 避免在 DELETE 中使用 ORDER BY(MySQL 8.0+ 支持,但低版本不生效,反而误导)
  • 不要依赖自增 id 做归档条件,除非你 100% 确认它与时间严格单调一致(生产环境几乎不可能)

用 pt-archiver 实现真正低干扰归档

pt-archiver 是 Percona 提供的专用于归档的命令行工具,它默认按主键分块、逐批提交、自动休眠、跳过已归档行,天然适配在线场景。比手写 SQL 更可靠。

典型用法:

MySQL(Linux)
MySQL(Linux)

MySQL 9.6.0是面向Linux平台的2026年创新版本,核心架构迎来重大革新。其将外键约束与级联操作从InnoDB引擎层上移至SQL层,确保所有数据变更均被完整记录至Binlog,彻底解决了CDC(变更数据捕获)与主从复制中的数据不一致难题。此外,该版本引入container_aware启动选项以原生适配容器环境,并对审计日志进行了组件化重构,为追求极致数据一致性与云原生体验的开发者提供了全新选择。

下载
pt-archiver \
  --source h=localhost,D=prod,t=order_log \
  --dest h=archive-host,D=archive,t=order_log_2024 \
  --where "created_at <p>说明:</p>
  • --bulk-delete 启用批量删除,比单行 delete 快;加上 --no-delete 先试跑,确认无误再删
  • --sleep 0.2 控制每批间歇,缓解 I/O 和复制压力;值太小易打满 binlog,太大归档周期拉长
  • 目标表 order_log_2024 必须提前建好,结构一致,主键保留,字符集匹配
  • 首次运行建议加 --dry-run(部分旧版用 --print)看语句生成逻辑

自己写存储过程时必须控制事务粒度

如果因合规或安全限制不能用外部工具,需用存储过程,核心是「每次只处理一个确定范围的时间片」,而不是模糊的 NOW() - INTERVAL 3 YEAR

示例逻辑(注意不是完整代码,仅示意关键结构):

BEGIN
  DECLARE done INT DEFAULT FALSE;
  DECLARE batch_start DATETIME;
  DECLARE batch_end DATETIME;
  DECLARE cur_min_time DATETIME;
<p>-- 先查出待归档的最早时间点
SELECT MIN(created_at) INTO cur_min_time 
FROM order_log WHERE created_at </p><p>WHILE cur_min_time IS NOT NULL DO
SET batch_end = DATE_ADD(cur_min_time, INTERVAL 1 DAY);</p><pre class="brush:php;toolbar:false;">-- 插入归档表(显式指定字段,避免因表结构变更失败)
INSERT INTO archive_db.order_log_archive 
  (id, user_id, amount, created_at, updated_at)
  SELECT id, user_id, amount, created_at, updated_at 
    FROM order_log 
    WHERE created_at >= cur_min_time AND created_at = cur_min_time AND created_at = batch_end;

-- 主动释放锁,避免长事务
COMMIT;
DO SLEEP(0.1);

END WHILE; END

要点:

  • 每次只归档固定时间窗口(如 1 天),而非“所有老数据”,便于中断恢复
  • 删除前必须先查 MIN(created_at),防止因并发写入导致漏删
  • 显式列出 INSERT 字段,避免目标表新增列后语句报错
  • COMMIT 写在循环内,确保每批独立提交,不累积锁

归档后不可忽略的三件事

归档完成 ≠ 任务结束。线上最容易被跳过的其实是收尾动作:

  • 立刻执行 ANALYZE TABLE order_log,否则优化器可能继续用过期统计信息选错执行计划
  • 检查 information_schema.INNODB_TRX,确认没有残留长事务(尤其是存储过程意外中断时)
  • 归档表上补索引:原表的二级索引大多失效,至少要建 (created_at)(user_id, created_at) 这类高频查询组合

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

1118

6

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.21

753

5

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

452

5

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.19

1353

5

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.25

1856

4

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.08

616

3

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

2223

4

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

2023.08.14

1943

7

mysql事务隔离级别
mysql事务隔离级别

mysql规范中定义了四种事务隔离级别,不同的隔离级别对事务的处理有所不同。本专题为大家提供mysql事务隔离级别相关的文章内容,大家可以免费体验。

2023.08.16

2374

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 124人学习

使用phpenv集成环境安装极致CMS
使用phpenv集成环境安装极致CMS

共2课时 | 223人学习

phpEnv手册
phpEnv手册

共0课时 | 0人学习