怎样编写Shell脚本实现MySQL数据库全量加增量自动化迁移

陌静姑娘_7796

陌静姑娘_7796

2026-10-14

754人浏览

原创

全量导出关键参数组合为:--all-databases --single-transaction --set-gtid-purged=off --default-character-set=utf8mb4 --events --routines --triggers,缺一不可;其中--single-transaction保障innodb一致性且不锁表,--set-gtid-purged=off适配目标库gtid启用状态,--default-character-set=utf8mb4防编码错乱,--events --routines --triggers确保完整导出数据库对象。

怎样编写shell脚本实现mysql数据库全量加增量自动化迁移

全量导出时 mysqldump 的关键参数组合

直接用 mysqldump --all-databases 会失败,尤其当库中含视图、存储过程或 GTID 开启时。必须显式控制字符集、锁机制和兼容性选项。

  • 加 --single-transaction 替代 --lock-all-tables,避免长时全局锁(仅对 InnoDB 有效)
  • 强制指定 --default-character-set=utf8mb4,否则导出的 SQL 可能因客户端默认编码错乱
  • 必须加 --set-gtid-purged=OFF(目标库 GTID 已启用)或 ON(目标库未启用 GTID),否则导入报错 GTID_PURGED can only be set when GTID_MODE = ON
  • 若含事件或函数,需额外加 --events --routines --triggers,缺一不可

示例全量导出命令:

mysqldump -h127.0.0.1 -uadmin -p'xxx' \
  --all-databases \
  --single-transaction \
  --set-gtid-purged=OFF \
  --default-character-set=utf8mb4 \
  --events --routines --triggers > full_$(date +%Y%m%d_%H%M%S).sql

增量备份依赖 binlog 的正确开启与定位

MySQL 不自带“增量导出”功能,本质是解析 binlog。先确认源库已开启并配置合理:

  • 检查 show variables like 'log_bin'; 返回 ON,否则无法做增量
  • expire_logs_days 至少设为 7,防止 binlog 被自动清理导致断点丢失
  • 增量起点不能靠猜:全量导出后立即执行 show master status;,记下 File 和 Position(不是时间戳!)

常见错误:用 mysqlbinlog --start-datetime 恢复,但跨 DDL 语句时易错位。应严格使用位置点:

mysqlbinlog --base64-output=decode-rows -v \
  --start-position=123456789 \
  /var/lib/mysql/mysql-bin.000001 > inc_20240501.sql

自动化脚本里必须处理的三个状态断点

纯定时 dump + binlog 拼接会丢数据,因为无法保证“全量结束”和“增量起始”之间无写入。必须引入协调机制:

DrugBank 数据库
DrugBank 数据库

访问并分析来自 DrugBank 数据库的全面药物信息,包括药物属性、相互作用、靶点、通路、化学结构和药理学数据。用于药物数据、药物发现研究、药理学研究、药物-

下载
  • 全量导出前加 FLUSH TABLES WITH READ LOCK;,再立刻 SHOW MASTER STATUS;,最后 UNLOCK TABLES;(注意:该锁阻塞写,需快速操作)
  • 把获取到的 binlog 文件名和 position 写入一个标记文件(如 last_full_point.txt),供下次增量脚本读取
  • 增量脚本运行前,先检查当前 SHOW MASTER STATUS; 的 position 是否大于标记值,否则跳过——避免重复拉取或漏拉

脚本中不要用 date -d "1 hour ago" 这类时间推算,binlog 是按 position 顺序的,时间只是近似参考。

目标库导入时的权限与冲突规避

mysql 命令直接导入全量 SQL 很容易失败,原因常被忽略:

  • 目标库需提前创建同名用户,并赋予 CREATE ROUTINE、EVENT、TRIGGER 等权限,否则 --routines 导出的存储过程会报错
  • 全量 SQL 中含 CREATE DATABASE IF NOT EXISTS,但若目标库已有同名库且结构不一致(如表引擎不同),导入会卡住或静默失败
  • 建议在导入前加 SET SESSION FOREIGN_KEY_CHECKS=0; SET SESSION SQL_MODE='';,否则外键和严格模式常引发中断

更稳妥的做法是:全量导入用 mysql -f(force 模式跳过单条错误),但必须配合日志检查:

mysql -h127.0.0.1 -uadmin -p'xxx' -f &1 | grep -E "(ERROR|Warning)"

增量导入前务必停掉目标库写入,或确保应用已切走;binlog 回放不具备事务原子性,中间出错会导致主从不一致。

实际跑通的关键不在语法多漂亮,而在每个环节是否守住那个 position 断点——它一旦漂移,后续所有增量都不可信。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

2193

6

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.21

1339

5

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

795

5

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.19

3012

5

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.25

5068

4

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.08

1139

3

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

5331

4

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

2023.08.14

4702

7

mysql事务隔离级别
mysql事务隔离级别

mysql规范中定义了四种事务隔离级别,不同的隔离级别对事务的处理有所不同。本专题为大家提供mysql事务隔离级别相关的文章内容,大家可以免费体验。

2023.08.16

6214

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 184人学习