如何利用mydumper进行MySQL分表分库的并行恢复?

轻涛小哥_2766

轻涛小哥_2766

2026-07-29

1031人浏览

原创

myloader不支持分表分库混合粒度并行恢复,仅支持单命令内通过-t参数控制线程级并发;分库需提前隔离备份目录并配合-s(源库白名单)和-b(目标库)参数;单表恢复须确保目录纯净且目标表不存在。

如何利用mydumper进行mysql分表分库的并行恢复? - php中文网

myloader 本身不支持“分表分库并行恢复”这种混合粒度操作——它按目录结构自动识别库/表,恢复时并发的是线程,不是你指定的“哪些库或哪些表先跑”。真正可控的并行,只发生在单次 myloader 命令内部。

myloader 的 -t 参数控制实际并发线程数

恢复速度主要取决于 -t(threads)参数值,而不是你手动拆分多少个命令。默认是 4 线程,设为 8 或 16 能显著提升吞吐,但要注意目标 MySQL 的 max_connections 和磁盘 IO 承载能力。

  • myloader -u u_mydumper -p Ud8agc_a -S /tmp/mysql.sock -d ./bak1/ -t 8:8 个线程并行导入所有表
  • 线程数过高会导致连接池耗尽、锁等待加剧,反而拖慢整体进度
  • 实测中,线程数设为 CPU 核心数 × 2 是较稳妥的起点(例如 8 核机器用 -t 16)

想“分库恢复”,必须用 -B 指定目标库名,且备份目录里不能混多个库

myloader 不会自动从备份目录里“挑出某个库来恢复”,它读取整个 -d 目录下的所有 .sql 文件,并按文件名前缀(如 bak1.t1-schema.sql)推断所属库表。所以:

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
  • 如果备份时用了 -B bak1,那么 ./bak1/ 目录下只有 bak1 库的文件,此时加 -B bak1_recover 就能把全部表导入新库
  • 如果备份目录里混了 bak1 和 bak2 的文件(比如用 -T bak1.t1,bak2.t3 生成的),myloader 会一并恢复——它不认“库边界”,只认文件名
  • 要真正分库恢复,得提前把不同库的备份文件放到不同目录,再分别执行 myloader

单表恢复必须确保目标库干净,且不能依赖 myloader 的过滤能力

myloader 没有 --tables 这类参数,它不会跳过目录里你不想要的表。所谓“单表恢复”,实际是:

  • 先确认备份目录 ./bak1_t1/ 下只有 bak1.t1 相关的两个文件:bak1.t1-schema.sql 和 bak1.t1.sql
  • 目标库中不能存在同名表,否则报错 Table 't1' already exists;必须提前执行 DROP TABLE IF EXISTS bak1_recover.t1
  • 加 -o 参数可覆盖已有表,但会清空数据——这在生产环境风险极高,慎用
  • 若备份目录里还有其他表文件,哪怕你只想恢复 t1,myloader 也会全量导入

跨库恢复时 -s 和 -B 的组合容易混淆

这两个参数作用完全不同,但名字相近,极易配错:

  • -s db1:告诉 myloader “源备份文件里标记为 db1 的表,才允许导入”,相当于白名单过滤(需备份时已按库组织好文件)
  • -B db2:指定“所有导入的表都写进 db2 库”,不管源文件里原库名是什么
  • 典型用法:myloader -u ... -d ./full_backup/ -s bak1 -B bak1_recover 表示:从 full_backup 目录中只取原属 bak1 的表,导入到 bak1_recover 库
  • 若漏掉 -s,而目录里有几十个库的文件,myloader 会全扫一遍,可能误建大量表

真正需要“分表分库并行”的场景,本质是调度问题,不是 myloader 能解决的——得靠外部脚本启动多个 myloader 进程,各自指向不同子目录,并协调好目标库名和连接资源。这时候,备份阶段的目录隔离和命名规范,比恢复时的参数更重要。

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

2133

6

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.21

1319

5

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

755

5

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.19

2892

5

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.25

4848

4

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.08

1099

3

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

5111

4

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

2023.08.14

4522

7

mysql事务隔离级别
mysql事务隔离级别

mysql规范中定义了四种事务隔离级别,不同的隔离级别对事务的处理有所不同。本专题为大家提供mysql事务隔离级别相关的文章内容,大家可以免费体验。

2023.08.16

5934

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 181人学习