MySQL如何进行分库分表后的数据迁移_使用中间件与数据迁移工具

夜磊吖_2351

夜磊吖_2351

2026-03-25

329人浏览

原创

会丢数据,因mysqldump只识别物理库表,无法处理分库分表的逻辑映射,直接导出逻辑库会导致遗漏或空库。

mysql如何进行分库分表后的数据迁移_使用中间件与数据迁移工具

分库分表后,mysqldump 直接导出会丢数据吗?

会,而且很常见。因为 mysqldump 默认不理解逻辑库/表和物理库/表的映射关系,它只认 MySQL 实例里真实存在的库名和表名。如果你用 ShardingSphere 或 MyCat 做了分库分表,逻辑表 t_order 可能实际落在 ds_0.t_order_0、ds_1.t_order_1 等多个物理位置,mysqldump -B order_db 只会 dump 出一个空库或部分碎片,根本不是全量。

  • 不要直接对中间件暴露的逻辑库执行 mysqldump
  • 如果必须用 mysqldump,得先连到每个真实 MySQL 实例,分别 dump 物理库(比如 ds_0、ds_1),再手动合并或重写路由元数据
  • 更稳妥的做法是绕过中间件,直连后端 MySQL 节点,用 SELECT ... INTO OUTFILE 导出文本,避免字符集和大字段截断问题

ShardingSphere-JDBC 迁移时,dataSource 配置写错会导致连接池反复创建

这是线上高频问题:迁移脚本里把 driver-class-name 写成 com.mysql.cj.jdbc.Driver,但实际连接的是 ShardingSphere 的 JDBC 数据源代理类 org.apache.shardingsphere.driver.jdbc.core.datasource.ShardingSphereDataSource。结果 Spring Boot 启动时发现类型不匹配,不断尝试重建 dataSource,日志刷屏 Failed to obtain JDBC Connection。

  • 迁移工具(如 DataX、Canal)或自研脚本中,JDBC URL 必须指向真实 MySQL 实例,不是 ShardingSphere 的逻辑地址
  • 若需复用 ShardingSphere 的分片规则做读取,应调用其 ShardingSphereDataSource 的 getConnection(),但要注意该连接不支持跨库事务,且 getMetaData() 返回的是逻辑视图,容易误判表结构
  • 检查 application.yml 里是否混用了 spring.datasource.<em></em> 和 spring.shardingsphere.datasource. 两套配置,后者才是中间件生效的入口

用 DataX 迁移分库分表数据,mysqlreader 插件怎么写才能不漏片

mysqlreader 默认一次只能读一个库的一张表。如果物理表分散在 8 个库、每个库 4 张分表,硬写 32 个 job 配置不仅维护成本高,还容易因并发过高打爆 MySQL。

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
  • 把所有物理表路径列全,用 connection 数组一次性声明,例如:
    "connection": [{
      "jdbcUrl": ["jdbc:mysql://host1:3306/ds_0?useSSL=false"],
      "table": ["t_order_0", "t_order_1"]
    }, {
      "jdbcUrl": ["jdbc:mysql://host2:3306/ds_1?useSSL=false"],
      "table": ["t_order_0", "t_order_1"]
    }]
    
  • column 必须显式写出,不能用 <em></em> —— 分表间字段顺序或默认值可能不一致, 容易导致列错位
  • 如果目标库也分库分表,mysqlwriter 的 writeMode 推荐设为 insert,别用 replace,否则唯一键冲突会静默跳过,数据就丢了

Canal 订阅 binlog 做增量迁移,destination 配置错一个字符就收不到事件

destination 在 Canal 里不是随便起的名字,它必须和 instance.properties 文件里定义的实例名完全一致,且大小写敏感。比如配置文件写的是 example,而客户端连的是 Example,Canal Server 日志只会打印 no available destination,不会报更具体的错误。

  • 先确认 Canal Server 的 conf/example/instance.properties 中 canal.instance.dbUsername 和 canal.instance.connectionCharset 是否与目标 MySQL 一致(尤其注意 MySQL 8.0 默认 utf8mb4)
  • canal.instance.filter.regex 要写物理库名+物理表名,例如 ds_\d+\.t<em>order</em>\d+,不能写逻辑名 order_db.t_order
  • 如果 MySQL 开启了 GTID,Canal 1.1.5 之前版本不兼容,会卡在 running 状态但无任何日志输出,必须升级或关闭 GTID

分库分表迁移最麻烦的从来不是工具选型,而是物理拓扑和逻辑规则之间的映射关系——一旦中间件配置、迁移脚本、目标库建表语句三者之间有任意一处没对齐,数据就可能错行、重复或消失,而且这种问题往往在线上跑了一周才被业务侧发现。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

mysql

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

2253

6

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.21

1379

5

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

795

5

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.19

3092

5

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.25

5228

4

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.08

1159

3

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

5491

4

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

2023.08.14

4822

7

mysql事务隔离级别
mysql事务隔离级别

mysql规范中定义了四种事务隔离级别,不同的隔离级别对事务的处理有所不同。本专题为大家提供mysql事务隔离级别相关的文章内容,大家可以免费体验。

2023.08.16

6394

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 187人学习