MySQL迁移时遇到大字段BLOB和TEXT如何加速导出与导入?

阿婷酱_5230

阿婷酱_5230

2026-10-21

928人浏览

原创

navicat导出含大blob/text表易卡死或报错,因其默认sql格式将blob转为膨胀的十六进制字符串并在内存拼装整行,触发oom或“packet too large”;应改用mysqldump(配--hex-blob --skip-extended-insert --single-transaction)或更优的load data infile文本中转方案。

mysql迁移时遇到大字段blob和text如何加速导出与导入?

直接结论:别用Navicat导出含大BLOB/TEXT的表,改用mysqldump加关键参数,或更优——用LOAD DATA INFILE配合文本格式中转。

为什么Navicat在BLOB/TEXT面前容易卡死或报错

Navicat导出时默认生成SQL格式,对BLOB字段会转成0x...十六进制字符串,体积翻倍;同时它在内存里拼装整行数据,遇到几十MB的单个BLOB就可能OOM。常见错误是Packet too large或界面无响应,本质是客户端内存+MySQL协议包限制双重踩坑。

  • max_allowed_packet服务端限制必须调大(比如设为256M),否则mysqldump或Navicat都会在传输阶段被拦住
  • Navicat不暴露--net_buffer_length等底层参数,无法控制批量发送节奏,而命令行工具可以
  • GUI工具缺乏对“跳过索引重建”“禁用外键检查”等导入加速手段的支持

用mysqldump导出大BLOB表的最小有效参数组合

绕过默认低效行为,重点压缩SQL体积、减少解析压力、适配二进制字段:

  • 必加--hex-blob:把BLOB转成紧凑的十六进制字面量(如0x89504E47),比base64短且避免转义混乱
  • 禁用--extended-insert(即加--skip-extended-insert):每行独立INSERT,降低单条语句长度,避免超max_allowed_packet
  • 加--single-transaction保障InnoDB一致性,但不锁表
  • 加--skip-autocommit --net_buffer_length=1048576:让客户端一次发1MB数据包,减少网络往返

完整命令示例:

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
mysqldump --single-transaction --skip-extended-insert --skip-autocommit --net_buffer_length=1048576 --hex-blob -u root db_name table_with_blob > dump.sql

真正快的方案:绕过SQL,走LOAD DATA INFILE文本中转

当BLOB字段数量多、单个体积大(>1MB)、且允许临时落地文件时,SELECT ... INTO OUTFILE + LOAD DATA INFILE比任何SQL导出都快一个数量级——因为它跳过了SQL解析、字符集转换、事务包装所有开销。

  • 导出前确认secure_file_priv路径(用SHOW VARIABLES LIKE 'secure_file_priv';查),只能写入该目录
  • 用SELECT id, HEX(blob_col), text_col FROM t INTO OUTFILE '/var/lib/mysql-files/t_data.txt' FIELDS TERMINATED BY '\t' LINES TERMINATED BY '\n';,把BLOB转HEX字符串存文本
  • 导入时建好表后执行:LOAD DATA INFILE '/var/lib/mysql-files/t_data.txt' INTO TABLE t (id, @blob_hex, text_col) SET blob_col = UNHEX(@blob_hex);
  • 注意:UNHEX()只接受偶数长度十六进制串,导出前可用LPAD(HEX(blob_col), 2, '0')补位防错

导入时提速的关键不是“怎么读SQL”,而是“怎么少干活”

即使有了优化过的dump文件,直接mysql -u root db 仍慢——因为默认每条INSERT都触发日志刷盘、索引更新、约束检查。必须手动干预:

  • 导入前执行:SET autocommit=0; SET unique_checks=0; SET foreign_key_checks=0;
  • 导入完成后立刻执行:SET unique_checks=1; SET foreign_key_checks=1; COMMIT;
  • 如果表已有大量索引,先DROP INDEX,导入完再CREATE INDEX,速度差异可达5–10倍
  • 对InnoDB表,临时把innodb_flush_log_at_trx_commit设为0(仅限导入期间!),能显著减少redo log刷盘等待

这些操作没法在Navicat里点几下完成,必须进MySQL命令行或脚本封装。真正的瓶颈从来不在“数据有多大”,而在“你让MySQL重复做了多少遍本可省略的事”。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

mysql

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

2293

6

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.21

1399

5

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

815

5

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.19

3172

5

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.25

5388

4

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.08

1199

3

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

5651

4

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

2023.08.14

4942

7

mysql事务隔离级别
mysql事务隔离级别

mysql规范中定义了四种事务隔离级别,不同的隔离级别对事务的处理有所不同。本专题为大家提供mysql事务隔离级别相关的文章内容,大家可以免费体验。

2023.08.16

6574

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 188人学习