为什么Navicat定时同步任务在处理BLOB大字段时异常缓慢?

大明吖_3357

大明吖_3357

2026-07-01

587人浏览

原创

根本诱因是max_allowed_packet不足,真正拖慢同步的是MySQL静默跳过含BLOB的整行、Navicat反复重试及内存爆满后降级为单行拉取,尤其在无主键表的Comparing records阶段需全表加载内存排序比对。
max_allowed_packet 不足是根本诱因,但真正拖慢同步的不是“卡住”,而是 MySQL 服务端静默跳过整行、Navicat 反复重试、内存爆满后降级为单行拉取 —— 尤其在无主键表上,Comparing records 阶段会把全表加载进本地内存排序比对。

为什么BLOB字段会让同步任务变慢到几乎停滞

navicat 同步大字段时的瓶颈不在网络带宽,而在三处硬限制叠加:

  • max_allowed_packet 过小 → 服务端拒绝整条含 BLOB 的 INSERT,不报错,只跳过该行;Navicat 检测不到失败,继续发下一条,但实际数据已丢失,后续校验阶段反复重传
  • 源表缺失主键或唯一索引 → Navicat 无法做哈希分片,被迫进入 Comparing records 阶段,把整张表 SELECT 到本地内存排序比对;macOS/Linux 下极易触发 swap 或 OOM,Windows 也吃光 8GB+ 内存
  • Navicat 默认用 Client export 模式 → 数据先从源库拉到本地,再拼 SQL 发给目标库;BLOB 字段一多,本地内存和磁盘 IO 直接打满,CPU 持续 100%

怎样快速定位哪张表在拖慢同步

别猜,直接查元数据。在 Navicat 中执行:

SELECT table_name, column_name, data_type, character_maximum_length 
FROM information_schema.COLUMNS 
WHERE table_schema = 'your_db' 
  AND data_type IN ('blob', 'mediumblob', 'longblob', 'text', 'mediumtext', 'longtext') 
ORDER BY table_name, ordinal_position;

重点关注 mediumblob 和 longblob 字段,尤其是平均长度 >512KB 的表。这些就是同步时最可能卡死的“罪魁”。

必须改的三项配置(缺一不可)

只调 max_allowed_packet 是无效的,必须组合生效:

navicatmysql
navicatmysql

Navicat For MySQL

下载
  • MySQL 服务端:修改 my.ini(Windows)或 /etc/my.cnf(Linux/macOS),在 [mysqld] 段加 max_allowed_packet = 256M,然后**停止服务 → flush tables → 启动服务**
  • Navicat 同步任务设置:在「数据同步 → 高级」中启用 Use compression(压缩传输),并取消勾选 Commit every batch(避免远程频繁刷盘)
  • 同步方式强制切为 Server export (SQL file):右键表 → 导出向导 → Export Method 选此项,并确认目标库 secure_file_priv 已设为可写路径(SHOW VARIABLES LIKE 'secure_file_priv')

遇到同步中途失败,千万别重头来

Navicat 15+ 的同步任务不支持断点续传。一旦失败,已导入的数据不会回滚,但未完成部分也不会记录进度。更糟的是,它不会告诉你哪一行失败了。

稳妥做法只有两个:

  • 对含 BLOB 的大表,**提前拆分**:用 WHERE id BETWEEN ? AND ? 分批同步,每批控制在 5000 行以内(避免单批超 max_allowed_packet)
  • 彻底绕开 Navicat GUI:用命令行直连,例如:
    mysqldump --host=src --user=u --password=p --skip-extended-insert --single-transaction --max-allowed-packet=512M db table | mysql --host=dst --user=u --password=p db

真正麻烦的从来不是 BLOB 本身,而是 Navicat 在无主键、无压缩、未切片的情况下,把整张百万行的 BLOB 表当成一个内存对象来搬运 —— 它不是慢,是设计上就不该这么用。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

navicat

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

2725

3

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2023.08.14

3941

10

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

2023.08.31

3011

3

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.05

967

5

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

2647

5

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2023.10.16

2647

4

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2023.10.16

2893

3

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

2023.10.19

2461

3

mdf文件导入数据库的方法
mdf文件导入数据库的方法

mdf文件导入数据库的方法有使用SQL Server Management Studio、使用SQL Server命令行工具、使用SQL Server Integration Services等方法。想了解更多mdf文件导入数据库的方法的相关内容,可以阅读本专题下面的文章。

2023.10.23

2653

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.8万人学习