数据库批量插入:使用事务包裹循环Insert提升性能

酷磊君_6487

酷磊君_6487

2026-04-24

422人浏览

原创

批量插入性能优化需四步:一、显式开启事务并统一提交;二、分批次提交避免长事务;三、连接初始化时关闭autocommit;四、临时禁用外键和唯一性检查。

数据库批量插入:使用事务包裹循环insert提升性能

如果您在执行数据库批量插入时发现耗时过长、CPU或I/O占用异常升高,则很可能是由于每条INSERT语句都在独立事务中执行,导致频繁日志刷盘与锁竞争。以下是提升性能的具体操作方法:

一、显式开启事务并包裹整个Insert循环

默认autocommit=1时,每个INSERT都会触发完整事务生命周期(begin→write log→flush→commit),极大增加磁盘I/O开销。通过手动控制事务边界,可将N次提交压缩为1次,显著降低redo log和binlog写入频率。

1、在执行批量插入前,执行START TRANSACTION或BEGIN语句显式开启事务。

2、将原本独立执行的多条INSERT语句全部置于该事务范围内,不进行中间COMMIT。

3、所有INSERT语句执行完毕后,统一执行COMMIT完成持久化。

4、若任意一条INSERT失败,立即执行ROLLBACK回滚全部变更,确保数据一致性。

二、分批次提交避免长事务风险

单一大事务插入数十万行会导致undo log膨胀、锁持有时间过长、主从延迟加剧,甚至触发MySQL的innodb_lock_wait_timeout中断。按固定行数切分并逐批提交,可在性能与稳定性间取得平衡。

1、设定每批次插入行数,推荐值为5000行(可根据max_allowed_packet与内存压力动态调整)。

2、使用array_chunk()(PHP)、itertools.batched()(Python 3.12+)或手动索引偏移对原始数据集进行等长切片。

3、对每个子集单独开启事务、执行批量INSERT、调用COMMIT,形成“小事务流水线”。

4、在每批次提交后检查返回影响行数,若为0或报错则终止后续批次并触发整体回滚逻辑。

三、关闭自动提交并配合事务控制

仅依赖BEGIN/COMMIT不足以规避驱动层隐式提交行为。某些数据库连接库(如PDO、JDBC)在执行DML语句时会自动检测autocommit状态并强制干预。必须在连接初始化阶段彻底关闭自动提交机制。

1、在获取数据库连接后,立即执行SET autocommit = 0语句禁用自动提交。

2、确认当前会话的autocommit变量值为OFF,可通过SELECT @@autocommit验证。

3、此后所有INSERT均不会自动提交,必须显式调用COMMIT或ROLLBACK。

4、事务结束后,如需恢复自动提交模式,执行SET autocommit = 1,但建议保持关闭直至批量任务完全结束。

四、禁用外键与唯一性检查以加速写入

在已知源数据符合约束条件的前提下,临时跳过外键校验与唯一索引维护,可绕过大量实时计算与B+树节点分裂操作,使插入吞吐量提升3–8倍。该操作仅适用于离线导入或灰度发布窗口期。

1、执行SET FOREIGN_KEY_CHECKS = 0关闭外键约束检查。

2、执行SET UNIQUE_CHECKS = 0禁用唯一索引重复性校验。

3、执行批量INSERT语句(仍需处于同一事务内)。

4、插入完成后,立即执行SET FOREIGN_KEY_CHECKS = 1与SET UNIQUE_CHECKS = 1恢复校验机制。

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

2023.10.23

4754

6

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

2026.10.16

20

10

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

2026.10.16

20

10

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

2026.10.16

0

10

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

2026.10.16

0

15

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

2026.10.16

0

15

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

2026.10.16

20

15

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

2026.10.15

20

20

MySQL 忘记密码怎么办
MySQL 忘记密码怎么办

MySQL忘记密码专题汇集不同版本与系统下的root密码重置方法,覆盖MySQL 5.7、8.0、Mac、Linux及本地集成环境,并提示恢复权限与重新登录的检查步骤。

2026.10.15

20

18

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.8万人学习