如何在MySQL存储过程中批量插入百万级测试数据

梦静小哥_3488

梦静小哥_3488

2026-09-20

276人浏览

原创

mysql存储过程批量插入百万级数据唯一高效方案是关事务+拼接多值insert+分段控制;bulk insert不支持,游标和单条insert循环性能极差,必须禁用unique_checks、foreign_key_checks并调优底层参数。

如何在mysql存储过程中批量插入百万级测试数据

直接说结论:MySQL 存储过程里插百万级数据,BULK INSERT 不能用(那是 SQL Server 的),游标 DECLARE ... CURSOR 基本等于自废武功,单条循环 INSERT 更是慢到离谱——100 万行跑 20 分钟以上很常见。真正能压到 30 秒级的,只有「关事务 + 拼接多值 INSERT + 分段控制」这一条路。

为什么不能用游标或单条 INSERT 循环

游标在 MySQL 里不是“批量”工具,而是单行提取机制:每次 FETCH 都触发一次引擎层调用、一次日志写入、一次索引更新。实测插入 10 万行,比纯 WHILE 循环还慢 3–5 倍。更致命的是它隐式占用大量内存,容易撞上 max_heap_table_size 或锁等待超时。

  • INSERT INTO t VALUES (1),(2),(3) 是 MySQL 原生优化过的语法,parse/plan 可复用;而游标+单条 INSERT 每次都要重新解析
  • 逐行插入无法跳过唯一约束检查开销,哪怕你只是造测试数据
  • 每条语句都走完整事务流程(即使没显式 COMMIT),自动提交模式下 I/O 放大到不可接受

必须关闭的三个默认行为

不关它们,再好的拼接逻辑也白搭。这些不是“可选优化”,是硬性前提:

  • 执行 SET UNIQUE_CHECKS = 0:插入前禁用唯一索引检查,结束后再设回 1
  • 执行 SET FOREIGN_KEY_CHECKS = 0:避免外键约束反复校验(测试数据通常无关联依赖)
  • 显式 START TRANSACTION + 批量后 COMMIT:绝不能依赖自动提交,否则每行都刷盘

注意:UNIQUE_CHECKSFOREIGN_KEY_CHECKS 是会话级变量,只影响当前存储过程执行过程,无需担心污染其他连接。

拼接多值 INSERT 的安全边界

CONCAT() 拼 SQL 字符串是可行的,但必须卡死长度和批次。MySQL 默认 max_allowed_packet = 4MB,按平均每行 100 字节算,10000 行就逼近上限;一旦截断,INSERT 会静默失败或报错 ERROR 1153 (08S01): Got a packet bigger than 'max_allowed_packet' bytes

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
  • 推荐每批严格控制在 2000 行左右:小了(如 500)仍频繁提交,大了(如 5000)易触发截断
  • 不要用 PREPARE/EXECUTE 动态执行——它在循环里反而更慢,且无法复用解析结果
  • 字符串拼接时,末尾记得补 ;,开头用 INSERT INTO t(col1,col2) VALUES 固定前缀,避免 VALUES 重复拼接

示例片段(插入 user_test 表):

SET @sql = CONCAT('INSERT INTO user_test(name, mobile) VALUES ', 
  '(\'姓名1\', \'13800000001\'),(\'姓名2\', \'13800000002\')');
SET @sql = CONCAT(@sql, ',(\'姓名3\', \'13800000003\')'); -- 继续追加
PREPARE stmt FROM @sql;
EXECUTE stmt;
DEALLOCATE PREPARE stmt;

别忽略的底层参数与环境配置

存储过程再高效,也绕不开 MySQL 底层写入瓶颈。以下三项不调,拼接再好也卡在 5 分钟以上:

  • innodb_flush_log_at_trx_commit = 0:关掉每次事务都刷盘,改为每秒刷一次。测试环境可放心设,生产慎用
  • bulk_insert_buffer_size:建议调到 8M16M,专为大批量插入优化缓冲区
  • 表引擎必须是 InnoDB,且建表时用 ROW_FORMAT=DYNAMIC,避免行溢出拖慢插入

这些是全局变量,需在会话开始前设置,或由 DBA 在配置文件中固化。临时改用 SET GLOBAL 需要 SUPER 权限,普通用户只能 SET SESSION

真正难的不是写几行 WHILE,而是理解每条 INSERT 背后触发了多少引擎动作、日志刷盘、索引维护和锁竞争。拼接、关检查、调参数,三者缺一不可——漏掉任意一个,百万级插入都会从“分钟级”退回到“小时级”。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

3683

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

771

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

949

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

5441

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

2443

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

5440

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

7041

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

950

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

852

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 168人学习

使用phpenv集成环境安装极致CMS
使用phpenv集成环境安装极致CMS

共2课时 | 268人学习