SQL如何提升批量插入的速度_合并Values与关闭自动提交机制

胖宇吖_9359

胖宇吖_9359

2026-03-24

210人浏览

原创

批量插入应使用 INSERT INTO ... VALUES (...),(...),... 语法,配合显式事务、合理分批及数据库引擎优化,避免逐条执行和参数超限。

sql如何提升批量插入的速度_合并values与关闭自动提交机制

用 INSERT INTO ... VALUES (...), (...), (...) 一次性插多行

单条 INSERT 插一行,网络往返、解析开销大,速度天然慢。合并成一条语句批量插,能显著减少语句解析和事务日志写入次数。

常见错误是拼接时漏了括号、逗号错位,或单条值里含未转义的引号/特殊字符,导致 SQL 语法错误 ERROR 1064。

  • MySQL 支持最多约 65535 个参数(不是行数),实际建议单次 ≤ 1000 行,避免包过大或超 max_allowed_packet
  • PostgreSQL 对 VALUES 行数没硬限制,但超过几千行后计划器可能变慢,建议分批 ≤ 5000
  • SQLite 默认有 SQLITE_MAX_VARIABLE_NUMBER 限制(通常 999),必须分段;可用 PRAGMA compile_options 查看是否含 MAX_VARIABLE_NUMBER=...

示例(MySQL):

INSERT INTO users (name, email) VALUES ('Alice', 'a@x.com'), ('Bob', 'b@x.com'), ('Charlie', 'c@x.com');

关闭自动提交 + 显式事务包裹批量操作

默认每条 INSERT 都是一次独立事务,每次都要刷盘(fsync)、写 binlog/redolog,I/O 成为瓶颈。关掉自动提交,把多条插入包进一个事务,只做一次持久化。

容易踩的坑:忘了 COMMIT,导致连接挂起、锁表、后续查询被阻塞;或者事务太大,触发 MySQL 的 innodb_log_file_size 溢出,报错 ERROR 1205(死锁)或 ERROR 1197(日志满)。

  • MySQL:执行 SET autocommit = 0; 后,必须配对 COMMIT;;或用 BEGIN; ... COMMIT;
  • PostgreSQL:用 BEGIN; ... COMMIT;,注意不要在函数或 prepared statement 里隐式开启事务导致嵌套
  • SQLite:BEGIN IMMEDIATE; 比 BEGIN DEFERRED; 更早获取锁,适合高并发写入场景

不同数据库对批量插入的底层处理差异

同一条 INSERT ... VALUES 在不同引擎下性能表现可能差几倍——不是语法问题,是存储层机制决定的。

比如 MySQL 的 InnoDB 和 MyISAM 对批量插入的缓冲策略完全不同;PostgreSQL 的 COPY 实际比多值 INSERT 快一个数量级,但它不属于 SQL 标准语法,需客户端配合。

  • InnoDB:开启 innodb_flush_log_at_trx_commit = 2 可降低刷盘频率(牺牲极小可靠性),配合批量事务效果明显
  • MyISAM:无事务,INSERT DELAYED 已废弃,不推荐用于新项目
  • PostgreSQL:用 COPY users FROM STDIN 是最快路径,但需要驱动支持(如 psycopg2 的 copy_from),不能直接写在普通 SQL 字符串里
  • SQLite:启用 PRAGMA journal_mode = WAL; + PRAGMA synchronous = NORMAL; 能提升写入吞吐,但要注意 WAL 模式下读一致性逻辑变化

别忽略客户端与连接层的隐性开销

即使 SQL 写对了、事务也包好了,如果用 ORM(如 Django ORM、SQLAlchemy)默认逐条 save(),或 JDBC 的 PreparedStatement.addBatch() 没调 executeBatch(),实际还是发了 N 条请求。

更隐蔽的是连接池配置:若最大连接数设太小,批量任务排队等待连接,表面看是“插入慢”,实则是连接争用。

  • Python + pymysql:确认用了 executemany(),而非循环调 execute()
  • Java + JDBC:检查是否设置了 rewriteBatchedStatements=true(MySQL 特有优化,会把 batch 自动重写成多值 INSERT)
  • Node.js + mysql2:用 connection.query('INSERT...', [rows]) 数组传参,而不是自己拼字符串
  • 连接池 idle timeout 要大于单批事务执行时间,否则连接被回收再重建,白忙活

批量插入快不快,不只看 SQL 怎么写,得从客户端、驱动、协议、引擎、磁盘一起看。最常被跳过的,其实是确认「到底发了几条网络请求」——用 tcpdump 或数据库的 general log 一眼就能验真伪。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4583

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

951

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1209

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6561

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3323

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6520

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8961

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1210

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1072

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习