Codelgniter分页数据批量插入数据库优化方案

星墨小哥_2583

星墨小哥_2583

2026-08-18

495人浏览

原创

codeigniter批量插入需分块、事务与默认值补全,而非直接使用分页数据;否则因字段缺失、键名不匹配或无事务导致静默失败、io爆炸或数据丢失。

codelgniter分页数据批量插入数据库优化方案

分页数据批量插入不是“先分页再插入”,而是分页只是前端展示手段,真正要优化的是后端导入或写入逻辑。很多开发者误把“分页加载的数据”直接拿去 insert_batch(),结果要么失败、要么丢数据、要么卡死——问题不在分页,而在批量写入方式本身。

别用分页数组直接 insert_batch()

用户翻页看到的 20 条数据,本质是 LIMIT + OFFSET 查询结果,它只适合读取展示。如果把这些结果原样传给 insert_batch():

  • 字段缺失:查询可能 SELECT id,name,email,但目标表还有 created_at、status 等 NOT NULL 字段,insert_batch() 遇到 NULL 就静默失败
  • 键名不匹配:数据库列是 user_id,而查询结果键是 id,CI3 自动忽略该字段,导致整行字段数不足
  • 无事务保护:50 条 × 单条 auto-commit = 50 次磁盘写,IO 压力大,失败难回滚

正确做法:分块 + 事务 + 补全默认值

真正高效的批量插入,和是否分页无关,关键在数据准备和执行控制:

多墨智能
多墨智能

多墨智能是一款面向办公、学习与创作场景的 AI 工具。

下载
  • 把原始数据(如 CSV、API 返回、后台上传)按 ≤ 500 条切分成块,避免 max_allowed_packet 超限
  • 每块开启事务:$this->db->transStart();,插完调 $this->db->transComplete();,再检查 $this->db->transStatus()
  • 循环前统一补默认值:$row['created_at'] = $row['created_at'] ?? date('Y-m-d H:i:s');,防止 NULL 写 NOT NULL 字段
  • 确保所有记录都是关联数组,且 key 名与数据库列名完全一致(区分大小写),可用 array_key_exists('email', $row) 批量校验

重复数据?用 ON DUPLICATE KEY UPDATE 替代 insert_batch

如果是从 Excel 或外部系统同步数据,大概率存在重复主键/唯一索引冲突。insert_batch() 会直接报错中断,而原生 SQL 的 INSERT ... ON DUPLICATE KEY UPDATE 可自动跳过或更新:

  • 前提:目标表必须有 PRIMARY KEY 或 UNIQUE INDEX(如 email 字段设为 UNIQUE)
  • CI3 中需手拼 SQL:$sql = "INSERT INTO users (name, email) VALUES (?, ?) ON DUPLICATE KEY UPDATE name = VALUES(name)";
  • CI4 可用 query builder 绑定参数,更安全:$this->db->query($sql, [$name, $email]);
  • 想纯跳过不报错?写 ON DUPLICATE KEY UPDATE id = id 即可

调试必开:db_debug 和 error 检查

insert_batch() 失败不抛异常,只返回 FALSE,错误藏在 $this->db->error() 里:

  • 开发期务必开启:$this->db->db_debug = TRUE;(CI3)或 .env 中设 database.default.DB_DEBUG = true(CI4)
  • 每次 insert_batch() 后加判断:if ($this->db->affected_rows() === FALSE) { log_message('error', json_encode($this->db->error())); }
  • 避免只看返回值是否为 true/false,一定要查 affected_rows()error()

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2023.09.01

8904

6

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

5441

5

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

1995

5

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

2023.10.23

3368

4

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

2023.10.23

4034

6

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.03

3151

9

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.09

4477

8

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.13

3482

8

sprintf函数用法详解
sprintf函数用法详解

sprintf函数的用法:1、格式化字符串;2、指定输出宽度和精度;3、返回值。更多关于sprintf函数用法详解的内容,大家可以阅读下面的文章。

2023.11.27

11542

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133万人学习