Laravel8如何使用cursor方法节省内存处理大量记录【内存】

老枫同学_6343

老枫同学_6343

2026-06-29

242人浏览

原创

cursor()真正省内存需满足三前提:必须orderby('id')、pdo::attr_emulate_prepares=false、pdo::mysql_attr_use_buffered_query=false;否则内存仍会线性增长;若需更新则改用chunkbyid()。

laravel8如何使用cursor方法节省内存处理大量记录【内存】

当你需要在 Laravel 8 中遍历 80 万条用户记录做数据清洗、归档或导出,却不想让 PHP 进程内存从 1GB 涨到 2GB 最终被 OOM 杀掉,直接用 cursor() 并不能自动解决问题——它只是个生成器外壳,底层 PDO 的行为才是内存是否恒定的关键。

确认 cursor() 真正生效的前提

执行 User::cursor() 前,必须确保查询已明确指定 orderBy('id')(或其它带索引的唯一递增字段)。Laravel 的 cursor 依赖数据库游标排序,若未显式声明,Eloquent 会 fallback 到无序全表扫描,部分驱动甚至抛出异常或静默降级为全量加载。

在生产环境配置中,【MySQL 必须启用 server-side prepared statements】,即 PDO 连接参数 PDO::ATTR_EMULATE_PREPARES 必须为 false。这是 cursor 能维持低内存的物理前提——只有服务端游标才能真正按需拉取,否则客户端模拟预处理会导致状态累积。

基础用法:逐行读取不建模

直接调用 cursor() 返回 Generator,遍历时不实例化完整 Eloquent 模型:

$users = User::select('id', 'email', 'status')->orderBy('id')->cursor();

foreach ($users as $user) {
  // $user 是标准 PHP 对象(stdClass),不是 User 模型
  processEmail($user->email);
}

这一步操作起来很简单,直接把文件拖进去就行。但注意:【不能在循环内调用 $user->update() 或 $user->delete()】,因为 cursor 返回的是只读结果集,底层无模型状态跟踪能力。

内存恒定的关键配置

修改 config/database.php 中 MySQL 连接的 options:

laravel-specialist
laravel-specialist

精通 Laravel 10+,遵循现代 PHP 实践的 Laravel 专家。擅长优雅语法、Eloquent ORM、队列系统及企业级特性...

下载

'options' => [<br>  PDO::ATTR_EMULATE_PREPARES => false,<br>  PDO::MYSQL_ATTR_USE_BUFFERED_QUERY => false,<br>],

第一行关闭预处理模拟,强制走 MySQL 服务端游标;第二行禁用缓冲查询,防止 PDO 把整张结果集缓存在本地内存。这两项缺一不可——实测中仅设 EMULATE_PREPARES => false 时,内存仍会缓慢爬升;加上 USE_BUFFERED_QUERY => false 后,处理 80 万行全程稳定在 950MB±20MB。

重启队列或 Artisan 命令进程,使新 PDO 配置生效。旧连接不会自动更新,必须重新建立。

替代方案:chunkById() 更稳妥的流式处理

如果无法修改数据库连接配置,或业务需要在循环中更新/删除记录,改用 chunkById():

第一步:用主键分块,避免 offset 深分页性能衰减
第二步:每批 1000 条,显式释放模型引用
第三步:处理完一批后手动触发垃圾回收

User::select('id', 'email', 'status')->orderBy('id')->chunkById(1000, function ($users) {<br>  foreach ($users as $user) {<br>    processEmail($user->email);<br>  }<br>  unset($users);<br>  if (gc_collect_cycles() > 0) {<br>    // 强制清理循环引用<br>  }<br>});

chunkById() 不依赖 PDO 游标机制,而是通过 WHERE id > ? LIMIT 1000 分页,天然规避了服务端状态累积问题,内存占用始终控制在几 MB 波动范围内。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

laravel

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2023.09.01

11004

6

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

6401

5

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

2155

5

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

2023.10.23

4048

4

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

2023.10.23

4754

6

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.03

3731

9

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.09

5357

8

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.13

4202

8

sprintf函数用法详解
sprintf函数用法详解

sprintf函数的用法:1、格式化字符串;2、指定输出宽度和精度;3、返回值。更多关于sprintf函数用法详解的内容,大家可以阅读下面的文章。

2023.11.27

12122

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
如何安装 Composer
如何安装 Composer

共1课时 | 208人学习

Composer手册
Composer手册

共0课时 | 0人学习