如何优化 Laravel Excel 大文件导入的内存与性能问题

小瑶大大_7202

小瑶大大_7202

2026-04-29

912人浏览

原创

如何优化 Laravel Excel 大文件导入的内存与性能问题

Laravel 使用 PhpSpreadsheet 导入超大 Excel 文件(如 100MB+、40万+ 行)时极易引发内存暴涨(甚至达 40GB),本文提供可落地的分片读取、队列批处理与架构级优化方案。

laravel 使用 phpspreadsheet 导入超大 excel 文件(如 100mb+、40万+ 行)时极易引发内存暴涨(甚至达 40gb),本文提供可落地的分片读取、队列批处理与架构级优化方案。

在 Laravel 中通过 maatwebsite/excel(基于 PhpSpreadsheet)直接读取大型 Excel 文件时,其默认行为会将整个工作表加载进内存——包括所有单元格、样式、公式和元数据。即使仅需提取纯数据,PhpSpreadsheet 仍需解析完整 DOM 结构,导致内存占用呈线性甚至指数级增长。当单个 Job 处理 40 万行时,PHP 进程常突破 32GB 内存限制,远超常规服务器承载能力。

✅ 核心解决方案:避免「全量加载」,转向「流式分片读取」
Laravel Excel 自 v3.1 起原生支持 WithChunkReading 和 WithBatchInserts,配合 ToModel 或 ToArray,可实现低内存、高吞吐的数据导入:

<?php namespace App\Imports;

use App\Models\User;
use Maatwebsite\Excel\Concerns\ToModel;
use Maatwebsite\Excel\Concerns\WithChunkReading;
use Maatwebsite\Excel\Concerns\WithBatchInserts;

class UsersImport implements ToModel, WithChunkReading, WithBatchInserts
{
    public function model(array $row)
    {
        return new User([
            'name' => $row[0],
            'email' => $row[1],
            'phone' => $row[2] ?? null,
        ]);
    }

    // 每次读取 1000 行(可根据内存压力调整:500/2000/5000)
    public function chunkSize(): int
    {
        return 1000;
    }

    // 每次批量插入 1000 条(减少 DB 事务开销)
    public function batchSize(): int
    {
        return 1000;
    }
}

调用时务必使用 queue() 而非 import(),确保任务进入队列而非同步执行:

// ✅ 正确:交由队列异步处理
Excel::queueImport(new UsersImport, storage_path('app/large-users.xlsx'), 'local');

// ❌ 错误:同步执行,阻塞主线程且无法限流
Excel::import(new UsersImport, 'large-users.xlsx');

? 进阶优化建议:

Excel公式大师(兼容WPS)
Excel公式大师(兼容WPS)

Excel/WPS 公式大师。用大白话描述需求,直接给出可用的公式、函数组合和数据处理方案,并解释每一段的作用。当用户提到"Excel 公式"、"表格函数"、"VLOOKUP 怎么用"、"XLOOKUP"、"LET"、"LAMBDA"、"动态数组"、"这个公式报错了"、"#N/A"、"#REF!"、&quot

下载
  • 启用 OnlySheets 和 WithStartRow:跳过标题行与无关工作表,减少解析负担;
  • 禁用样式与公式:在 config/excel.php 中设置 'csv' => ['delimiter' => ','] 并优先转存为 CSV(若源数据允许),或使用 WithCustomValueBinder 跳过格式解析;
  • 配置队列消费参数:在 Supervisor 中限制单进程内存上限(--memory=2048)并启用 --tries=3 --timeout=3600 防止长任务卡死;
  • 拆分文件预处理:对原始超大 Excel,可用 Python(openpyxl 流式切片)或 CLI 工具(如 ssconvert)预先分割为多个 ≤10MB 的子文件,再并行投递至不同队列;
  • 微服务解耦(高阶):将导入逻辑抽离为独立 Go/Python 服务,通过 Redis Queue 或 RabbitMQ 通信,利用更省内存的语言处理 IO 密集型任务。

⚠️ 关键注意事项:

  • 不要依赖 ini_set('memory_limit', '-1') —— 它掩盖问题而非解决问题;
  • WithChunkReading 仅对 .xlsx/.xls 有效,.csv 推荐直接使用 fgetcsv() 流式读取;
  • 确保数据库连接池与事务粒度匹配 chunk size,避免锁表或连接耗尽;
  • 始终在 staging 环境用 php -d memory_limit=2G artisan queue:work --once 压测单任务内存峰值。

最终,没有“银弹”方案——需结合数据规模、服务器资源、SLA 要求进行权衡。推荐路径:先启用 Chunk + Batch → 监控内存/耗时 → 必要时引入文件预分片 → 架构升级为微服务。持续观测 Telescope 中的内存轨迹与队列延迟,才是可持续优化的起点。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

excel laravel

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2023.09.01

12144

6

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

6941

5

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

2215

5

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

2023.10.23

4428

4

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

2023.10.23

5134

6

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.03

4031

9

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.09

5837

8

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.13

4582

8

sprintf函数用法详解
sprintf函数用法详解

sprintf函数的用法:1、格式化字符串;2、指定输出宽度和精度;3、返回值。更多关于sprintf函数用法详解的内容,大家可以阅读下面的文章。

2023.11.27

12422

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Excel 教程
Excel 教程

共162课时 | 45.2万人学习

成为PHP架构师-自制PHP框架
成为PHP架构师-自制PHP框架

共28课时 | 3.6万人学习