如何高效批量插入一百万行数据到 Laravel 数据库

云强姑娘_8839

云强姑娘_8839

2026-02-02

744人浏览

原创

如何高效批量插入一百万行数据到 Laravel 数据库

本文详解在 laravel 8 中安全、高效地将百万级手机号(源自 textarea)批量插入数据库的完整方案,规避内存溢出、超时错误与 http 500 问题,推荐使用流式分批 + 内存控制 + 命令行替代方案。

在 Web 请求中一次性处理 1,000,000 行数据(如从

✅ 正确做法是:边解析、边过滤、边组装、边插入,严格控制单批次内存占用,并彻底避免累积百万级对象于内存中。

以下是优化后的核心逻辑(修复原代码关键缺陷):

public function mobile_store(Request $request)
{
    $request->validate(['mobile' => 'required|string']);

    // 按行分割(兼容 \r\n、\n、\r)
    $lines = preg_split('/[\r\n]+/', trim($request->mobile), -1, PREG_SPLIT_NO_EMPTY);

    // 使用集合去重(保留顺序,避免 array_unique 重索引问题)
    $uniqueLines = collect($lines)->unique()->filter(function ($line) {
        return strlen(trim($line)) >= 10; // 至少 10 位有效数字
    })->map(function ($line) {
        $clean = trim($line);
        // 统一格式:+98 + 后10位数字(自动截取,防超长)
        return '+98' . substr($clean, -10);
    });

    // 流式分批插入:每 5000 条执行一次 insert,不累积全部数据
    $batch = [];
    $totalInserted = 0;
    $now = Carbon::now();

    foreach ($uniqueLines as $mobile) {
        $batch[] = [
            'mobile' => $mobile,
            'created_at' => $now,
            'updated_at' => $now,
        ];

        if (count($batch) >= 5000) {
            Mobile::insert($batch);
            $totalInserted += count($batch);
            $batch = []; // 立即释放内存
        }
    }

    // 插入剩余不足 5000 条的数据
    if (!empty($batch)) {
        Mobile::insert($batch);
        $totalInserted += count($batch);
    }

    return redirect()->back()->with('success', "成功插入 {$totalInserted} 条唯一手机号");
}

⚠️ 关键优化说明:

  • 不使用 collect()->chunk():原代码先 collect($Filter)->chunk(5000),仍需将全部数据载入内存,未解决根本问题;
  • 用原生数组替代 Collection 批处理:$batch[] 比 $insert_data->push() 内存开销更低,且 count($batch) 比 ->count() 更快;
  • 预计算 Carbon::now():避免在循环内重复调用,提升性能;
  • 正则分割兼容换行符:preg_split('/[\r\n]+/', ...) 比 explode("\r\n", ...) 更鲁棒;
  • 提前过滤空行与无效长度:减少无效迭代。

? 进阶建议(强烈推荐用于百万级场景):

Laravel Cloud
Laravel Cloud

Laravel Cloud(cloud.laravel.com)。此技能用于处理所有 Laravel Cloud 请求,包括搜索和读取数据。只要任务涉及 Laravel Cloud,即使用此技能。

下载
  1. 迁移到 Artisan 命令(最佳实践)
    将导入逻辑封装为命令行任务,彻底绕过 Web 超时与内存限制:

    php artisan mobile:import --file=/path/to/mobiles.txt

    命令中可启用 DB::transaction()、使用 DB::table()->upsert()(Laravel 9+)、或结合 cursor() 分页读取大文件。

  2. 前端配合优化

    • 添加 enctype="multipart/form-data" + 文件上传(而非 textarea),服务端用 fopen() 流式读取;
    • 或使用 AJAX 分片上传(如 10,000 行/次),后端提供进度接口。
  3. 数据库层面调优

    • 导入前禁用索引(ALTER TABLE mobiles DISABLE KEYS)和外键检查;
    • 导入后重建索引;
    • 使用 INSERT INTO ... VALUES (),(),... 批量语法(Laravel insert() 已自动实现)。

? 总结:Web 请求不适合百万级同步导入。当前方案可稳定处理 50 万行以内;超大规模务必转向 CLI 命令 + 文件流式处理 + 数据库调优组合策略,兼顾稳定性、可观测性与运维友好性。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

php laravel 前端 ajax apache nginx

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
laravel组件介绍
laravel组件介绍

laravel 提供了丰富的组件,包括身份验证、模板引擎、缓存、命令行工具、数据库交互、对象关系映射器、事件处理、文件操作、电子邮件发送、队列管理和数据验证。想了解更多laravel的相关内容,可以阅读本专题下面的文章。

2024.04.09

877

10

laravel中间件介绍
laravel中间件介绍

laravel 中间件分为五种类型:全局、路由、组、终止和自定。想了解更多laravel中间件的相关内容,可以阅读本专题下面的文章。

2024.04.09

855

9

laravel使用的设计模式有哪些
laravel使用的设计模式有哪些

laravel使用的设计模式有:1、单例模式;2、工厂方法模式;3、建造者模式;4、适配器模式;5、装饰器模式;6、策略模式;7、观察者模式。想了解更多laravel的相关内容,可以阅读本专题下面的文章。

2024.04.09

2508

10

thinkphp和laravel哪个简单
thinkphp和laravel哪个简单

对于初学者来说,laravel 的入门门槛较低,更易上手,原因包括:1. 更简单的安装和配置;2. 丰富的文档和社区支持;3. 简洁易懂的语法和 api;4. 平缓的学习曲线。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.10

4581

7

laravel入门教程
laravel入门教程

本专题整合了laravel入门教程,想了解更多详细内容,请阅读专题下面的文章。

2025.08.05

6670

22

laravel实战教程
laravel实战教程

本专题整合了laravel实战教程,阅读专题下面的文章了解更多详细内容。

2025.08.05

4396

13

laravel面试题
laravel面试题

本专题整合了laravel面试题相关内容,阅读专题下面的文章了解更多详细内容。

2025.08.05

8249

7

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

2026.03.04

1516

29

Laravel 框架安装指南
Laravel 框架安装指南

本指南详解 Laravel 框架安装全流程,涵盖 PHP 8.1+ 环境配置、Composer 依赖管理工具安装及国内镜像源优化。重点演示使用 composer create-project 命令创建 Laravel 10/11 项目,解决常见安装错误与依赖冲突。从环境搭建到项目初始化,助您快速完成 Laravel 开发环境部署,为后续 Web 应用开发奠定基础。适合 PHP 初学者与框架迁移开发者参考。

2026.04.09

215

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习