如何在MySQL中安全地从CSV文件批量导入大量数据

落枫同学_6704

落枫同学_6704

2026-09-13

276人浏览

原创

load data infile 是最快路径,但受 secure_file_priv 硬性限制,必须将 csv 放入指定目录;字段顺序与类型须严格匹配,推荐先导入 text 表再清洗;批量插入需分事务、关约束检查、清 bom。

如何在mysql中安全地从csv文件批量导入大量数据

LOAD DATA INFILE 是最快路径,但 secure_file_priv 不是可选配置

它不是“建议开启”,而是硬性开关:如果 SHOW VARIABLES LIKE 'secure_file_priv' 返回 NULL 或空字符串,LOAD DATA INFILE 直接报错 ERROR 1290 (HY000)。你必须把 CSV 文件放到它指定的目录里(比如 /var/lib/mysql-files/),不能靠改路径绕过。

常见错误现象:

  • 用绝对路径写 LOAD DATA INFILE '/home/user/data.csv' → 报错 “The used command is not allowed with this MySQL version”
  • 误以为加 LOCAL 就能本地读 → 忘了服务端要开 local_infile=ON,且客户端连接时得显式启用 PDO::MYSQL_ATTR_LOCAL_INFILE => true

安全做法是:先确认路径,再 scpmv 文件过去,别图省事用符号链接——MySQL 默认不跟随 symlinks。

字段顺序和类型不匹配会导致静默丢行或报错 Incorrect integer value

CSV 第一列必须对应表的第一字段,类型也得对得上。比如 CSV 里某行写的是 "abc",123,而表定义是 id INT, name VARCHAR(20),就会报 Incorrect integer value: 'abc';但如果反过来,name 是第一字段、id 是第二字段,那 "abc" 会被塞进 id,触发转换失败。

避免方式:

  • 建表时字段顺序严格按 CSV 列顺序来,别靠 SET col1 = @1, col2 = @2 映射——这只能补救,不能解决 NULL/类型冲突
  • 导入前用 head -n 5 data.csv 看真实字段顺序,别信文件名或文档描述
  • 宽表暂存策略更稳:先建全 TEXT 字段的 raw_import 表,成功导入后再用 INSERT SELECT 转到目标表做类型校验和清洗

批量 INSERT 每批别超 5000 行,且禁用 ON DUPLICATE KEY UPDATE

单条 INSERT INTO t VALUES (),(),...; 看似简单,但受 max_allowed_packet 和锁粒度双重限制。默认 4MB 包大小,含中文的 5000 行 CSV 很容易超限,报错 Packets larger than max_allowed_packet are not allowed

CSV数据分析器
CSV数据分析器

用简单命令分析CSV文件,获取统计、筛选行、检测异常、分组聚合,零外部依赖。

下载

性能陷阱:

  • ON DUPLICATE KEY UPDATE 后,每行都触发唯一索引查找,速度下降 30% 以上
  • 不显式开事务,每条语句自动提交 → 多次刷盘 + binlog 写入,I/O 压力翻倍
  • REPLACE INTO 更糟:先 DELETE 再 INSERT,可能引发外键级联删除意外清空关联数据

实操底线:$pdo->beginTransaction() 包裹 array_chunk($rows, 5000),用预处理 INSERT INTO t (a,b) VALUES (?,?),别拼 SQL 字符串。

InnoDB 导入前关检查比删索引更有效

很多人想当然地执行 ALTER TABLE t DISABLE KEYS,但这对 InnoDB 无效——它只作用于 MyISAM。真正该关的是约束检查:

  • SET unique_checks = 0:跳过唯一索引重复校验(导入后记得 =1ANALYZE TABLE
  • SET foreign_key_checks = 0:避免逐行校验外键,尤其多表关联导入时
  • 别动 autocommit:InnoDB 的 autocommit 关闭后,大事务反而更容易 OOM 或锁表太久

这些设置是 session 级的,只影响当前连接,导入完立刻恢复。比临时删索引安全得多,也不会在崩溃后留下损坏索引。

最易被忽略的一点:字符集。UTF-8 CSV 如果带 BOM(EF BB BF),LOAD DATA INFILE 会把 BOM 当成第一列内容,导致所有字段偏移。导入前先用 sed -i '1s/^\xEF\xBB\xBF//' data.csv 清掉。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

mysql csv csv文件

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

1893

6

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.21

1159

5

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

675

5

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.19

2432

5

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.25

3968

4

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.08

959

3

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.11

4231

4

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

2023.08.14

3862

7

mysql事务隔离级别
mysql事务隔离级别

mysql规范中定义了四种事务隔离级别,不同的隔离级别对事务的处理有所不同。本专题为大家提供mysql事务隔离级别相关的文章内容,大家可以免费体验。

2023.08.16

4934

11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 166人学习

使用phpenv集成环境安装极致CMS
使用phpenv集成环境安装极致CMS

共2课时 | 265人学习