导入CSV时出现乱码字段截断怎么办_严格模式关闭与长度扩展

落晨吖_6243

落晨吖_6243

2026-05-26

847人浏览

原创

csv导入乱码主因是编码不匹配,需先用file -i或vs code确认真实编码再显式指定character set;截断多因max_allowed_packet小、字段含未转义换行符或列长度不足,严格模式关闭仅掩盖问题而非解决。

csv导入乱码:先看编码,别急着改sql模式

乱码不是STRICT_TRANS_TABLES开关能解决的——它只管数据合法性,不管字节怎么解。MySQL默认用utf8mb4接收客户端输入,但CSV文件可能是GBK、UTF-8 with BOM甚至ISO-8859-1。你用LOAD DATA INFILE直接读,它就按当前character_set_client硬解,错位了自然显示问号或截断中文。

实操建议:

  • 用file -i your_file.csv或VS Code底部编码栏确认真实编码
  • 导入前显式指定:LOAD DATA INFILE '/path/file.csv' CHARACTER SET gbk ...
  • Windows记事本另存为UTF-8(无BOM)比“UTF-8”选项更稳妥,后者常带BOM导致首字段多出

字段截断:长度不够和严格模式是两回事

Row 1 doesn't conform to the format: Column count doesn't match value count或某字段末尾被砍掉,大概率是max_allowed_packet太小,或者字段里混了未转义的换行符(\n)、双引号("),而LOAD DATA没配好ENCLOSED BY和ESCAPED BY。

实操建议:

  • 查当前限制:SHOW VARIABLES LIKE 'max_allowed_packet';,临时调大:SET GLOBAL max_allowed_packet = 268435456;
  • 如果CSV字段含换行或逗号,必须用FIELDS ENCLOSED BY '"',且确保导出时已正确包裹
  • 字段定义长度不足也会静默截断(比如VARCHAR(10)存15个汉字),用DESCRIBE table_name;核对CHARACTER_MAXIMUM_LENGTH

关闭严格模式真能绕过截断?不能,还可能埋雷

关掉STRICT_TRANS_TABLES后,超长字段确实不报错,但会无声截断——这不是“解决问题”,是把错误从报错变成数据丢失。而且sql_mode是会话级的,你改了全局,其他应用可能依赖严格校验。

QuickBooks Mileage CSV
QuickBooks Mileage CSV

使用 qbo-mileage CLI 及用户凭证,从 Airtable、Outlook 或 Google Calendar 记录生成 QuickBooks Online 里程 CSV 文件。

下载

实操建议:

  • 临时会话内关闭仅用于诊断:SET sql_mode = (SELECT REPLACE(@@sql_mode,'STRICT_TRANS_TABLES',''));
  • 不要在my.cnf里全局关严格模式,尤其生产环境
  • 真正要扩展长度,改表:ALTER TABLE t MODIFY COLUMN c VARCHAR(500) CHARACTER SET utf8mb4;

用Python pandas read_csv再入库?注意双重编码转换

很多人转用pandas.read_csv()再to_sql(),以为能避开MySQL编码问题。其实只是把乱码时机往后推了:如果read_csv(encoding='utf-8')读错了源文件编码,DataFrame里数据已经坏;再插进MySQL,又经历一次charset协商,容易二次损坏。

实操建议:

  • 读CSV时强制匹配真实编码:pd.read_csv('x.csv', encoding='gbk')
  • 写入时明确驱动参数:engine = create_engine('mysql+pymysql://...?charset=utf8mb4')
  • 验证是否成功:SELECT HEX(col), LENGTH(col), CHAR_LENGTH(col) FROM t LIMIT 1;——中文应返回4字节/字符(utf8mb4),且LENGTH是CHAR_LENGTH的4倍

最麻烦的不是哪一步做错,而是乱码+截断同时发生时,你分不清是编码解错了,还是字段真被砍了,还是SQL模式掩盖了问题。得一项一项单独验证,别指望一个开关全搞定。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

csv

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

3189

3

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

2023.07.25

2308

9

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

2023.08.02

1260

5

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.09

1218

4

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

2023.09.05

1356

5

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2023.09.20

2178

7

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

2023.09.20

3500

8

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

2023.09.22

15935

6

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

2023.09.22

549

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.7万人学习