如何处理导入操作后数据行数不一致的问题_检查隐藏字符与跳过错误记录数

酷强大大_7821

酷强大大_7821

2026-03-28

669人浏览

原创

行数不一致主因是隐藏字符或字段内换行未引号包裹,应先用cat -A或PowerShell查原始字节,再针对性调整lineterminator、quoting或on_bad_lines参数。

导入后 len(df) 和原始文件行数对不上,先查隐藏字符

excel 或 csv 里肉眼看不见的换行符、零宽空格、bom 头,会让 pandas 误判行边界,尤其在 windows 编辑器里保存的文件容易带 \r\n 混用或 \ufeff。别急着调参数,先看原始文件真实结构。

  • 用命令行快速检查:head -n 5 file.csv | cat -A(Linux/macOS)或 Get-Content file.csv -Encoding UTF8 | Select-Object -First 5 | ForEach-Object { $_.ToString().ToCharArray() | ForEach-Object { "{0:X4}" -f [int]$_ } -join ' ' }(PowerShell)
  • 重点看是否有 ^M(\r)、EF BB BF(BOM)、200B(零宽空格)
  • pandas 默认用 \n 分行,遇到孤立 \r 或嵌入式换行(如字段内 "abc\ndef")会多切一行

pd.read_csv 中哪些参数真正影响行数统计

不是所有参数都管“读进来几行”,关键只在三处:分隔逻辑、引号处理、错误容忍。其他像 dtype 或 usecols 不改变行数,只改内容。

  • lineterminator:强制指定换行符,比如设为 '\n' 可绕过混用 \r\n 导致的误切
  • quoting 和 quotechar:若字段含换行但没被引号包裹,pandas 会提前断行;设 quoting=csv.QUOTE_ALL 或检查原始导出是否漏引号
  • on_bad_lines='skip'(pandas ≥1.3):跳过格式错乱行,但会静默丢数据;on_bad_lines='warn' 能看到具体哪几行被跳了
  • 避免用 error_bad_lines=False(已弃用),它不报错也不提示,容易漏掉问题行

怎么确认到底丢了哪几行或多了哪几行

靠 len(df) 对比太粗糙,得定位到具体行为什么异常。核心是让 pandas “吐出”它认为的每一行原始文本。

  • 加 keep_default_na=False, skip_blank_lines=False,再用 df.iloc[:10].to_string() 看前几行是否包含意外换行
  • 用 pd.read_csv(..., nrows=100, header=None) 不带列名读,把每行当纯字符串,再 print(repr(row[0])) 查看原始字节表现
  • 如果源是 Excel,别用 read_csv 去读 .xlsx —— 改用 pd.read_excel,否则 openpyxl 引擎可能把合并单元格、注释行也当数据行算进去
  • 导出时用 df.to_csv(..., line_terminator='\n') 统一换行符,避免下次再踩坑

跳过错误记录时,on_bad_lines='skip' 的副作用

它确实能防止报错中断,但代价是:丢失行不标记、不返回索引、不保证顺序连续。你拿到的 df.index 看似从 0 开始,实际可能缺了第 17 行、第 203 行……而你完全不知道。

  • 必须配合日志:用 warnings.catch_warnings(record=True) 捕获 UserWarning,里面含被跳行号
  • 更稳妥的做法是先用 on_bad_lines='warn' 运行一次,记下警告里的行号,再人工检查对应原始行
  • 如果错误行有规律(比如总在含 emoji 的字段),不如预处理:用 Python 逐行读文件,line.encode('utf-8', errors='ignore').decode('utf-8') 清掉非法字节,再喂给 read_csv
实际处理时,90% 的行数不一致都卡在“以为自己在读 CSV,其实文件带 BOM 或字段内换行没引号”。别一上来就调 chunksize 或写自定义 parser,先用 cat -A 或十六进制查看器看前三行原始字节。
PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

2765

3

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2023.08.14

3961

10

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

2023.08.31

3051

3

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.05

987

5

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

2687

5

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2023.10.16

2687

4

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2023.10.16

2893

3

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

2023.10.19

2501

3

mdf文件导入数据库的方法
mdf文件导入数据库的方法

mdf文件导入数据库的方法有使用SQL Server Management Studio、使用SQL Server命令行工具、使用SQL Server Integration Services等方法。想了解更多mdf文件导入数据库的方法的相关内容,可以阅读本专题下面的文章。

2023.10.23

2693

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.9万人学习