Python如何处理文本数据_Pandas字符串方法向量化与正则分词清洗

梦宇吖_4620

梦宇吖_4620

2026-04-04

803人浏览

原创

pandas中str.split()对none/nan返回nan而非空列表,因默认不处理缺失值;需先fillna('')再split,否则str[0]报错。

python如何处理文本数据_pandas字符串方法向量化与正则分词清洗

str.split() 为什么返回 NaN 而不是空列表

调用 str.split() 时,如果某行值为 None 或 NaN,结果直接是 NaN,不是空列表或空字符串。这是 Pandas 的默认行为——不尝试对缺失值做字符串操作。

  • 必须先用 fillna('') 或 mask(df.col.isna(), '') 填充,再 split;否则后续 str[0] 会报 TypeError: string indices must be integers
  • str.split(pat, n=1) 比默认全切分快,尤其处理长文本时;n 设太大会触发正则回溯,拖慢性能
  • 若分隔符可能不存在(如日志中某些行没冒号),加 expand=False + str.get(0) 比 str[0] 更安全,前者对空 list 返回 None,后者直接报错

用 str.extract() 替代 findall 做命名分组提取

很多人习惯先 str.findall() 再转 DataFrame,但效率低、类型难控;str.extract() 是向量化命名提取的正确姿势,尤其适合结构化清洗(如从日志抽 IP、时间、状态码)。

python-code-analyz
python-code-analyz

专业Python代码分析与优化,支持语法检查、安全扫描、性能评估、复杂度分析及重构后优化代码生成。

下载
  • 正则必须带命名捕获组,例如 r'(?P<ip>\d+\.\d+\.\d+\.\d+):(?P<port>\d+)'</port></ip>,否则返回单列且列名是 0
  • 未匹配到的行,对应字段自动填 NaN,不用额外处理;但若想填空字符串,得链式调用 .fillna('')
  • 避免写 .*? 开头的贪婪模式,Pandas 正则引擎对超长文本容易卡住;优先锚定边界,比如用 ^ 和 $ 或明确上下文字符

str.replace() 的正则陷阱:re.sub 默认不全局?

str.replace() 默认启用正则(当第一个参数是字符串且含元字符时),但它的行为和 re.sub() 不完全一致:它默认全局替换,无需 flags=re.G;真正容易出错的是转义和标志位传递。

  • 要忽略大小写,必须显式传 regex=True, flags=re.I;只写 flags=re.I 但没写 regex=True,会被静默忽略
  • 替换内容里有 \1 这类反向引用,必须确保原 pattern 是 raw string(r'(...)'}),否则 \1 被 Python 字符串解析成乱码
  • 批量替换多个模式时,别堆砌多个 str.replace() 链式调用——每调一次都遍历整列;改用 str.replace(r'pattern1|pattern2', ...) 合并,或预编译正则对象传入

str.contains() 返回布尔却常被误当索引用

str.contains() 返回 Series[bool],看着像能直接当布尔索引,但遇到 NaN 时默认返回 NaN,而布尔索引中 NaN 会被当作 False —— 导致漏掉本该匹配的行。

  • 永远加 na=False 参数,例如 df.col.str.contains('error', na=False),否则 NaN 行永远进不了结果
  • 搜索纯字符串(无正则元字符)时,显式加 regex=False,避免意外触发正则解析,速度也更快
  • 若需“包含任意一个关键词”,别写 str.contains('a|b|c') —— 它等价于“包含 a 或 b 或 c 的子串”,不是“包含 a 或包含 b 或包含 c”;正确做法是用 isin() 配合 str.split().explode(),或用 apply(lambda x: any(k in x for k in keys))
事情说清了就结束。正则在 Pandas 里不是照搬 Python re 模块那套逻辑,最麻烦的是缺失值传播规则和默认标志位隐含行为——不亲手跑一遍 pd.Series(['a', None]).str.contains('a'),很难记住它到底返回什么。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1651

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4024

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1629

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

23217

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2847

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2887

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1143

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2243

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程