利用pandas轻松处理txt文件数据
在数据分析和处理中，常遇到从txt文件读入的数据需要进行处理的情况。比如数据格式混乱，需要清洗；某些列无效，需要删除；某些列需要转换类型等。这些工作可能带来很大的工作量和时间花费，但是我们可以通过pandas这个Python库来轻松地完成这些操作。
本文将结合代码示例，教你如何使用pandas处理txt文件数据。
- 引入pandas库
在使用pandas库前，我们需要先引入它。在Python脚本中，一般约定将pandas库重命名为pd，方便后续调用。
import pandas as pd
- 读取txt文件
首先，我们需要读取txt文件中的数据。在pandas中，我们使用pd.read_csv()函数来读入数据。虽然函数名中包含了csv，但是该函数同样适用于读入txt文件。
data = pd.read_csv('data.txt', sep=' ', header=None)
该函数参数解释如下：
- 'data.txt': 表示我们需要读取的txt文件的路径和文件名。
- sep: 表示数据分隔符，此处使用' '表示数据之间由tab隔开，也可以换成其他符号。
- header: 表示文件中是否包含列名，若不包含则设置为None。
读入数据后，我们可以通过打印输出data来查看数据的内容和形式。
print(data)
输出结果：
0 1 2 0 A 123 1.0 1 B 321 2.0 2 C 231 NaN 3 D 213 4.0 4 E 132 3.0
可以看出，读入的数据已经以DataFrame的形式存储在了data中。
- 清洗数据
读入的数据可能存在很多格式不规范或错误的地方，需要我们进行数据清洗。比如，有些行或列中可能存在缺失值，我们需要将其填充或删除；有些列的数据类型可能不符合我们的需求，我们需要将其转换为数值或字符串类型等。
a. 删除含有缺失值的行
我们可以使用dropna()函数来删除含有缺失值的行。
data_clean = data.dropna()
该函数会删除数据中任意含有缺失值的行，返回只有完整数据的DataFrame。
b. 填充缺失值
如果不能删除含有缺失值的行，我们可以选择填充这些缺失值。使用fillna()函数即可。
data_fill = data.fillna(0)
该函数将缺失值填充为0，如果想以其他值进行填充，可以在括号内传入相应的值。
c. 转换数据类型
在数据分析中，需要将某些数据类型转换为数值型或字符型以便后续计算或处理。在pandas中，可以使用astype()函数进行类型转换。
data_conversion = data_clean.astype({'1': 'int', '2': 'str'})
该函数可以将data_clean中第1列的类型转换为整型（int），第2列的类型转换为字符串型（str）。
- 保存新数据
最后，我们需要将经过清洗和处理后的数据保存到新的txt文件中。在pandas中，我们可以使用to_csv()函数来实现。
data_clean.to_csv('data_clean.txt', index=False, header=False, sep=' ')
该函数参数解释如下：
- 'data_clean.txt': 表示保存文件的路径和文件名。
- index: 表示是否保留行索引，此处选择False不保留。
- header: 表示文件中是否包含列名，此处选择False不包含。
- sep: 表示分隔符，此处使用' '表示以tab作为分隔符。
代码示例
下面是完整的代码示例，你可以将其复制到Python脚本中并运行。
import pandas as pd
# 读入数据
data = pd.read_csv('data.txt', sep=' ', header=None)
print('原始数据：
', data)
# 删除含有缺失值的行
data_clean = data.dropna()
print('处理后数据（删除缺失值）：
', data_clean)
# 填充缺失值
data_fill = data.fillna(0)
print('处理后数据（填充缺失值）：
', data_fill)
# 转换数据类型
data_conversion = data_clean.astype({'1': 'int', '2': 'str'})
print('处理后数据（类型转换）：
', data_conversion)
# 保存新数据
data_clean.to_csv('data_clean.txt', index=False, header=False, sep=' ')
本文介绍了如何使用pandas轻松处理txt文件数据，包括读取、清洗、转换和保存数据。pandas作为Python中重要的数据处理工具之一，可以帮助我们更加高效地完成数据挖掘和分析任务。
