如何正确将含逗号小数和不规则引号的CSV文件读取为浮点数DataFrame

落强吖_5082

落强吖_5082

2026-07-19

336人浏览

原创

如何正确将含逗号小数和不规则引号的CSV文件读取为浮点数DataFrame

本文介绍使用pandas读取包含德式小数格式(如"27,5")、多余引号、列数不一致等异常格式的csv文件,并确保所有数值列被统一解析为float类型的方法。

本文介绍使用pandas读取包含德式小数格式(如"27,5")、多余引号、列数不一致等异常格式的csv文件,并确保所有数值列被统一解析为float类型的方法。

在科学实验或工业数据采集场景中,CSV文件常采用本地化数字格式(如德语区用逗号','作小数点),且因导出工具差异,可能出现字段引号不统一、空格残留、甚至行内列数错误等问题。例如,原始CSV内容如下:

f in kHz,U in mV,amplitude in Vpp,distance in cm
"43,7",52,1,5,9
"43,7",43,5,11
"43,7",30,5,13
"43,7", "27,5",5,15
"43,7",24,5,16

其中:

  • "43,7" 和 "27,5" 是合法的德式浮点字符串,需转为 43.7、27.5;
  • 第一行末尾多出一列(5,9 实为 5.9 被错误拆分为两列);
  • "27,5" 前后存在空格,导致pandas默认解析为字符串而非数值。

✅ 标准情况:使用 decimal=',' + skipinitialspace=True + dtype=float

若数据结构基本规整(仅小数点为逗号、少量空格),最简方案是:

import pandas as pd

df = pd.read_csv("Uzud.csv", 
                 decimal=',',           # 将逗号识别为小数点
                 skipinitialspace=True, # 忽略字段前导空格(如 `" 27,5"` → `"27,5"`)
                 dtype=float)           # 强制所有列转为float(自动处理int→float)

该组合可正确解析 27,5 → 27.5、43,7 → 43.7,并统一类型为 float64。

⚠️ 进阶情况:处理列数错位(如首行多列)

当某行字段数与表头不匹配(如 "43,7",52,1,5,9 实际应为 "43,7","52,1",5,9),pandas默认会报错或静默截断。自 pandas ≥1.4.0 起,可通过 on_bad_lines 参数自定义修复逻辑:

def fix_misaligned_row(row):
    # 假设第2、3列本应合并为一个德式小数(如 ['43,7', '52', '1', '5', '9'] → ['43.7', 52.1, 5.0, 9.0])
    if len(row) == 5:
        try:
            merged_val = float(row[1].replace(',', '.') + '.' + row[2])
            return [float(row[0].replace(',', '.')), merged_val, float(row[3]), float(row[4])]
        except (ValueError, IndexError):
            return None  # 跳过无法修复的行
    return row

df = pd.read_csv(
    "Uzud.csv",
    decimal=',',
    skipinitialspace=True,
    header=None,              # 先忽略表头,避免解析干扰
    on_bad_lines=fix_misaligned_row,
    engine='python'         # 必须使用Python引擎以支持on_bad_lines回调
)

随后恢复表头并转换类型:

记录数据一键导出 Excel/CSV(带样式)
记录数据一键导出 Excel/CSV(带样式)

把记录数组导出为带样式的 Excel(xlsx) 或带 BOM 的 CSV。支持列配置(表头/宽度/顺序)、表头冻结首行、斑马纹、布尔值转「是/否」、数组换行、CSV 中文防乱码。零依赖。触发词:导出 Excel、导出 CSV、记录转表格、列配置导出、数据导出、表格美化、JSON 转表格。

下载
# 提取原表头(第一行),重设列名
headers = ["f in kHz", "U in mV", "amplitude in Vpp", "distance in cm"]
df.columns = headers
df = df.astype(float)  # 统一转为float

? 调试建议:捕获并分析坏行

首次处理未知格式数据时,推荐先定位异常模式:

bad_rows = []

def collect_bad_lines(row):
    bad_rows.append(row)
    return None  # 跳过该行,继续读取

pd.read_csv("Uzud.csv", 
            decimal=',', 
            skipinitialspace=True,
            on_bad_lines=collect_bad_lines,
            engine='python')

print("发现坏行示例:", bad_rows[:3])
# 输出:[['43,7', '52', '1', '5', '9'], ...]

根据输出规律,再编写针对性修复函数。

✅ 最终验证

无论采用哪种方式,务必验证结果:

print(df.dtypes)
# f in kHz             float64
# U in mV              float64
# amplitude in Vpp     float64
# distance in cm       float64
# dtype: object

print(df.iloc[3]["U in mV"])  # 应输出 27.5(而非字符串"27,5")

总结:解决此类问题的核心是分层处理——优先用 decimal + skipinitialspace 应对标准本地化格式;对结构缺陷,借助 on_bad_lines 实现可控修复;始终通过 dtype=float 或 .astype(float) 强制数值一致性,并用 dtypes 和样本值双重校验。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

csv csv文件

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

2025.12.04

340

15

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

2026.01.31

272

21

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

2026.04.13

771

25

Tailwind CSS 如何制作导航栏和卡片
Tailwind CSS 如何制作导航栏和卡片

用 Tailwind CSS 制作导航栏和卡片,可先搭建语义化结构,再组合 Flex、Grid、间距、圆角与阴影类。这里整理横向导航、移动端菜单、卡片网格及悬停效果的相关文章,帮助你把常见页面组件做得清晰且适配不同屏幕。

2026.11.03

0

17

Tailwind CSS 响应式布局怎么写
Tailwind CSS 响应式布局怎么写

Tailwind CSS 响应式布局通常从移动端样式写起,再用 sm、md、lg 等前缀调整不同屏幕宽度下的网格、间距和导航。本专题整理断点配置、Grid 与 Flex 自适应布局及常见溢出问题,帮助你逐步完成多设备适配。

2026.11.03

0

19

Tailwind CSS 常用类名怎么记
Tailwind CSS 常用类名怎么记

Tailwind CSS 类名很多,先按布局、间距、文字、颜色和状态分组记忆,再通过官方文档检索具体写法。本专题结合类名排序、动态拼接失效、自定义实用类等问题,帮助你建立常用类名的速查方法。

2026.11.03

0

12

码上飞入口地址合集
码上飞入口地址合集

本专题汇总了码上飞(CodeFlying)的官方入口地址合集,涵盖官网主站及网页版在线使用入口,支持注册登录后直接在线体验零代码AI应用生成。同时整理了APP端下载渠道与小程序入口,助你快速访问平台,通过自然语言描述需求即可生成应用、小程序或网站。

2026.11.03

0

10

Uvicorn 报错与问题解决教程
Uvicorn 报错与问题解决教程

本专题汇总了Uvicorn服务器常见问题与报错解决的教程合集,涵盖启动失败、端口占用、模块导入错误、事件循环冲突及热重载失效等典型故障的排查思路。同时整理了多进程与Worker配置、SSL/HTTPS证书报错、跨域与代理配置等实战解决方案,助你快速定位并解决Uvicorn运行中的各类问题。

2026.11.02

20

14

Uvicorn使用教程
Uvicorn使用教程

本专题汇总了Uvicorn使用教程与启动运行指南,涵盖其作为Python ASGI服务器的定位与特点,以及命令行启动(uvicorn main:app --reload)、参数配置(host/port/workers)、程序内嵌运行与Gunicorn结合部署等核心用法。同时整理了热重载调试、日志配置与生产环境部署优化等技巧,助你快速掌握Uvicorn的运行与配置。

2026.11.02

20

17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习