如何在Python中利用Scikit-learn的ColumnTransformer处理异构数据?

老伟大大_6811

老伟大大_6811

2026-11-22

406人浏览

原创

ColumnTransformer 处理异构数据最直接有效,但易因列名不一致、输入无列名、输出非DataFrame、selector误用或fit/transform结构不一致导致失效。

如何在python中利用scikit-learn的columntransformer处理异构数据?

ColumnTransformer 是处理异构数据最直接有效的工具,但它的行为和报错方式容易让人误以为“没生效”或“列丢了”——核心问题往往出在列名传递、transformer顺序或fit时的数据形态上。

ColumnTransformer 传入的列名必须与 pandas DataFrame 的 columns 完全一致

常见错误是用字符串列表(如 ["age", "income"])匹配了 DataFrame,但实际列名含空格、大小写不一致,或用了 df.values(丢失列名)导致 ColumnTransformer 无法定位列。

  • 务必用 df.columns.tolist() 检查真实列名,别靠肉眼猜
  • 如果用 numpy.ndarray 或 df.values 输入,ColumnTransformer 会静默退化为位置索引(按整数下标),极易错配
  • 推荐始终传入带列名的 pandas.DataFrame,避免隐式转换
  • 若需用列名子集,直接写 ["cat_col1", "num_col2"],不要用正则或通配符(ColumnTransformer 不支持)

每个 transformer 的 fit_transform 只作用于指定列,且输出默认拼接为 numpy 数组

你不能假设输出还保留列名或 DataFrame 结构——ColumnTransformer 默认返回 numpy.ndarray,即使所有 transformer 都输出 DataFrame,最终也会被强制转成二维数组。

Define repeatable Python automation sessions in code with nox
Define repeatable Python automation sessions in code with nox

将测试、lint、构建和文档流程编码为命名的Python会话,以便人类和代理每次运行相同的workflow。

下载
  • 若需保持 DataFrame 输出,必须显式设置 remainder="passthrough" 并配合 verbose_feature_names_out=False(v1.2+),再手动重建列名
  • 数值型 transformer(如 StandardScaler)对单列输入会输出二维数组((n_samples, 1)),别误以为它“压缩”成一维
  • 类别型 transformer(如 OneHotEncoder)默认 drop="first" 会删掉一列,若原列只有两个唯一值,结果可能只剩 0 列 → 触发 ValueError: Found array with 0 feature(s)

使用 make_column_selector 简化类型分组,但要注意其返回的是函数而非列名列表

make_column_selector 常被误当成“自动获取列名”,其实它返回一个可调用对象,在 ColumnTransformer 内部运行时才真正筛选列——这意味着调试时不能直接 print 查看结果。

  • 安全做法:先用 selector = make_column_selector(dtype_include="number"),再执行 selector(df) 手动验证返回的列名列表
  • dtype_include="object" 不等于“字符串列”,它也包含 category 和某些混合类型;更稳妥的是用 make_column_selector(pattern="^cat_")
  • 多个 selector 之间不能有列重叠,否则会报 ValueError: columns overlap —— 即使逻辑上互斥,也要手动检查交集

最常被忽略的一点:ColumnTransformer 的 fit 和 transform 必须用相同结构的数据(列名、列数、列序),哪怕只差一个空格或大小写,transform 阶段就会抛 KeyError 或静默错位。上线前务必用 transformer.get_feature_names_out() 对比训练/预测时的输出维度和名称。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1971

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

5664

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1929

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

34797

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

4047

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

4067

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1303

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

636

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

3163

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程