如何在Pandas中高效提取指定列的前N个最高绝对相关项

浅强君_3383

浅强君_3383

2026-07-18

410人浏览

原创

如何在Pandas中高效提取指定列的前N个最高绝对相关项

本文介绍如何基于dataframe的相关系数矩阵,精准筛选出与目标列(如'duration')绝对相关性最强的前n个变量,并自动去重、排序和返回结果。

本文介绍如何基于dataframe的相关系数矩阵,精准筛选出与目标列(如'duration')绝对相关性最强的前n个变量,并自动去重、排序和返回结果。

在数据分析与特征工程中,快速识别与关键变量高度相关的其他特征至关重要。Pandas 提供了 .corr() 方法计算相关系数矩阵,但原始矩阵为对称结构,直接展开(.unstack())会产生重复项(如 ('duration', 'price') 和 ('price', 'duration')),且包含自相关项(如 ('duration', 'duration'),值恒为1)。因此,需针对性过滤与排序。

以下是一个健壮、可复用的函数实现:

def get_top_abs_correlations(df, input_feature, n=5):
    """
    获取与指定列具有最高绝对相关性的前n个其他列(自动排除自相关与重复对)

    Parameters:
    -----------
    df : pandas.DataFrame
        输入数据框
    input_feature : str
        目标列名(如 'duration')
    n : int
        返回的top-n数量,默认为5

    Returns:
    --------
    pandas.Series
        索引为配对列名,值为绝对相关系数,已按降序排列
    """
    # 计算绝对相关系数矩阵并展开为Series(MultiIndex: (col1, col2) → value)
    corr_matrix = df.corr().abs()
    corr_unstacked = corr_matrix.unstack()

    # 过滤:仅保留不同列之间的相关对(排除 ('A','A') 类自相关)
    mask_no_self = corr_unstacked.index.get_level_values(0) != corr_unstacked.index.get_level_values(1)
    corr_pairs = corr_unstacked[mask_no_self]

    # 提取所有以 input_feature 为第一级索引的相关项(即 input_feature 与其他列的组合)
    # 注意:由于 unstack() 默认按 (row, col) 展开,且 corr_matrix 对称,
    # 所以 input_feature 可能出现在 level_0 或 level_1 —— 但此处我们统一用 .xs() 安全提取
    try:
        # 推荐方式:使用 xs 精确提取所有含 input_feature 的配对(无论其在 level_0 或 level_1)
        corr_with_input = corr_pairs[corr_pairs.index.get_level_values(0) == input_feature]
    except KeyError:
        # 若未匹配到,则尝试 level_1(极少见,通常因列名大小写或空格问题)
        corr_with_input = corr_pairs[corr_pairs.index.get_level_values(1) == input_feature]
        # 重设索引为另一列名,保证返回 Series 索引为配对列名
        corr_with_input = corr_with_input.rename(index=lambda idx: idx[0] if idx[1] == input_feature else idx[1])

    # 取前n个最高绝对相关值
    return corr_with_input.nlargest(n)

使用示例:

import pandas as pd
import numpy as np

# 构造示例数据
np.random.seed(42)
df = pd.DataFrame({
    'duration': np.random.randn(100),
    'price': np.random.randn(100) + 0.8 * df['duration'],  # 高相关
    'size': np.random.randn(100) - 0.6 * df['duration'],   # 中等负相关
    'id': np.random.randint(1, 100, 100),                  # 无关
    'category': np.random.choice(['A','B'], 100)           # 非数值列(.corr()会自动忽略)
})

# 获取与 'duration' 最相关的前3个数值列
result = get_top_abs_correlations(df, 'duration', n=3)
print(result)

输出示例:

price    0.792
size     0.581
id       0.023
dtype: float64

✅ 关键要点说明:

  • df.corr().abs().unstack() 生成带 MultiIndex 的 Series,层级为 (col_i, col_j);
  • mask_no_self 确保排除所有 col_i == col_j 的自相关项;
  • 使用 corr_pairs[corr_pairs.index.get_level_values(0) == input_feature] 精准定位目标列作为“主变量”的所有相关对(无需转置或双重查找);
  • .nlargest(n) 自动按值降序排列并截断,结果清晰可读;
  • 函数默认忽略非数值列(Pandas .corr() 内置行为),无需预处理;
  • 建议在实际项目中添加输入校验(如检查 input_feature in df.columns)以增强鲁棒性。

该方法兼顾效率与可解释性,是探索性数据分析(EDA)与特征选择阶段的标准实践。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1791

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4724

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1749

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

27997

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3367

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3387

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1203

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

616

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2623

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.9万人学习