scikit-learn不提供特征相关性计算函数,需用pandas.dataframe.corr(支持pearson/spearman/kendall,自动跳过nan)或numpy.corrcoef(仅pearson,需预处理缺失值);可视化推荐seaborn.heatmap,注意标注数值、调整标签旋转、设置cmap和tight_layout,并确保不混入目标变量y。

用 numpy.corrcoef 或 pandas.DataFrame.corr 计算特征相关系数
Scikit-learn 本身不提供直接计算特征间相关性的函数——它专注建模,相关性是数据探索阶段的统计任务。你得先拿到特征矩阵(X),再用 pandas 或 numpy 算。pandas.DataFrame.corr 更常用,支持 'pearson'(默认)、'spearman'、'kendall',且自动跳过含 NaN 的列对;numpy.corrcoef 只支持皮尔逊,且要求输入是二维数组,对缺失值敏感,需提前处理。
实操建议:
- 如果
X是numpy.ndarray,先转成pd.DataFrame:df = pd.DataFrame(X, columns=feature_names),再调用df.corr() - 若原始数据含分类特征,必须先编码(如
OneHotEncoder)或剔除,否则.corr()会静默跳过非数值列 - 注意
.corr(method='spearman')对异常值更鲁棒,适合偏态分布特征
用 seaborn.heatmap 绘制相关性热力图
seaborn.heatmap 是最简捷的可视化方式,但默认样式容易掩盖关键信息。它接收二维数组或 DataFrame,但不会自动标注数值、不带坐标轴标题、不处理高度重叠的特征名。
实操建议:
- 传入
df.corr()结果时,加参数annot=True显示数值,fmt='.2f'控制小数位 - 特征名过长或数量 >15 时,务必加
xticklabels=False, yticklabels=False,或用plt.xticks(rotation=45)避免标签挤叠 - 加上
cmap='coolwarm'和center=0,让正负相关在视觉上对称可比 - 别漏掉
plt.tight_layout(),否则右侧 colorbar 或顶部标签可能被截断
避免把目标变量 y 错误混入相关性矩阵
常见错误是把标签 y 当作一列拼进特征 DataFrame 再调用 .corr(),结果得到“特征与标签的相关性”混在特征-特征矩阵里——这既扭曲了热力图语义,又因 y 通常是离散型(如 0/1 分类),导致相关系数无统计意义(皮尔逊假设连续线性关系)。
正确做法:
- 只对特征子集计算:
df_features.corr(),确保df_features不含y - 若真想看单变量与目标的关系,对回归任务可用
df_features.corrwith(y);对分类任务应改用sklearn.feature_selection.f_classif或点二列相关(scipy.stats.pointbiserialr) - 热力图标题明确写成 “Feature-Feature Correlation”,不写 “Features Correlation” 这种歧义表述
相关性 ≠ 共线性,高相关不等于必须删除特征
看到两个特征相关系数 >0.9 就立刻 drop,是典型误用。线性模型(如 LinearRegression)确实怕共线性,但树模型(RandomForest)几乎不受影响;而且高相关可能是合理业务逻辑(如“月收入”和“年收入”本就该强相关)。
判断是否要处理,得结合:
- 模型类型:用
sklearn.linear_model.LinearRegression前,建议额外算方差膨胀因子(statsmodels.stats.outliers_influence.variance_inflation_factor),>5–10 才提示严重共线性 - 下游任务:做特征重要性分析时,高相关特征会互相稀释权重,此时可考虑保留一个或用 PCA 降维
- 工程成本:删特征可能破坏 pipeline 一致性,不如在模型内用正则化(
Ridge)自然抑制
热力图只是起点,不是决策终点。尤其当特征量大、业务逻辑复杂时,颜色深浅背后的具体数值、分布形态、以及它在真实训练中的影响,远比“红一块蓝一块”重要得多。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











