pandas.dataframe.corr适合多列间快速计算pearson相关矩阵,返回对称dataframe;scipy.stats.pearsonr专用于两组一维数据,返回(r_value, p_value)元组,需等长且严格处理nan。

直接用 pandas.DataFrame.corr 或 scipy.stats.pearsonr,但二者行为不同:前者默认处理整个 DataFrame 的列间关系,后者严格计算两组一维数据的 Pearson 相关系数和 p 值。
用 pandas.DataFrame.corr 计算多列间的 Pearson 系数
适合已有表格结构(如 CSV 加载后的 pd.DataFrame),想快速看所有数值列两两之间的相关性。
- 默认只对数值列生效,非数值列(如字符串、时间戳)自动被忽略
- 参数
method='pearson'是默认值,可省略;也可设为'spearman'或'kendall' - 返回的是对称矩阵(
DataFrame),对角线恒为 1.0,df.corr().iloc[0, 1]就是第 0 列和第 1 列的 Pearson 系数 - 若含缺失值(
NaN),默认用pairwise删除法(每对列单独删 NaN 后计算),不是全局删行
示例:
import pandas as pd
df = pd.DataFrame({'x': [1, 2, 3, 4], 'y': [2, 4, 6, 8], 'z': [1, 0, 1, 0]})
print(df.corr(method='pearson'))
用 scipy.stats.pearsonr 精确计算两个数组的 Pearson 系数
当你明确只有两组等长的一维数据(比如两个 list、numpy.ndarray 或 pandas.Series),且需要 p 值做显著性判断时,必须用这个。
- 输入必须是长度相等的一维序列,否则报错
ValueError: The input must be one-dimensional. - 会自动剔除成对的
NaN(即两个数组同一位置都是np.nan才跳过),但不处理单边 NaN —— 那会直接报错 - 返回元组:
(r_value, p_value),其中r_value就是 Pearson 系数,范围 [-1, 1] - 如果输入含无穷值(
inf)或方差为 0(所有值相同),会返回(nan, nan)或警告
示例:
from scipy.stats import pearsonr
x = [1, 2, 3, 4]
y = [2, 4, 6, 8]
r, p = pearsonr(x, y)
print(f"r={r:.3f}, p={p:.3f}") # r=1.000, p=0.000
常见错误:混用 corr 和 pearsonr 导致结果不一致
最常踩的坑是拿 df['col_a'].corr(df['col_b']) 和 pearsonr(df['col_a'], df['col_b']) 对比,发现数值微小差异甚至报错 —— 这通常是因为:
-
df['col_a'].corr(...)内部调用的是numpy.corrcoef,对 NaN 处理策略与pearsonr不完全一致 - 若某列含
object类型(比如混合了数字和字符串),df['col'].corr()可能静默失败或返回NaN,而pearsonr会直接抛TypeError - 用
df.corr()得到矩阵后取值,误用了.loc但列名类型不匹配(比如列是 int 而不是 str),导致KeyError
性能与兼容性注意点
小数据(
-
df.corr()在float64上优化较好,但若 DataFrame 含大量非数值列,预处理开销明显 -
pearsonr对输入做较多校验(如检查方差、是否一维),纯数值数组下比手写np.corrcoef稍慢,但胜在结果带 p 值 - Python 3.9+、pandas ≥ 1.5、scipy ≥ 1.8 是较稳妥的组合;旧版本中
pearsonr对全零数组可能崩溃,新版本已修复
真正容易被忽略的是:相关系数只能反映线性趋势强度,不等于因果;且对异常值极度敏感 —— 一个离群点就能让 r 从 0.2 拉到 0.8,动手前先画个散点图。
Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!











