怎样在Python中用Pandas计算两组序列的皮尔逊相关系数?

夏雪同学_9891

夏雪同学_9891

2026-10-25

420人浏览

原创

pandas.series.corr()默认计算皮尔逊相关系数,自动按索引对齐并成对删除nan;dataframe.corr()默认整行删除nan,行为不同需注意。

怎样在python中用pandas计算两组序列的皮尔逊相关系数?

用 pandas.Series.corr() 直接算两列数据的相关系数

只要两个 Series 长度一致、索引对齐(或可自动对齐),corr() 就能直接返回皮尔逊相关系数。它默认用 method='pearson',所以不用额外指定。

常见错误是忽略缺失值处理:如果任一 Series 含 NaN,corr() 默认会 **只保留两个序列都非空的行**(即 pairwise deletion),这和用 numpy.corrcoef() 前手动 dropna() 的结果一致。

  • 确保两个 Series 索引类型相同(比如都是 int64 或都为 DatetimeIndex),否则可能意外触发广播或对齐失败
  • 如果索引不匹配但想强制按位置计算(忽略索引),先用 .values 转成 numpy.ndarray,再交给 scipy.stats.pearsonr()
  • 注意:空值太多会导致有效样本量骤降,相关系数标准误变大,但 corr() 不报 warning

用 DataFrame.corr() 批量计算多列间的皮尔逊矩阵

当你有多个变量(比如一个 DataFrame 里多列数值型数据),corr() 会返回一个方阵,对角线为 1,其余为两两皮尔逊系数。

默认行为是跳过含 NaN 的整行(complete-case deletion),和 Series.corr() 的 pairwise 行为不同 —— 这点容易踩坑。

Secure Python Code Sandbox
Secure Python Code Sandbox

安全 Python 代码沙箱:在隔离的沙箱中执行任意 Python 代码,预装 requests、NumPy、pandas 库。返回 stdout、stderr。

下载
  • 想恢复 pairwise 行为,得先用 df.dropna(how='all') 清理全空行,再对每对列手动调用 Series.corr()
  • corr(method='pearson', min_periods=2) 中的 min_periods 控制最少需几个有效配对才计算;设为 None(默认)时,只要有一对非空就尝试算
  • 如果某列是 object 类型但实际存数字字符串(如 '1.5'),corr() 会静默跳过该列,不报错也不警告

验证结果是否可信:检查 scipy.stats.pearsonr() 返回的 p 值和置信区间

pandas 的 corr() 只返回系数值,不提供统计显著性信息。要判断这个相关是不是偶然发生的,得用 scipy.stats.pearsonr()。

它返回两个值:correlation 和 pvalue。注意:它要求输入是等长一维数组,且会自动移除 NaN 对(pairwise),和 pandas.Series.corr() 逻辑一致。

  • 调用前务必确认两个输入长度相等,否则报 ValueError: x and y must have the same length
  • 若样本量 n ,<code>pearsonr() 会返回 (nan, nan),而 pandas 可能仍返回一个数(比如两个点总能连出一条直线,系数为 ±1)
  • 需要置信区间?得自己用 scipy.stats.t 或 scipy.stats.bootstrap() 构造,pearsonr() 不提供

遇到 TypeError: unsupported operand type(s) for /: 'str' and 'float' 怎么办

这是最常卡住人的报错,本质是某列数据类型为 object,但内容混有字符串和数字,或全是字符串数字(如 '3.14')。corr() 在内部做除法时失败。

别急着用 astype(float) 强转 —— 如果有非法字符(如 'N/A'、'--'),会直接崩。

  • 先用 pd.to_numeric(series, errors='coerce') 把无法解析的转成 NaN,再算相关
  • 检查原始数据:用 series.apply(type).unique() 看是否真混了类型;用 series.str.contains(r'[^0-9.-]', na=False).any() 快速扫异常字符
  • 如果列名含空格或特殊符号(如 'sales amt'),用 df['sales amt'].corr(df['profit']) 没问题,但别写成 df.sales amt.corr(...) —— 语法错误
真实项目里最容易被忽略的是:相关系数对异常值极度敏感,一个离群点就能把 r 从 0.2 拉到 0.6。动手算之前,先画个散点图,比看任何数字都管用。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1791

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4744

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1749

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

28137

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3387

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3387

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1203

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

616

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2623

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习