如何在 Pandas 中高效计算按组展开平均值(排除当前行)

轻杰君_9505

轻杰君_9505

2026-09-02

683人浏览

原创

如何在 Pandas 中高效计算按组展开平均值(排除当前行)

本文详解如何为每个分组(如 slug)按时间顺序(如 week)计算“排除当前行”的滚动均值,并对比 apply、transform 及链式调用的原理与性能差异,提供最优实践方案。

本文详解如何为每个分组(如 `slug`)按时间顺序(如 `week`)计算“排除当前行”的滚动均值,并对比 `apply`、`transform` 及链式调用的原理与性能差异,提供最优实践方案。

在时间序列分组分析中,一个常见需求是:对每个组内按某列(如 week)排序后,计算截至前一行的累计均值(即 expanding mean excluding current row)。这不同于普通 expanding().mean(),关键在于“排除当前行”——需先 shift() 再 expanding().mean(),且必须严格保持组内时序逻辑。

✅ 推荐解法:使用 transform(高效、简洁、对齐准确)

td['output'] = (
    td.sort_values(by="week")
    .groupby("slug")["valuation"]
    .transform(lambda x: x.shift().expanding().mean())
)

✅ 优势显著:

  • 自动对齐:transform 返回与原 DataFrame 索引完全一致的 Series,无需 .sort_index(level=1) 或 .reset_index(drop=True),避免索引错位;
  • 性能更优:相比 apply,transform 是专为列级广播设计的向量化操作,底层优化更好,尤其在大数据集上提速明显;
  • 语义清晰:“对每组执行变换并广播回原形状”,符合本任务目标。

⚠️ 注意:sort_values(by="week") 必须放在 groupby 前——确保组内数据已按时间升序排列,否则 shift() 和 expanding() 将基于错误顺序计算。

❌ 为何链式调用 groupby(...).shift().expanding().mean() 失败?

关键在于 方法链中断了分组上下文:

# ❌ 错误示例(失去分组结构)
td.groupby("slug")["valuation"].shift()  # → 返回普通 Series,索引为原始索引(已打乱)
# 此时再调用 .expanding().mean() 是对整个 Series 做全局展开均值,而非每组独立计算!

shift() 后返回的是扁平化 Series,不再携带 groupby 的分组元信息。.expanding().mean() 会无视原始分组,直接在整个 Series 上计算——结果完全错误。

✅ 正确补救方式(不推荐,仅作理解):

# 需显式重建分组(冗余且低效)
td.groupby("slug")["valuation"].shift().groupby(td["slug"]).expanding().mean()

但此写法依赖 td["slug"] 与 shift() 结果索引严格对齐,易出错,且性能不如 transform。

❌ 为何 apply + reset_index(drop=True) 易错配?

apply 返回的是一个 MultiIndex Series(层级索引:slug 为 level-0,原组内位置为 level-1)。若直接 .reset_index(drop=True),会丢弃所有索引信息,导致结果按新顺序(0,1,2,…)强行填充,与原始 DataFrame 行序完全错位。

而 .sort_index(level=1) 能恢复原始行序(因 level-1 对应原数据在各组内的位置),但这是“绕路修复”,非根本解法。

? 完整可运行示例

import pandas as pd
import numpy as np

# 构造示例数据(注意:原始索引无序,week 不连续)
td = pd.DataFrame({
    "idx": [0,1,2,3,4,5,6,7],
    "week": [2,3,4,3,1,1,2,4],
    "slug": ["slouk","slouk","slouk","kenun","kenun","slouk","kenun","kenun"],
    "valuation": [-4,7,8,10,11,12,17,21]
})

# ✅ 正确实现
td["output"] = (
    td.sort_values(by="week")
    .groupby("slug")["valuation"]
    .transform(lambda x: x.shift().expanding().mean())
)

print(td.sort_values(["slug", "week"]).reset_index(drop=True))

输出将精确匹配题目期望(如 slouk 组:week=1 → NaN;week=2 → -4 的前值均值为空 → NaN?但题中 week=2 行输出为 12.00,说明实际应以 week=1 行(valuation=12)为起点——验证了排序必要性)。

? 总结与最佳实践

方法 是否保持索引对齐 性能 可读性 推荐度
transform + lambda ✅ 自动对齐 ⭐⭐⭐⭐ ⭐⭐⭐⭐ ★★★★★
apply + sort_index ⚠️ 需手动修复 ⭐⭐ ⭐⭐⭐ ★★☆☆☆
链式 shift().expanding() ❌ 完全失效 ⚠️ 逻辑错误 ⚠️ 易误解 ☆☆☆☆☆

终极建议:
始终优先使用 transform 处理“每组生成同长度结果”的场景;牢记 sort_values 必须置于 groupby 前;避免在 groupby 后使用破坏分组结构的中间操作(如 shift() 后未封装进 transform/apply)。理解索引行为,是写出健壮 Pandas 代码的核心。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1591

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

3784

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1589

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

21777

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2687

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2727

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1103

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2103

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.2万人学习