如何在 Polars 中对分组后的多列高效应用相同自定义加权聚合函数

碧海醫心

碧海醫心

2026-05-16

882人浏览

原创

本文介绍在 Polars 中通过 pl.col(['x', 'y']) 批量指定多列,结合表达式运算实现统一加权聚合(如按 num_obs 加权平均),并无缝整合其他独立聚合(如 sum),避免循环、提升可读性与性能。

本文介绍在 polars 中通过 `pl.col(['x', 'y'])` 批量指定多列,结合表达式运算实现统一加权聚合(如按 `num_obs` 加权平均),并无缝整合其他独立聚合(如 `sum`),避免循环、提升可读性与性能。

在 Polars 中,对多个数值列执行结构完全一致的聚合逻辑(例如:按 num_obs 加权求平均),无需借助 Python 循环或重复书写表达式。核心技巧是利用 pl.col() 支持传入列名列表这一特性,使表达式自动广播到所有指定列。

以示例数据为例:

import polars as pl

df = pl.DataFrame({
    'group': [1, 1, 2, 2],
    'other': ['a', 'b', 'a', 'b'],
    'num_obs': [10, 5, 20, 10],
    'x': [1, 2, 3, 4],
    'y': [5, 6, 7, 8],
})

目标是:按 'group' 分组,对 'x' 和 'y' 同时计算 加权平均值(权重为 'num_obs'),并额外统计每组 'num_obs' 的总和。

✅ 推荐写法(简洁、高效、可扩展):

Dang.ai
Dang.ai

Dang.ai是一个AI工具目录集,已收集超过5000+ AI工具

下载
result = df.group_by('group').agg(
    # 对 x 和 y 同时应用加权平均:(col * num_obs).sum() / num_obs.sum()
    (pl.col('x', 'y') * pl.col('num_obs')).sum() / pl.col('num_obs').sum(),
    # 同时添加其他独立聚合(不参与广播)
    pl.col('num_obs').sum().alias('total_num_obs'),
)

print(result)

输出:

shape: (2, 4)
┌───────┬──────────┬──────────┬─────────────────┐
│ group ┆ x        ┆ y        ┆ total_num_obs   │
│ ---   ┆ ---      ┆ ---      ┆ ---             │
│ i64   ┆ f64      ┆ f64      ┆ i64             │
╞═══════╪══════════╪══════════╪═════════════════╡
│ 1     ┆ 1.333333 ┆ 5.333333 ┆ 15              │
│ 2     ┆ 3.333333 ┆ 7.333333 ┆ 30              │
└───────┴──────────┴──────────┴─────────────────┘

? 关键原理说明:

  • pl.col('x', 'y') 返回一个列选择器表达式,当与标量运算(如 * pl.col('num_obs'))结合时,Polars 自动将该运算广播至 'x' 和 'y' 两列,分别生成 (x * num_obs) 和 (y * num_obs);
  • .sum() 随后对每个广播结果独立求和,再除以 pl.col('num_obs').sum()(标量分母),最终返回同名新列 'x' 和 'y';
  • 其他聚合(如 pl.col('num_obs').sum())可自由并列添加,互不影响,且支持 .alias() 显式重命名。

⚠️ 注意事项:

  • 列名必须全部存在,否则抛出 ColumnNotFoundError;建议使用 pl.col(['x','y'])(列表形式)提高可读性与类型安全;
  • 若需对不同列应用不同权重或逻辑,则应回归 pl.all() + pl.when() 或自定义函数(配合 map_elements),但会损失性能;
  • 此方法仅适用于表达式可向量化的场景——加权平均、标准化、比例计算等均属典型适用案例。

总结:用 pl.col(['col1', 'col2']) 替代循环构造表达式,是 Polars 中实现多列统一批处理的惯用范式,兼具简洁性、性能与可维护性,应作为首选方案。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1104

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

2070

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1185

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

8774

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

1478

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

1530

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

880

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

530

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1111

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.4万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 131.8万人学习