Polars 中按组用另一 DataFrame 的最大值截断数值

老萱姑娘_3123

老萱姑娘_3123

2026-04-26

351人浏览

原创

Polars 中按组用另一 DataFrame 的最大值截断数值

本文介绍如何在 Polars 中基于分组,使用一个 DataFrame(df1)中各组的 index 最大值,对另一个 DataFrame(df2)的对应列进行上界截断(clip),确保 df2 中每组的值不超过 df1 同组的最大值。

本文介绍如何在 polars 中基于分组,使用一个 dataframe(df1)中各组的 `index` 最大值,对另一个 dataframe(df2)的对应列进行上界截断(clip),确保 df2 中每组的值不超过 df1 同组的最大值。

在数据处理中,常需将某列数值“对齐”或“受限于”另一组参考数据的统计边界。典型场景包括:时间索引对齐、ID 范围校验、特征缩放约束等。Polars 提供了高效且声明式的表达方式——clip() 配合 over() 或 join(),可优雅实现跨 DataFrame 的分组截断。

✅ 基础方案:两 DataFrame 组别完全一致(推荐)

当 df1 和 df2 的 group 列包含完全相同的分组(无缺失、无额外组)时,最简洁的方式是直接利用 over() 窗口函数计算 df1 中每组最大值,并作为 clip 的上界:

import polars as pl

df1 = pl.DataFrame({
    "group": ["A", "A", "A", "B", "B", "B"],
    "index": [1, 3, 5, 1, 3, 8],
})

df2 = pl.DataFrame({
    "group": ["A", "A", "A", "B", "B", "B"],
    "index": [3, 4, 7, 2, 7, 10],
})

out = df2.with_columns(
    pl.col("index").clip(
        upper_bound=df1.select(pl.col("index").max().over("group"))["index"]
    )
)
print(out)

输出结果与预期一致:

shape: (6, 2)
┌───────┬───────┐
│ group ┆ index │
│ ---   ┆ ---   │
│ str   ┆ i64   │
╞═══════╪═══════╡
│ A     ┆ 3     │
│ A     ┆ 4     │
│ A     ┆ 5     │
│ B     ┆ 2     │
│ B     ┆ 7     │
│ B     ┆ 8     │
└───────┴───────┘

? 原理说明:df1.select(pl.col("index").max().over("group")) 返回一个单列 DataFrame,其行顺序与 df1 保持一致(即按原顺序重复填充每组最大值);由于 df1 和 df2 组别与长度一致,该 Series 可直接广播为 clip 的 upper_bound 参数——Polars 会自动按行对齐(隐式位置匹配)。

⚠️ 健壮方案:组别不完全对齐(生产环境首选)

若 df2 包含 df1 中不存在的组,或 df1 某组缺失而 df2 存在,则上述 over() 方式会因长度/顺序不匹配导致错误或静默行为异常。此时应显式聚合 + 关联:

# 示例:df1 缺少 B 组的完整信息,df2 多出一个 B 组记录
df1 = pl.DataFrame({
    "group": ["A", "A", "A", "B", "B"],  # 注意:B 组只有 2 行
    "index": [1, 3, 5, 1, 3],
})

df2 = pl.DataFrame({
    "group": ["A", "A", "A", "B", "B", "B"],
    "index": [3, 4, 7, 2, 7, 9],
})

# 步骤:1. 计算 df1 每组最大值;2. 与 df2 左连接;3. 截断
group_max = df1.group_by("group").agg(pl.col("index").max().alias("max_index"))
out = (
    df2
    .join(group_max, on="group", how="left")
    .with_columns(pl.col("index").clip(upper_bound="max_index"))
    .drop("max_index")  # 清理临时列
)
print(out)

输出:

shape: (6, 2)
┌───────┬───────┐
│ group ┆ index │
│ ---   ┆ ---   │
│ str   ┆ i64   │
╞═══════╪═══════╡
│ A     ┆ 3     │
│ A     ┆ 4     │
│ A     ┆ 5     │
│ B     ┆ 2     │
│ B     ┆ 3     │
│ B     ┆ 3     │
└───────┴───────┘

✅ 该方案具备强健性:

  • 自动处理组别缺失(未出现在 df1 中的 group 值,其 max_index 为 null,clip 会保留原值或报错,可通过 .fill_null() 显式控制);
  • 支持任意长度和顺序的 df2;
  • 语义清晰,易于调试与复用。

? 小结与最佳实践

  • 优先使用 over():当确认两表分组结构严格一致时,over() 最简短高效;
  • 默认采用 join + group_by.agg:在真实项目中,数据来源往往不可控,显式关联更安全、可维护;
  • 注意 null 处理:若 df1 中某组无数据,max() 返回 null,clip(null) 会返回 null —— 建议添加 .fill_null(float('inf')) 或业务默认值;
  • 性能提示:group_by().agg() + join 在大数据集下仍保持 O(n+m) 复杂度,远优于 Python 循环或 Pandas apply。

通过合理组合 Polars 的惰性求值、窗口函数与关系操作,你可以在单行表达式中完成复杂的跨表约束逻辑,兼顾性能与可读性。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1851

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

5064

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1809

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

30437

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3627

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3627

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1243

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

616

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2823

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习