Pandas 中对多列分组后应用多个自定义函数的完整实践指南

冬伟大大_3077

冬伟大大_3077

2026-11-10

302人浏览

原创

Pandas 中对多列分组后应用多个自定义函数的完整实践指南

本文详解如何在 pandas 中基于 id、hrz 和 tenor 多列分组,并对数值列(如 1–4)并行应用多个自定义统计检验函数(如 KS 检验、CVM 检验),最终生成结构清晰、可直接分析的结果表。

本文详解如何在 pandas 中基于 `id`、`hrz` 和 `tenor` 多列分组,并对数值列(如 1–4)并行应用多个自定义统计检验函数(如 ks 检验、cvm 检验),最终生成结构清晰、可直接分析的结果表。

在金融时间序列分析或模型校准场景中,常需对同一标的(如 id)、同一期限结构(如 tenor)和同一参数设置(如 hrz)下的多组观测值,批量执行分布一致性检验(如 Kolmogorov-Smirnov 或 Cramér–von Mises)。pandas 提供了灵活高效的 groupby().agg() 接口,配合函数字典或函数列表,可优雅实现「多组 + 多列 + 多函数」的聚合计算。

以下为完整实现流程(假设已导入必要库):

import pandas as pd
import numpy as np
from scipy import stats

# 示例自定义函数(注意:ks_test 返回统计量,非 p-value)
def ks_test(x):
    # 对输入序列排序后检验是否服从均匀分布
    return stats.kstest(np.sort(x), 'uniform')[0]

def cvm_test(x):
    n = len(x)
    if n == 0:
        return np.nan
    i = np.arange(1, n + 1)
    x_sorted = np.sort(x)
    w2 = (1 / (12 * n)) + np.sum((x_sorted - ((2 * i - 1) / (2 * n))) ** 2)
    return w2

关键步骤一:明确分组键与目标列
排除非数值列(如 date)和分组列(id, hrz, tenor),动态提取待聚合的数值列:

group_cols = ['id', 'hrz', 'tenor']
value_cols = df.columns.difference(group_cols + ['date']).tolist()  # → ['1', '2', '3', '4']

关键步骤二:两种推荐实现方式

✅ 方式一:使用 pd.concat 构建命名结果(推荐用于函数逻辑差异大/需显式控制顺序)

g = df.groupby(group_cols)[value_cols]

out = pd.concat({
    'ks_test': g.agg(ks_test),
    'cvm_test': g.agg(cvm_test)
}, names=['test']).reset_index()

该方式将每个函数结果作为独立 DataFrame 拼接,自动添加 test 层级索引,.reset_index() 后 test 成为普通列,输出结构严格对应需求(含 id, hrz, tenor, test, 1, 2, 3, 4)。

✅ 方式二:使用 agg([f1, f2]) + stack()(简洁、语义清晰)

out = (
    df.groupby(group_cols)[value_cols]
    .agg([ks_test, cvm_test])
    .rename_axis([None, 'test'], axis=1)  # 将列多级索引第二层命名为 'test'
    .stack(level='test')                   # 将 'test' 层展开为行索引
    .reset_index()                         # 转为扁平化 DataFrame
)

此写法更紧凑,且函数名自动成为 test 列值;stack() 确保结果按分组自然排列,无需手动排序。

注意事项与最佳实践:

  • 自定义函数必须支持 pandas Series 输入,并返回标量(如 float)或长度为 1 的 array;若返回 NaN 或异常,建议内部加 try-except 或空值判断(如 cvm_test 中的 if n == 0);
  • 若数值列含非数值类型,应在 groupby 前用 select_dtypes(include=[np.number]) 过滤;
  • agg() 对每列独立调用函数,因此 ks_test 会分别作用于 '1', '2', '3', '4' 四列,无需循环;
  • 如需同时获取统计量与 p-value,可改写函数返回 pd.Series({'statistic': ..., 'pvalue': ...}),再配合 agg() 的字典映射实现多指标输出。

通过上述任一方式,即可高效生成符合业务需求的宽表格式结果,便于后续可视化(如热力图对比各列检验强度)或自动化报告生成。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

2025.12.04

360

15

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

2026.01.31

272

21

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

2026.04.13

871

25

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

2026.11.06

60

12

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

2026.11.06

20

13

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

2026.11.06

20

10

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

2026.11.05

40

12

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

2026.11.05

40

12

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

2026.11.04

40

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习