如何在Python中评估Scikit-learn模型在不同子集上的公平性?

大丽大大_4376

大丽大大_4376

2026-08-12

188人浏览

原创

用fairlearn的metricframe分组计算性能差异最稳妥,需显式传sensitive_features、统一敏感列类型、避免classification_report漏组,并用make_group_metric包装scorer适配sklearn流程。

如何在python中评估scikit-learn模型在不同子集上的公平性?

用 fairlearn 分组计算性能差异

直接调用 fairlearn.metrics.MetricFrame 是最稳的路子。它能自动按敏感属性(比如 race、gender 或工业场景里的 batch_id)切分数据,再对每组单独算指标,不手动拆数组、不漏 groupby 边界条件。

常见错误是把敏感列当普通特征传进模型评估函数——MetricFrame 要求显式传入 sensitive_features 参数,否则会报 ValueError: sensitive_features must be 1D 或静默忽略分组逻辑。

  • metrics 字典里键名必须是函数名(如 "accuracy"),值必须是可调用对象(accuracy_score,不是字符串 "accuracy_score")
  • 敏感列类型要一致:训练时用 int 编码的 batch_id,测试时也得是 int,混用 str 会导致某组 support=0,后续除零或 nan
  • 输出是 MetricFrame 对象,查各组精度差直接用 .difference(method="between_groups"),别自己取 max-min —— 它默认处理了缺失组和 NaN

避免 classification_report 漏掉稀有子组

原生 classification_report 只统计 y_true 和 y_pred 共同出现的类,如果某班组在测试集里只出现 2 次、预测全错,报告里可能压根不显示该组 recall,你以为模型“没偏见”,其实是被隐藏了。

正确做法是先用 np.unique 扫一遍所有敏感值,强制喂给 MetricFrame 的 sensitive_features;或者用 fairlearn.metrics.group_summary 配合 include_overall=False,确保每个子组都强制出结果。

Li Python Sec Check
Li Python Sec Check

Python 安全规范检查工具:基于 CloudBase 规范、腾讯安全指南,LLM 智能分析(默认禁用,优先本地执行)

下载
  • 工业场景中,原料批次 batch_087 可能在训练集为 0 样本,测试集突然出现 5 条——这时 sensitive_features 必须包含该值,否则 MetricFrame 会跳过它
  • 若用 output_dict=True 接 classification_report,记得检查返回字典里是否有该组 key;没有就说明该组未参与统计,得回溯数据分布

在 pipeline 中嵌入公平性 scorer 会报错?

GridSearchCV 或 cross_val_score 不能直接用 MetricFrame 当 scorer,因为它的签名是 (y_true, y_pred, sensitive_features),而 sklearn 的 scorer 只认两个参数。强行塞会触发 TypeError: got an unexpected keyword argument 'sensitive_features'。

真正能用的,是 fairlearn.metrics.make_group_metric 包装后的函数,例如:

from fairlearn.metrics import make_group_metric, demographic_parity_difference
dp_diff_scorer = make_group_metric(
    demographic_parity_difference,
    metric_kwargs={"sensitive_features": groups_test}
)
  • make_group_metric 返回的是标准 sklearn scorer,可直接传给 scoring=dp_diff_scorer
  • metric_kwargs 必须在定义 scorer 时固化,不能留到 fit 阶段动态传——否则 cv 折叠间 groups_test 长度不一致会崩
  • 注意:这类 scorer 返回的是差异值(越小越好),所以 greater_is_better=False 得显式设,否则 GridSearchCV 会反向优化

为什么 demographic_parity_difference 和 equalized_odds_difference 结果差很多

前者看“预测为正例的比例”在各组是否接近(P(ŷ=1|A=a) ≈ P(ŷ=1|A=b)),后者看“真实为正例时预测为正例的比例”是否一致(P(ŷ=1|y=1,A=a) ≈ P(ŷ=1|y=1,A=b))。工业产率预测里,若模型对稀有原料批次整体压低预测概率,demographic_parity_difference 就会飙升;但若它对这批原料的达标样本仍保持高召回,则 equalized_odds_difference 可能正常——两者不互斥,得一起看。

  • 二分类任务中,equalized_odds_difference 要求你明确传 y_true 和 y_pred,且 y_true 必须含正例(否则分母为 0 返回 nan)
  • 多类问题别硬套这两个函数——它们只支持二分类,用错会静默返回 0 或报 ValueError: y_true contains more than two classes
  • 实际部署前,至少比对三组指标:accuracy、recall 差异、demographic_parity_difference;只盯一个,容易误判“公平”

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1671

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4144

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1669

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

23977

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2927

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2967

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1143

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2303

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程