如何使用Python中的Scikit-learn实现分层采样以保持比例?

夏磊酱_3743

夏磊酱_3743

2026-06-10

722人浏览

原创

分层采样必须用StratifiedShuffleSplit而非train_test_split,因其显式按类别分布分层,确保训练/测试集各类别比例一致;train_test_split虽支持stratify=y参数,但仅一次性分割且不可复用。

如何使用python中的scikit-learn实现分层采样以保持比例?

分层采样为什么必须用 StratifiedShuffleSplit 而不是 train_test_split

因为 train_test_split 默认不保证各类别在训练集和测试集中比例一致——尤其当标签分布不均衡或样本量小时,容易出现某类在测试集中完全缺失。而 StratifiedShuffleSplit 显式按 y 的类别分布做分层,是唯一可靠方式(train_test_split 虽有 stratify=y 参数,但它是“一次性分割”,无法复用分割逻辑;StratifiedShuffleSplit 支持迭代、可控、可重复)。

常见错误现象:ValueError: The test_size = ... should be less than the number of samples —— 本质是某类别样本数太少,无法按指定 test_size 分出至少 1 个样本。

  • 使用场景:二分类/多分类数据集划分、交叉验证前的固定比例拆分、需要多次生成不同随机划分时
  • 关键参数:n_splits=1(只生成一次划分)、test_size=0.2(20% 测试)、random_state=42(确保可复现)
  • 性能影响:无额外计算开销,只是索引重排,比手动按类别切片快且安全

StratifiedShuffleSplit 实操:获取训练/测试索引并切分数据

不要直接传 X 和 y 给 .split() 就完事——它只返回索引对,你需要手动用这些索引切分特征和标签。

from sklearn.model_selection import StratifiedShuffleSplit
sss = StratifiedShuffleSplit(n_splits=1, test_size=0.2, random_state=42)
train_idx, test_idx = next(sss.split(X, y))  # 注意:必须用 next() 取第一次分割
<p>X_train, X_test = X[train_idx], X[test_idx]
y_train, y_test = y[train_idx], y[test_idx]
</p>
  • 必须用 next():因为 .split() 返回的是生成器,不调用就拿不到索引
  • 确保 y 是一维数组(如 Series 或 numpy.ndarray),不能是 DataFrame 单列(会报 ValueError: Expected 1D array)
  • 如果 X 是 pandas DataFrame,X.iloc[train_idx] 更安全;若为 numpy 数组,X[train_idx] 即可

类别数量少或样本极度不均衡时的应对措施

当某类别只有 1–2 个样本,test_size=0.2 可能导致该类无法在测试集中分配到样本,触发 ValueError。这不是 bug,而是分层约束的必然结果。

Biopython
Biopython

全面的分子生物学工具集。适用于序列操作、文件解析(FASTA/GenBank/PDB)、系统发育分析,以及通过 Bio.Entrez 以编程方式访问 NCBI/

下载
  • 检查最小类别频次:import numpy as np; np.bincount(y),确认每类 ≥ 5 样本(保守起见)
  • 降低 test_size(如设为 0.1)或改用 StratifiedKFold 做 k 折,避免固定比例硬约束
  • 慎用上采样(如 SMOTE)前置处理——它改变原始分布,分层采样意义减弱;如必须用,应在分层后仅对训练集上采样

验证是否真的保持了比例

别信文档,自己算。用 np.unique(y_train, return_counts=True) 和 np.unique(y_test, return_counts=True) 对比各标签计数占比。

from collections import Counter
print("Train:", Counter(y_train))
print("Test: ", Counter(y_test))
# 输出类似:Train: {0: 80, 1: 20}, Test: {0: 20, 1: 5} → 比例都是 4:1,正确
  • 注意浮点误差:若原始比例是 0.73,测试集可能为 0.729 或 0.731,属正常(整数截断导致)
  • 如果发现某类在测试集中为 0,说明该类总数 (例如 test_size=0.2 ⇒ 至少需 5 个样本)

实际项目里最容易被忽略的是:没检查 y 的数据类型和维度,也没验证分割后的分布——直到模型评估阶段发现测试集漏掉一个类别,才回头排查。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1931

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

5464

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1889

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

33337

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3927

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3927

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1283

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

636

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

3043

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程