selectkbest配合互信息筛选特征时，须严格匹配目标变量类型（分类用mutual_info_classif、回归用mutual_info_regression），确保特征数值化、y为无缺失的一维数组，并通过交叉验证确定k值，避免过拟合或漏选。
直接用 SelectKBest 配合互信息函数（mutual_info_classif 或 mutual_info_regression）就能筛，但必须注意目标变量类型、数据预处理和 k 值设定——这三个地方踩错一个，结果就完全不可信。
选对 score_func：分类还是回归，不能混用
互信息在 sklearn 里分两个函数，不是随便 import 一个就行：
- 目标变量是离散标签（如 "违约/未违约"）→ 必须用
mutual_info_classif - 目标变量是连续值（如 "房价"、"用户停留时长"）→ 必须用
mutual_info_regression
混用会报 ValueError: Unknown label type: 'continuous' 或静默失效（比如返回全零得分）。另外，这两个函数都要求输入特征是数值型；如果有类别型列，得先用 OneHotEncoder 或 OrdinalEncoder 转换，否则直接报错或结果失真。
fit_transform 前必须确认 y 的 shape 和 dtype
SelectKBest 对 y 很敏感，常见翻车点：
-
y是 pandas Series 但含空值 →mutual_info_*会抛ValueError: Input contains NaN -
y是二维数组（如y.values.reshape(-1, 1)）→ 报ValueError: Expected 1D array -
y是字符串标签但没做编码 → 有些旧版 sklearn 会尝试自动转换，新版直接拒绝
稳妥做法：y = np.asarray(y).ravel() + pd.isna(y).sum() == 0 先校验。
k 值不能拍脑袋定，得看 pvalues_ 或交叉验证曲线
SelectKBest(k=10) 看起来干净利落，但实际中常导致过拟合或漏掉关键特征。原因在于互信息本身不提供天然阈值，k 是硬截断：
- 如果数据里有大量弱相关特征，
k=10可能刚好卡在噪声区 - 如果所有特征互信息都很接近，
k=5和k=15的模型性能可能几乎一样 -
selector.pvalues_在互信息中默认为None（因为互信息无解析 p 值），所以不能像f_classif那样按 p
替代方案：用 range(3, 21, 2) 扫描 k，对每个取值做 5 折 CV 算验证集 F1/R²，选拐点；或者改用 VarianceThreshold 先剔低方差特征，再上互信息，减少干扰。
容易被忽略的预处理细节
互信息对数值尺度不敏感，但对缺失值和异常值极其敏感——它底层用 KNN 估计概率密度，异常点会严重扭曲近邻分布：
- 数值特征建议先做
StandardScaler或RobustScaler（尤其含离群值时） - 绝对不要在
SelectKBest前用SimpleImputer(strategy='mean')填充，均值填充会人为制造虚假相关；优先用中位数或众数，或留NaN并改用支持缺失的树模型做对比 - 如果原始特征含高基数类别列（如用户 ID），互信息得分会虚高（因该列几乎能唯一确定 y），必须先做频率编码或目标编码降维，再进
SelectKBest
真正麻烦的从来不是调哪个函数，而是你传进去的 X 和 y 到底“干净”到什么程度——互信息不会提醒你数据有问题，它只会安静地给出一个看似合理、实则误导的排序。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
