l2正则化是logisticregression默认值，因其数值稳定、兼容所有求解器、收敛可靠；l1仅限特定求解器且易发散，c参数比penalty类型更关键，l1仅在需特征筛选且高维稀疏场景下不可替代。
L2正则化在逻辑回归中默认启用，是因为它数值稳定、兼容性强、收敛可靠——不是因为它“更好”，而是因为它“更少出错”。
为什么 LogisticRegression 的 penalty='l2' 是默认值
sklearn 的设计哲学是“安全优先”：默认配置必须能在绝大多数数据上跑通，不报错、不发散、不卡死。penalty='l2' 满足这个底线要求，而 'l1' 在很多常见场景下会直接失败：
-
penalty='l1'仅支持solver='liblinear'（旧版）或'saga'（新版），但'liblinear'不支持多分类（multi_class='ovr'以外）、不支持稀疏矩阵加速；'saga'虽然支持，但收敛慢、对tol和max_iter更敏感 - L2 对应的损失函数处处可导，所有主流优化器（
'lbfgs'、'newton-cg'、'sag'、'saga'）都能用；L1 的次梯度引入非光滑点，导致'lbfgs'等直接抛ValueError: Solver lbfgs supports only l2 penalties - 当特征数远大于样本数（
n_features >> n_samples）时，L1 可能返回全零系数或警告ConvergenceWarning: The max_iter was reached...，而 L2 通常仍能给出合理解
C 参数的实际影响比 penalty 类型更关键
很多人纠结选 L1 还是 L2，却忽略 C 才是控制正则强度的开关。它的倒数才是真正的 λ（正则系数）：
-
C=1.0→ λ = 1.0；C=0.01→ λ = 100，正则更强 - 调参时优先扫
C（如[0.01, 0.1, 1, 10, 100]），再考虑是否换penalty - 如果发现 L2 下
C已调到极小（如 0.001）仍过拟合，才值得试 L1 —— 但此时更要检查是否该做特征工程或换模型
L1 真正有用的场景非常具体
别为了“稀疏性”而强行用 L1。它只在以下条件同时满足时才有不可替代价值：
- 你明确需要自动做特征筛选（比如医学诊断中要求模型可解释、每条规则必须对应一个临床指标）
- 特征维度高（>10k）、且大量特征确实无关或冗余（如文本 TF-IDF、基因表达数据）
- 你愿意接受更长的训练时间、更难调的
tol和max_iter，并手动验证系数是否真的归零（np.isclose(coef_, 0).sum()） - 你用的是
solver='saga'（推荐）或确认数据规模适合'liblinear'（小数据、二分类）
真正容易被忽略的一点：L2 的“平滑衰减”特性让它对异常特征值更鲁棒——比如某个特征偶然出现极大离群值，L2 会温和压缩整个权重向量，而 L1 可能突然切断某条路径导致预测跳变。这种稳定性，在生产环境里比稀疏性重要得多。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
