AdaBoostClassifier默认弱分类器是DecisionTreeClassifier(max_depth=1)，因其满足准确率>50%且支持sample_weight，而RandomForestClassifier、SVC、KNeighborsClassifier等不适用。
AdaBoostClassifier 默认用什么弱分类器
默认是 DecisionTreeClassifier(max_depth=1)，也就是决策树桩——只做一次判断的极简树。这不是随便选的，因为 AdaBoost 要求基学习器必须比随机猜测略好（准确率 > 50%），而深度为 1 的树容易满足这点，又足够轻量，迭代几十上百轮也不会太慢。
常见错误是直接传入 RandomForestClassifier 或 SVC 当基模型，结果报错或效果反降：前者本身已是集成方法，嵌套易过拟合；后者不支持样本权重（sample_weight 参数），而 AdaBoost 每轮都要重加权训练集。
- 想换弱分类器？确保它有
fit()、predict()，且能接收sample_weight参数 -
sklearn中可用的还有LogisticRegression（需设solver='saga'支持样本权重） - 别用
KNeighborsClassifier：它不支持sample_weight，会静默忽略，导致 Boosting 失效
fit() 时提示 “sample_weight not supported” 怎么办
这是基估计器不兼容的明确信号。不是 AdaBoost 写错了，而是你指定的 base_estimator 根本没实现加权训练逻辑。
典型场景：用 LinearSVC 或 KNeighborsClassifier 初始化 AdaBoostClassifier，调 fit() 就崩，错误信息里带 sample_weight 关键字。
- 查文档确认：该 estimator 的
fit()方法签名是否含sample_weight参数 - 快速验证法：手动调一次
estimator.fit(X, y, sample_weight=[1.0]*len(y))，看是否报错 - 替代方案：换回默认的决策树桩，或改用
SGDClassifier(loss='log_loss', learning_rate='constant')（支持加权）
learning_rate 设太大或太小有什么实际影响
learning_rate 控制每轮弱分类器的贡献缩放比例，不是“学习率”那种梯度下降意义，而是“步长”。它和 n_estimators 是耦合参数，不能单独调优。
现象上：设成 2.0 可能前几轮就过拟合，测试误差飙升；设成 0.01 却不加大 n_estimators，模型根本学不动，连训练集都拟合不好。
- 默认值
1.0是合理起点，尤其配合默认树桩 - 若想压低过拟合，优先降低
learning_rate（如0.5），再同比例提高n_estimators（比如从 50 → 100） - 注意：减小
learning_rate会线性拉长训练时间，但通常换来更稳的泛化表现
为什么 predict_proba() 返回的不是标准概率分布
AdaBoostClassifier.predict_proba() 实际返回的是“伪概率”——基于各弱分类器置信度加权平均后做的 sigmoid 映射，不是真正意义上的概率校准结果。所以你会看到某行输出 [0.49, 0.51]，但 sum 不严格等于 1（浮点误差外，本质设计如此）。
使用场景中，如果下游要接阈值敏感任务（如风控拒贷），直接用这个输出可能出问题；若只是排序或取 top-1 预测，影响不大。
- 需要真概率？在 AdaBoost 外套一层
CalibratedClassifierCV - 别指望
AdaBoostClassifier自身输出符合np.allclose(proba.sum(axis=1), 1.0) - 内部用的公式是
prob = 1 / (1 + exp(-2 * weighted_decision_function))，和逻辑回归同源但非等价
真正麻烦的是把 predict_proba() 当成贝叶斯后验乱用——它没概率语义，只是排序友好型分数。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
