朴素贝叶斯的条件独立假设是其固有设计，导致关联特征重复贡献、概率估计失真；不同变体仅改变p(x_i|y)形式，但连乘结构和独立性陷阱始终存在，拉普拉斯平滑无法修复，需靠特征工程解决。
因为朴素贝叶斯强制假设所有特征在给定类别下相互独立，而现实中的关联特征（比如“优惠”和“折扣”）会重复贡献相似语义信息，导致概率估计失真——这不是模型写错了，是它“按设计就该这样算”。
为什么MultinomialNB对同现词特别敏感
多项式朴素贝叶斯把每个词频当作独立事件处理。当“人工智能”和“深度学习”在科技邮件中高频共现时，MultinomialNB会分别计算 P(人工智能|科技) 和 P(深度学习|科技)，再相乘。这相当于把同一语义线索放大了两次，后验概率被高估。
- 实际影响：分类边界偏移，容易把含多个强关联词的样本过度自信地划入某类
- 典型现象：训练集准确率虚高，但验证集F1下降明显，尤其在类别边界样本上
- 验证方法：用
chi2或mutual_info_classif检查特征间互信息，若Top 100词中有大量同义/共现对，就是信号
GaussianNB和BernoulliNB也逃不开独立性陷阱
高斯朴素贝叶斯假设连续特征服从正态分布且彼此独立；伯努利朴素贝叶斯把词存在/不存在当作二值变量，同样依赖条件独立。它们只是换了概率建模方式，没动核心假设。
-
GaussianNB在处理标准化后的TF-IDF向量时，会错误地认为“模型”和“算法”的Z-score变化互不影响 -
BernoulliNB对稀疏文本更鲁棒，但一旦“免费”和“领取”总是一起出现，它的二值判断就会系统性高估该组合的判别力 - 关键区别：不同变体只影响
P(X_i|Y)的计算形式，∏P(X_i|Y)这个连乘结构始终存在
拉普拉斯平滑救不了独立性问题
加1平滑（alpha=1.0）能防止零概率，但它不改变特征间的乘法耦合逻辑。你只是把0换成了小正数，依然在强行相乘。
- 常见误操作：调大
alpha以为能缓解关联偏差——实际只是让所有概率更平滑，偏差仍在 - 真正起作用的是特征工程：比如合并“优惠”+“折扣”为新特征
promo_intensity，或用N-gram替代单字词 - 注意：
sklearn的MultinomialNB默认alpha=1.0，但改alpha无法修复底层独立性假设
独立性假设不是bug，是trade-off：它用数学简化换来了训练速度和小样本稳定性。当你发现效果卡在某个平台期，优先检查的不该是超参，而是特征是否在悄悄“自说自话”。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
