labelmodel 输出nan或全零概率的根本原因是标注函数间冲突过强或覆盖率不足，导致无法估计准确率和相关性；需确保≥30%样本被≥2个lf覆盖、禁用高冲突lf、显式设置cardinality并检查lf返回值合法性。
Snorkel 的 LabelModel 为什么总输出 NaN 或全零概率？
根本原因是标注函数（LF）之间冲突太强，或者覆盖率太低——LabelModel 需要至少部分样本被多个 LF 同时覆盖，才能估计 LF 的准确率和相关性。如果所有 LF 都只在不同样本上触发，模型无法校准，就会退化为均匀随机预测，甚至返回 NaN。
实操建议：
- 用
snorkel.labeling.apply_lfs_to_data后检查lf_applier.lf_names和生成的L_train矩阵稀疏度：运行np.count_nonzero(L_train, axis=1)，确认有足够多的样本被 ≥2 个 LF 覆盖（理想是 >30%） - 禁用明显低质量或高冲突的 LF：比如两个 LF 总是输出相反标签却无先验依据，用
filter_lfs_by_conflict辅助识别 - 初始化
LabelModel时显式设cardinality=2（二分类）或对应类别数，不依赖默认值；若数据极度稀疏，可尝试verbose=True观察 EM 收敛过程中的accuracy和coverage日志
如何让 Snorkel 的 MajorityLabelVoter 不只是简单投票？
MajorityLabelVoter 本质是确定性规则聚合器，它不建模 LF 可靠性，也不处理 abstain（-1）——这恰恰是弱监督里最常见的情况。直接用它等于放弃 Snorkel 的核心优势。
正确路径是：始终以 LabelModel 产出的 probs 作为下游模型输入，而非硬标签。
- 调用
label_model.predict_proba(L_train)得到 shape=(n_samples, n_classes) 的概率矩阵，每一行和为 1 - 下游训练时，把该概率矩阵当“软标签”喂给 PyTorch/TensorFlow 模型，损失函数改用
KLDivLoss或soft_cross_entropy（需手动实现 log-prob + target-prob 点积） - 避免用
np.argmax(..., axis=1)硬截断——那会丢失不确定性信息，尤其对边界样本伤害极大
自定义标注函数（LF）写错 return 值导致 LabelModel 训练崩溃
Snorkel 要求 LF 必须返回整数：-1（abstain）、0、1、2…（对应类别索引）。返回字符串如 "SPAM"、布尔值 True、或超出范围的整数（如二分类返回 3），都会在 LabelModel.fit() 时抛出 ValueError: Found invalid label - expected int in [-1, cardinality)。
安全写法：
- LF 内部用明确映射：例如
if "viagra" in x.text.lower(): return 1 else: return -1，绝不返回字符串 - 调试阶段加守卫：在 LF 开头插入
assert isinstance(your_return_value, int) and your_return_value in [-1] + list(range(cardinality)) - 批量检查 LF 输出：对少量样本运行所有 LF，用
collections.Counter([lf(x) for x in sample_data])快速发现非法值
为什么用 Snorkel 生成的标签训练 BERT，F1 反而比随机初始化还差？
大概率是概率校准失败 + 标签噪声未被下游模型吸收。Snorkel 的 probs 是 LF 群体行为的统计推断，不是真实分布；BERT 若直接用交叉熵拟合这些带偏置的概率，会放大错误模式。
关键缓解动作：
- 对
label_model.predict_proba()结果做温度缩放（temperature scaling）：除以一个 >1 的常数（如 1.5），再 softmax 归一化，压平极端置信度，给下游留出纠错空间 - 在 BERT 输入中拼接 LF 触发信号（one-hot of which LFs fired），让模型感知“这个预测是基于哪些弱规则做的”，提升鲁棒性
- 首几轮训练冻结 BERT 底层参数，只训分类头——等模型初步学会从软标签中提取信号后，再解冻微调
弱监督不是“自动打标替代人工”，而是用 LF 显式编码领域知识，再靠概率模型把知识间的张力翻译成可学习的信号。漏掉任意一环，比如忽略 LF 冲突分析、跳过概率软化、或强行硬截断，都会让整个链路失效。
Python免费学习笔记（深入）：立即使用
在学习笔记中，你将探索 Python 的核心概念和高级技巧！
