openai于11月16日公布新的csam图像分类器,向审核通过的机构免费提供api访问,帮助安全团队识别疑似csam(child sexual abuse material)图像,包括部分此前未见过或由ai生成的内容。工具返回的是审核风险信号,最终判断仍需经过适当授权和训练的人工审核。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
官方模型卡列出免费申请和审核条件
两个评分用于安排审核优先级
模型卡列出likely-csam与likely-csam/gen-ai两项评分,两者并不互斥。后者表示疑似AI生成的相关内容风险,并不能验证图片的真实生成来源;分类分数本身也不构成内容性质或法律状态的认定。
OpenAI表示,新工具可补充已知内容哈希匹配。它采用内部CLIP图像编码器与三层MLP,寻找图像中的风险视觉特征;内部编码器在模型深度、宽度和预训练数据上与公开CLIP实现不同。

官方披露的内部CLIP编码器和三层MLP
效率数据来自限定评估
在官方对用户上传图像的评估中,新分类器预计可少标记48%的图像,同时找到大致相同数量的CSAM图像;被标记图像实际包含CSAM内容的可能性约为此前两倍。这衡量的是该组评估下的审核工作量与命中情况。
模型卡将工具定位为儿童安全体系的一部分,需要结合哈希匹配、上下文检测、人工审核及既有报告流程。机构需完成申请和接入审核,公告不意味着任意个人账户都已获得调用资格。











