OpenAI正在评估内容审核功能以提高效率并减少人工干预

人工智能初创公司 OpenAI 表示，他们正在测试 GPT-4 的内容审核功能，允许任何拥有 OpenAI API 访问权限的人使用该功能来构建自己的人工智能辅助审核系统

本站从 OpenAI 官网了解到，GPT-4 可用于制定适当的内容政策，并可以更快地为帖子添加标签或作出评判。该公司一直在测试该技术，并邀请客户也进行试验。借助该系统，开发和制定内容策略的过程从几个月缩短到几个小时。

OpenAI 表示，这一功能为数字平台的未来提供了更积极的前景，通过根据平台特定的政策帮助调节在线流量，可以减轻大量人类审核员的心理压力

▲ AI 审核（LLM）和初级审核员（pool B）的效率相当

OpenAI 审核相较于传统审核具备以下优势：

• 标签更加一致。内容政策不断发展并且通常非常详细。人们可能会对政策有不同的解释，或者一些版主可能需要更长的时间来消化新的政策变化，从而导致标签不一致。相比之下，法学硕士对措辞的细微差异很敏感，可以立即适应政策更新，为用户提供一致的内容体验。 
• 更快地反馈循环。政策更新的周期 —— 制定新政策、贴标签和收集人类反馈 —— 往往是一个漫长而漫长的过程。GPT-4 可以将这一过程缩短至几个小时，从而能够更快地响应新的危害。
• 减轻精神负担。持续接触有害或令人反感的内容可能会导致审核人员情绪疲惫和心理压力。自动化此类工作有利于相关人员的福祉。

以上是OpenAI正在评估内容审核功能以提高效率并减少人工干预的详细内容。更多信息请关注PHP中文网其他相关文章！