必须明确审核主体、触发时机、维度标准、处置路径:首句写清“谁在何时触发审核”,如“用户上传图片后系统自动初审”;用具体动作锚定节点,注明“用户端触发”或“后台定时扫描”;审核标准可引用成熟模块、自定义规则(用“→”串联)或分层结构;处置指令须主谓宾完整,如“通过后生成带水印缩略图并写入MongoDB”。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

要在码上飞AI平台中准确表达内容审核类需求,必须让多智能体系统理解“谁在什么环节、依据什么规则、对哪类内容做何种判定与处置”,模糊描述会导致生成的应用缺少审核节点或逻辑断裂。
明确审核主体与触发时机
在需求输入框中第一句就写明审核发起方,例如:“用户上传图片后,由系统自动启动初审”——不能只说“要审核图片”,否则Agent可能默认为人工后台审核,跳过实时拦截逻辑。
接着说明触发条件,用具体动作锚定节点:“当用户点击【提交作品】按钮时”比“在提交阶段”更可靠;若涉及多端同步,需补一句:“该审核动作需同时作用于小程序端和H5页面表单提交路径”。
【必须写明是“用户端触发”还是“后台定时扫描”】,二者技术实现完全不同:前者调用实时鉴黄API并阻断提交,后者依赖定时任务拉取未审核数据,延迟可达分钟级。
定义审核维度与判定标准
方法一:直接引用成熟能力名称
输入“启用AI鉴黄师模块,覆盖图片+短视频双模态,敏感度设为‘直播级’(误杀率≤0.3%)”,平台将自动匹配图普科技训练的多模态模型及对应阈值参数。
方法二:自定义规则组合
写成:“文字审核需同时满足三项:含违禁词库命中→色情/暴力/政治类关键词任一出现→且上下文情感倾向为负面(使用BERT微调模型判断)”,注意此处必须用“→”串联逻辑顺序,否则Agent会并行执行导致漏判。
方法三:分层审核结构
第一步:图片基础筛查(尺寸≥1MB且分辨率<320×240的自动打回)
第二步:AI鉴黄师初筛(返回置信度>0.92的标记结果)
第三步:人工复核池分配(仅初筛置信度在0.75~0.92之间的进入待审队列)
指定处置动作与反馈路径
审核通过后做什么,必须写清楚。例如:“通过后自动生成带水印的缩略图,并写入MongoDB的approved_media集合”,避免只说“保存图片”——Agent可能存原始图且无权限隔离。
审核不通过时,要区分前端提示与后台日志:“前端显示‘内容不符合社区规范,请修改后重试’(不暴露具体违规类型),后台记录完整原始内容、AI判定标签、时间戳、操作员ID(若有人工介入)到audit_log表”。
这一步操作起来很简单,直接把处置指令写成主谓宾完整句即可,不需要加“请”“建议”等弱效动词。










