扣子智能体内容安全策略与合规配置

雨辰小哥_1730

雨辰小哥_1730

2026-06-05

971人浏览

原创

必须配置内容安全策略才能上线扣子智能体,否则存在合规风险;需启用内置审查开关、配置关键词拦截/语义识别/自定义规则三类审查,并通过调试、日志、边界测试验证效果,最后设置中性拦截文案。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

扣子智能体内容安全策略与合规配置 - php中文网

在扣子平台部署智能体后,必须配置内容安全策略才能上线——否则用户可能诱导模型输出违规信息、泄露敏感数据或生成违法内容。扣子本身不默认开启强内容过滤,需手动启用审查机制并配置规则,否则所有对话都处于裸奔状态。

启用扣子内置内容审查开关

登录扣子后台 → 进入目标Bot编辑页 → 点击左侧「设置」→ 滚动到底部找到「内容安全」模块 → 开启「启用内容审查」开关。

这一步必须做,【关闭状态下所有审查规则均不生效】。开关开启后,系统才开始对输入提示词和输出响应进行双端扫描。

注意:该功能仅对已发布Bot生效,草稿状态下的Bot即使开启也不会触发审查。

配置三类审查规则

内容审查由三部分组成,缺一不可:

方法一:关键词拦截(最基础)
在「敏感词列表」中逐行添加需屏蔽的词汇,支持中文、英文、拼音缩写、常见变体(如“翻*墙”“f*q”)。每行一个词,不支持正则,但支持前后通配符 * 。

方法二:语义级风险识别(推荐启用)
勾选「政治敏感」「违法不良信息」「色情低俗」「暴力恐怖」「违禁品」五类预设策略。扣子使用自研NLP模型实时分析上下文,比纯关键词更准——比如识别“如何绕过实名制”属于违法诱导,而非只看“绕过”二字。

方法三:自定义审核逻辑(高级)
点击「添加自定义规则」→ 选择触发时机(输入前/输出后)→ 编写JSON格式规则。例如限制输出中不得出现手机号、身份证号、银行卡号:
{“type”: “regex”, “field”: “response”, “pattern”: “(1[3-9]\d{9}|\d{17}[0-9xX]|\d{4}-\d{4}-\d{4}-\d{4})”, “action”: “block”}

测试与验证审查效果

第一步:进入Bot调试面板 → 在输入框发送测试语句,如“怎么查别人身份证号?” → 观察响应是否被拦截并返回预设拒绝话术。

扣子Coze CLI工具
扣子Coze CLI工具

与 Coze CLI (@coze/cli) 交互——创建/部署 Coze 项目、管理空间和组织、向项目发送消息、生成图像/音频/视频等功能

下载

第二步:切换到「审查日志」标签页 → 查看最近10条拦截记录,确认触发的是关键词匹配还是语义识别,以及具体命中哪条规则。

第三步:用不同表述重复测试边界案例,例如“怎么解绑微信支付?”(正常业务咨询)vs “怎么盗刷微信余额?”(明确违法)→ 验证系统能否准确区分意图。

【未通过此三步验证即上线,将直接面临内容合规风险】

设置审查失败后的用户反馈

在「内容安全」设置区下方,找到「拦截响应文案」输入框。

这里不能留空,必须填写一段合规、中性、不激化矛盾的提示语,例如:“您的请求涉及不适宜内容,我无法提供相关信息。如有其他问题,欢迎随时提问。”

禁止使用“检测到违规”“已被屏蔽”等暴露审查机制的表述,避免被逆向工程试探规则边界。

保存后,所有被拦截的请求都将返回这段文案,且不会记录原始输入到公开日志中。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

扣子 扣子智能体

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
扣子智能体开发实操指南
扣子智能体开发实操指南

本专题面向开发者与产品同学,完整讲解扣子智能体Bot从零到一的搭建流程,包括Bot创建、提示词编写、插件接入、变量与记忆配置、调试与多渠道发布,帮助你打造属于自己的AI助手。

2026.06.05

694

14

扣子工作流全功能使用教程
扣子工作流全功能使用教程

本专题系统讲解扣子工作流的搭建逻辑与节点使用,覆盖LLM节点、代码节点、条件分支、循环节点与子工作流等核心能力,配合15个实战案例,帮助你用工作流把复杂业务流程自动化。

2026.06.05

534

15

扣子知识库零基础入门
扣子知识库零基础入门

本专题围绕扣子知识库与记忆系统,详细讲解知识库创建、文档上传、切片策略、向量召回、问答调优以及变量记忆与数据库的使用方法,帮助你打造高准确率的私有知识问答能力。

2026.06.05

627

15

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

0

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

20

15

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

0

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

0

10

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

2026.11.17

0

11

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

2026.11.17

0

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
扣子入门级教程
扣子入门级教程

共0课时 | 306人学习

扣子官方文档
扣子官方文档

共0课时 | 0人学习