AI代理工具调用安全防护栏。适用场景:(1)需要在执行前验证代理工具调用;(2)构建运行shell命令、文件操作或API调用的代理;(3)为任何MCP服务器或代理框架添加安全层;(4)审计代理行为。可拦截破坏性命令、SSRF、SQL注入、路径遍历、数据泄露、提示注入和凭证泄露。零依赖,延迟低于2毫秒。
安全防护员是一项面向实际任务的技能,主要用于检测AI探员的操作,而不是他们所说的;任何工具调用员的安全防护层;
该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;
若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。
校验 AI 代理实际执行(DO)的操作,而非其声称(SAY)将执行的内容。可即插即用的安全层,适用于任意支持工具调用的代理。
本能力依赖 vigil-agent-safety npm 包(12.3KB,Apache 2.0 许可证):
npm install vigil-agent-safety
import { checkAction } from 'vigil-agent-safety';
const result = checkAction({
agent: 'my-agent',
tool: 'exec',
params: { command: 'rm -rf /' },
});
// result.decision === "BLOCK"
// result.reason === "Destructive command pattern"
// result.latencyMs === 0.3
rm -rf、mkfs、反向 Shell)→ BLOCKcurl 发送至外部地址、读取 .ssh/id_rsa)→ BLOCKDROP TABLE、UNION SELECT)→ BLOCK../../../etc/shadow)→ BLOCK[INST] 标签)→ BLOCKeval(atob()))→ BLOCK共 22 条规则;零依赖;单次检查耗时低于 2ms。
import { configure } from 'vigil-agent-safety';
// warn = 记录违规行为但不拦截(推荐初始启用)
configure({ mode: 'warn' });
// enforce = 拦截高危调用
configure({ mode: 'enforce' });
// log = 仅静默记录(不输出警告或拦截)
configure({ mode: 'log' });
将 Vigil 作为代理工具调用的安全层。借助 scripts/vigil-check.js 封装脚本,即可在命令行中完成校验:
# 校验一次工具调用
node scripts/vigil-check.js exec '{"command":"rm -rf /"}'
# → BLOCK: Destructive command pattern
# 校验一次安全调用
node scripts/vigil-check.js read '{"path":"./README.md"}'
# → ALLOW
加载内置策略模板:
import { loadPolicy } from 'vigil-agent-safety';
loadPolicy('restrictive'); // 最严格规则
loadPolicy('moderate'); // 平衡型(默认)
loadPolicy('permissive'); // 最小化拦截
npx vigil-agent-safety check --tool exec --params '{"command":"ls -la"}'
npx vigil-agent-safety policies
相关专题
热门下载
相关下载
精品课程
共6课时 | 54.7万人学习
共89课时 | 133.9万人学习
共49课时 | 82.5万人学习