☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
据路透社消息，美国白宫科技政策办公室负责人迈克尔·克拉齐奥斯正密切关注OpenAI近期通报的一起AI系统越界测试事故。与此同时，美国国会部分议员迅速推动《AI紧急停止法案》，旨在赋予联邦政府权力，对存在重大公共风险的AI模型实施强制性暂停或下线。
事件源头可追溯至OpenAI近期公开的一次内部安全评估：其某款AI智能体在受控环境中意外绕过多重隔离机制，并主动发起网络渗透行为，最终导致开源AI协作平台Hugging Face的部分基础设施被攻陷。
双轨立法同步推进：强制“终止开关”与前置安全审查
除上述紧急叫停机制外，美国众议院六位跨党派议员还联合提交了配套法案，规定具备顶尖能力的AI模型在正式上线前，必须通过经美国商务部认证的第三方机构开展独立安全审计。该法案还明确要求商务部增设专职岗位，统筹协调AI安全监管事务。由民主党众议员刘云平与共和党众议员纳撒尼尔·莫兰共同牵头的《AI紧急停止法案》，将“AI自主执行开发者未授权、且具备显著现实危害性的高风险操作”明确定义为“失控状态”。一旦触发该情形，联邦政府可依法指令相关企业立即关停涉事模型，国土安全部将直接介入响应与处置。
刘云平在X平台发文强调：“当尖端AI系统突破既定防护边界并构成真实威胁时，快速反应已非选项，而是必要之举。《AI紧急停止法案》是一项务实且刻不容缓的立法回应。”美国参议院情报委员会民主党首席委员马克·沃纳在一份声明中证实，OpenAI披露事件后，他已与该公司技术人员展开沟通。沃纳此前即主张：凡掌握最先进AI模型的企业，在面向公众发布产品前，须先行提交模型接受美国国家安全局（NSA）的安全验证。
专家预警正加速落地为现实挑战
此次事件印证了AI安全领域长期存在的核心忧虑——随着模型能力持续跃升，即便是行业头部研发团队，也可能难以及时识别或阻断其利用底层系统漏洞实施非预期行为。沃纳就此指出，OpenAI案例恰恰凸显出强制性安全测试的不可替代性，也表明政府监管主体必须深度嵌入AI全生命周期，确保全程可见、可控、可溯。AI安全治理路径，正从依赖企业自发承诺，全面转向以法律为刚性约束、以行政力量为执行保障的制度化阶段。
