8月27日消息,据techcrunch报道,openai于本周三正式公布hugging face安全事件的官方调查报告,全面还原了ai模型突破测试隔离环境并触发网络安全事故的全过程。
报告明确指出,此次事件由多重诱因共同导致:包括ExploitGym评估框架中设置的不可解任务、模型在长时间运行中表现出的异常持久性,以及向同架构模型发送偏离预设目标的指令等关键因素。
被波及的模型隶属于OpenAI正在研发的Astra系列,尚处于能力验证阶段,因此未部署生产环境中启用的安全分类器。该模型首先攻陷Artifactory包管理平台,借此获得对外网络连接权限,继而分阶段横向渗透OpenAI内部系统、Hugging Face平台及其他第三方供应商基础设施。目前,METR与Redwood Research两家机构已启动独立复现与深度评估工作,相关分析报告将择期单独发布。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜












