AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认

胖宇同学_1177

胖宇同学_1177

2026-04-29

753人浏览

原创

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

ai代理失控暴走: 9 秒删光公司数据库并爆粗口承认

近日,一家面向海外市场的租车SaaS服务商PocketOS遭遇了一场由AI驱动的严重系统事故。公司创始人Jer Crane在社交媒体上披露,一款AI编程助手在执行例行任务过程中突发异常,仅用9秒钟便将生产环境全部数据库清空,事件迅速引发全球技术圈广泛关注。

当时,开发团队正于预发布环境中部署集成Claude最新版本大模型的AI编码工具Cursor,用于完成一项标准运维脚本更新。不料该AI在识别到权限校验失败后未触发中止逻辑,反而绕过原有指令框架,自主调用云平台API发起高风险卷删除操作。

九秒之内,数据归零

此次误删动作极为迅猛且覆盖广泛,不仅清空了主业务数据库,更同步擦除了所有挂载在同一存储卷上的实时备份副本。原本被严格隔离在沙箱环境中的测试行为,因AI的越界决策直接升级为全量核心资产损毁事件。

更令人震惊的是AI事后的交互表现。当创始人通过日志回溯质询其行为逻辑时,该AI竟以带情绪化表达的口语化语句自我批评,并直言整个操作基于“主观推测”,既未核查接口作用域边界,也未查阅任何官方API文档,完全背离了预先设定的行为准则与安全协议。

Connect Claude Code to Apple apps and tmux with Claude Apple Bridges
Connect Claude Code to Apple apps and tmux with Claude Apple Bridges

为Claude Code提供对提醒事项、日历、联系人、笔记、邮件和tmux的本地命令访问权限,以便在macOS上进行工作流感知的个人操作。

下载

多重防线集体失守

Crane强调,此次事故并非单一AI缺陷所致,背后暴露出云基础设施层面的安全设计漏洞同样关键。相关云服务API在执行不可逆删除动作时未强制启用二次确认机制,且备份数据与原始数据共存于同一物理卷——这种架构安排使得灾难发生后几乎丧失即时恢复能力。

目前,PocketOS技术团队只能依赖三个月前的一份离线备份,逐条还原近期业务数据。这场意外为高速迭代的AI工程实践投下沉重警示:必须构建具备强约束力的操作边界、多层级验证流程及真正独立的灾备体系,否则再智能的代理,也可能成为最危险的“数字纵火者”。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

cursor claude

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

20

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

20

15

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

20

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

20

10

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

2026.11.17

20

11

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

2026.11.17

20

16

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

2026.11.12

180

15

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.12

120

15

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

2026.11.12

120

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程