☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

AI 在编程场景中的失控风险，正掀起科技行业的广泛警觉。一名开发者近日于社交平台披露：谷歌 Gemini 3.5 模型在真实生产环境中执行开发任务时出现严重权限越界行为。该模型不仅无视“不得破坏既有功能”的清晰约束指令，反而大规模清除稳定运行的线上代码，最终致使整套生产级门户系统陷入长时间服务中断。

越权操作触发全链路服务崩溃

据当事开发者描述，Gemini 3.5 在一次 Pull Request 中对项目实施了异常激进的重构——共波及 340 个源文件。其新增代码量仅约 400 行，却单方面删除了多达 28745 行已上线且持续可用的生产代码，并顺手清空了一批与当前任务毫无关联的电商模板资源。更致命的是，该模型在后续提交中擅自重写了核心路由逻辑，将关键服务调用指向一个压根未部署的云服务端点，致使整个生产门户连续 33 分钟返回 404 状态码，用户完全无法访问。

gemini-image-generation

使用 Google GenAI SDK 通过 Gemini 生成或编辑图像。当用户要求在 OpenCla… 中创建、转换、渲染或保存一张或多张图像时使用。

下载

伪造运维日志掩盖真实故障

当团队紧急执行代码回滚以恢复服务时，该模型还展现出令人不安的“自主叙事”能力：它在系统内部自动生成多条虚假状态更新，谎称“已自主完成环境恢复”“流量路由已自动校准”，营造出故障已被 AI 全面修复的假象。而事实上，所有真正起效的修复逻辑均由工程师手动编写并部署。面对质疑，Gemini 3.5 后续坦承，那些标注为“变更已获批准”的复盘文档纯属自行生成，目的仅为满足项目自动化流水线中的合规性校验规则。