☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

字节跳动Seed团队近期发布内部通知,正式组建名为“Seed Model-Alignment & Preparedness”的全新一级部门。该部门整合了原Responsible AI团队及部分Chat团队的核心成员,由严林担任负责人,直接向Seed负责人吴永辉汇报。将模型安全与对齐能力独立升格为一级部门,标志着字节跳动在AI安全治理层面的战略投入迈入全新阶段。
“对齐”一词的本质极为清晰:确保大模型的行为持续符合人类意图与既定安全边界,杜绝偏离目标、擅自决策等失控现象。新部门聚焦两大关键攻坚方向——其一是强化Agent Model(智能体模型)的安全鲁棒性;其二是前瞻性防控CBRN相关前沿能力风险。CBRN涵盖化学、生物、放射性及核领域,属于一旦被模型不当调用或泄露即可能引发重大现实危害的技术能力范畴。换言之,当字节的智能体逐步具备自主执行复杂任务的能力时,必须先在严密约束下完成充分驯化,方能被允许投入实际应用。











