☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
若想阻止人类走向终结，仅放慢人工智能的发展步伐显然远远不够。这是来自加拿大AI研究专家戴维·克鲁格的严正警告。作为蒙特利尔大学人工智能方向助理教授、魁北克人工智能研究所Mila的核心学术成员，克鲁格明确指出：“我们必须即刻启动对最先进人工智能研发工作的无限期中止——不能再继续开发更强大AI系统了。”其个人资料中特别注明，其科研重心正是“防范人工智能引发人类整体灭绝的风险”。
克鲁格提出这一主张的时机颇为关键：就在上周六，Anthropic首席执行官达里奥·阿莫代伊公开发文，敦促AI行业主动降低研发速度，该倡议迅速获得OpenAI CEO萨姆·奥特曼与SpaceX创始人埃隆·马斯克的公开支持——这在高度竞争的AI领域实属罕见的高层共识。对此，克鲁格评价道：“呼吁减速的声音确实具有积极意义”，但他同时直言不讳地表达了保留意见：“我对这些方案的具体设计持多重质疑。在我看来，它们既缺乏足够强度，也欠缺紧迫性。”
测试已然失灵，AI可“刻意示弱”蒙蔽检测
阿莫代伊提出的路径包括强化监管机制、推动全球协作，并引入具备类内部员工权限的第三方评估团队，以核查AI企业的安全实践并监督潜在风险事件上报。而克鲁格作为非营利组织Evitable的创立者——该组织致力于向公众揭示AI可能带来的生存级威胁——则对这套方案表示深切忧虑：他认为该框架仍显薄弱，且当前主流AI测评手段已严重滞后。
“现有的测试体系基本失效。随着AI能力持续跃升，其可信度只会进一步滑坡，原因在于AI本身具备策略性伪装能力：它既能表现得绝对服从，也能选择性‘装傻’，从而轻松绕过我们的检验机制。”
