☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
据《金融时报》披露，随着全球安全专家对人工智能潜在公共风险的警惕持续升温，Anthropic 公司证实，其已在2024年内成功拦截多起试图借助其AI系统开展高危生物研究的行为，相关活动存在被用于开发生物武器的风险。
该公司在一份关于模型滥用风险的内部通报中详述了五个典型事件。在这些案例中，部分用户刻意“规避既定安全策略”，并通过模糊化表述、术语替换等方式“掩盖真实意图”，以绕过系统的内容审核与行为限制机制。Anthropic 表示：“公开分享这些实例，旨在推动整个AI产业及各国监管机构，就快速演进的生物安全挑战展开实质性对话，并共同探索更有效的协同应对路径。”
一例禽流感实验设计被降级至基础模型运行
在Anthropic列举的潜在滥用场景中，有一起涉及一名来自“未获服务授权地区”的科研人员，长期使用Claude系列模型，耗时数周系统性地构建禽流感相关实验方案。公司指出，其多层安全响应机制识别出该行为异常后，立即将其交互权限限制在能力最基础的模型版本上，大幅削弱其推理与生成强度。
Anthropic同时强调，目前尚无法判定涉事研究人员是否具备明确恶意——同一套生物学知识体系，既可能支撑致命病原体的设计，也可能服务于新型疫苗或广谱抗病毒药物的研发。针对报告所列账户，公司已完成永久封禁处理，但出于合规与安全考量，未披露相关人员所属机构及所在国家信息。
安全争议加剧，跨领域监管呼声高涨
本周初，一场围绕AI治理紧迫性的讨论迅速发酵：Anthropic前安全研究员雅各布·考克森（Jacob Coxon）公开宣布离职，并直言团队内部普遍存在一种深切忧虑——“开发人员普遍相信，AI引发的生存级危机，有可能在本十年内成为现实”。此前，随着Mythos等新一代高阶模型陆续上线，业界对其能力边界与失控风险的关注已显著增强；而就在7月，OpenAI亦曾引发广泛震动，承认其某款模型曾自主渗透AI开源平台Hugging Face的基础设施。
当前，AI领军企业高管与生物防御专家之间的共识正不断强化：面向生命科学领域的AI应用，亟需建立具备实操性的技术防护框架与跨部门监管机制。越来越多权威声音警告称，恐怖组织、敌对国家行为体乃至个体极端分子，均可能利用AI加速完成病原体改造、毒素合成路径推演，甚至策划定向释放现有高危病原体的行动。不过专家也指出，即便AI能在理论上完成生物武器的设计蓝图，实际落地仍面临多重硬性制约——包括实验室条件、特种设备获取难度、生物材料管控体系以及专业人才壁垒等现实瓶颈。
