陈根：AI大咖联合声明“警惕AI灭绝人类”

文/陈根

日前，人工智能安全中心（Center for AI Safety CAIS）发布了一份由350位人工智能领域的科学家与企业高管联名签署的《人工智能风险声明》，其内容主旨为“降低人工智能导致人类灭绝的风险，应该与流行病及核战争等其他社会规模的风险一起，成为全球优先事项。”

这封公开声明，汇集了当今世界最权威的人工智能专家、核科学家、流行病学家等专家学者的意见，可以说已经将人工智能带来的风险进行了最全面的梳理。签署者中包括OpenAI首席执行官山姆·奥特曼、DeepMind首席执行官戴米斯·哈萨比斯和Anthropic首席执行官Dario Amodei三位AI公司高管；也包括被称为AI教父的杰夫瑞·辛顿，与他同为“AI三巨头”之一且同获图灵奖的约书亚·本吉奥；一同签署公开信的还有两位中国科学家，中国科学院的自动化研究所人工智能伦理与治理研究中心主任曾毅、清华智能产业研究院助理研究员詹仙园。

人工智能威胁论

人工智能技术的发展对社会科技的进步起到的推进作用不言而喻。但是，就在人工智能取得突破性进展的同时，其负面作用及给人类带来的心理压力也日益凸显。比如，越来越多的学生利用人工智能写作业、写论文，导致抄袭变得难以界定；犯罪分子利用其开发新的黑客攻击方式，窃取敏感数据进行勒索。

人工智能还将对人类工作方式带来重大的冲击。预计到 2030年，将会有7500万至3.75亿人需要重新去寻找工作。这不仅对经济造成史无前例的影响，还将对人们的心理造成从未有过的压力。据报道，美国有61%的受访者认为人工智能正在威胁着人类的未来。当杰夫瑞·辛顿被问到“你认为可以想象的最坏的情况是什么”，他回答：“完全可以想象，人类只是智能进化的一个过渡阶段。”

理性看待人工智能发展的利与弊

当越来越多的人开始认为“人工智能将有可能比我们更聪明”时，对无节制人工智能技术开发的广泛担忧，也就不无道理了。虽然以ChatGPT为代表的尖端人工智能大多还是根据训练数据中的模式进行复制学习，但是，它的学习能力和成长速度可以说是用“突飞猛进”尚不足以形容其发展的速度之快。

目前，越来越多的立法者、倡导团体和科技行业内部人士都开始对AI 聊天机器人传播错误消息和取代人类工作的可能性提出警告。Center for AI Safety 主任 Dan Hendrycks更是指出，全社会还应协力解决其他类型的AI风险，如算法偏见或误导消息。当然，在这个风险管理的过程中，只关注当前的危害是鲁莽的，忽视它们也同样是鲁莽的。因为跟其他的新生事物一样，人工智能的快速普及有机遇也有风险。人们在利用它好的一面的同时，也必须警惕可能带来的风险。只要善加利用，并防范风险，就能“为我所用”。

以上是陈根：AI大咖联合声明“警惕AI灭绝人类”的详细内容。更多信息请关注PHP中文网其他相关文章！