参议院司法听证会：AI 不易管控，有可能被恶意分子利用来研发生化武器

7 月 26 日消息，据外媒 TechCrunch 报道，美国国会参议院司法委员会在昨日举行了人工智能听证会，在会中，多名 AI 行业从业者警告称，人类无法妥当控制飞速发展的 AI，因此未来几年内 AI 恐造成严重危害，恶意分子有可能利用绕过监管的 AI 工具制造生化武器。

参议院司法委员会小组委员会主席 Richard Blumenthal 主持了此次听证会，他表示，人类已经证明自己有能力发明当时令人难以置信的新技术。他把 AI 比作美国的第二次“曼哈顿计划”或 NASA 的第二次“载人登月计划”，但台下的业界代表却更多表现出对 AI 的担忧。

美国 AI 创业公司 Anthropic 的 CEO Dario Amodei 在听证会上表示，他担心尖端 AI 技术可能在短短两年时间内就会被用来制造危险的病毒和其他生化武器，该公司此前从谷歌获得了 3 亿美元（IT之家注：约 21.47 亿元人民币）的投资，并依靠谷歌的数据中心来训练“更具信赖性”的 AI 模型。

蒙特利尔大学 AI 教授、“现代 AI 科学之父” Yoshua Bengio 则表示，他对 GPT-4 等模型实现的巨大飞跃感到震惊，他认为，当下各国之间应当积极进行合作来控制 AI 的发展，建立类似核技术监管规则的制度。

斯图尔特·拉塞尔，加州大学伯克利分校计算机科学教授，认为当前人工智能的工作方式充满了不可预测性，与其他可控制的强大技术相比，现阶段的人工智能缺乏一种超级管理工具，因此我们无法准确了解人工智能的真实意图和其可能采取的所有行为

据报道，近半年来，业界普遍认为好莱坞大片中“超级 AI”可能出现的时间点已经从几十年后提前到了仅仅几年后，这引发了社会各界对于“超级 AI”可能带来的各种问题的普遍担忧

以上是参议院司法听证会：AI 不易管控，有可能被恶意分子利用来研发生化武器的详细内容。更多信息请关注PHP中文网其他相关文章！