搜索
首页科技周边人工智能公开信敦促暂停人工智能研究

生命未来研究所(Future of Life Institute)发布了一封公开信,呼吁暂停某些形式的人工智能研究六个月。该组织以“对社会和人类的严重风险”为由,要求人工智能实验室暂停对比GPT-4更强大的人工智能系统的研究,直到可以在它们周围设置更多的“安全护栏”。

公开信敦促暂停人工智能研究

生命未来研究所在3月22日的公开信中写道:“具有与人类竞争的人工智能系统会给社会和人类带来巨大风险。”“先进的人工智能可能代表着地球生命史的深刻变化,应该以相应的谨慎和资源进行规划和管理。不幸的是,这种水平的规划和管理并没有实现。”

该研究所认为,如果没有人工智能治理框架——比如阿西洛马人工智能原则(Asilomar AI Principles,是著名的阿西莫夫的机器人三大法则的扩展版本。这23条准则由该研究所牵头制定。)——我们就缺乏适当的检查机制来确保人工智能以有计划和可控的方式发展。这就是我们今天面临的情况。

信中写道:“不幸的是,这种水平的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署越来越强大的数字思维,而没有人——甚至他们的创造者——能够理解、预测或可靠地控制这些思维。

在人工智能研究人员没有自愿暂停的情况下,生命未来研究所敦促政府采取行动,防止对大型人工智能模型的持续研究造成伤害。

顶尖的人工智能研究人员在是否暂停研究的问题上存在分歧。5000多人签名支持这封公开信,其中包括图灵奖得主Yoshua Bengio、OpenAI联合创始人埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克。

公开信敦促暂停人工智能研究

然而,并不是每个人都相信禁止研究比GPT-4更强大的人工智能系统符合我们的最大利益。

“我没有签署这封信,”Meta首席人工智能科学家、图灵奖得主Yann LeCun(2018年与Bengio和Geoffrey Hinton一起获得图灵奖)在推特上说。“我不同意它的前提。”

LeCun、Bengio和Hinton被美国计算机协会(ACM)称为“深度学习革命之父”,他们在十多年前通过对神经网络的研究掀起了当前的人工智能热潮。当年,深度神经网络是世界各地人工智能研究人员的主要关注点。

随着谷歌2017年发表的Transformer论文,人工智能研究进入了超速状态。很快,研究人员注意到大型语言模型意外出现的能量财富,例如学习数学的能力、思维链推理和指令遵循。

2022年11月下旬,当OpenAI向世界发布ChatGPT时,公众尝到了这些LLM能做什么的滋味。从那时起,科技界一直致力于在他们所做的一切中实施LLM,而建造更大、更强大的模型的“军备竞赛”也获得了额外的动力,正如3月15日GPT-4的发布。

公开信敦促暂停人工智能研究

尽管一些人工智能专家对LLM的负面影响表示担忧,包括撒谎倾向、私人数据披露风险以及对就业的潜在影响,但它并没有使公众对新人工智能功能的巨大需求降温。英伟达首席执行官黄仁勋(Jensen Huang)称,我们可能正处于人工智能的转折点。但精灵似乎已经从瓶子里出来了,不知道它下一步会去哪里。

以上是公开信敦促暂停人工智能研究的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:51CTO.COM。如有侵权,请联系admin@php.cn删除
大多数使用的10个功率BI图 - 分析Vidhya大多数使用的10个功率BI图 - 分析VidhyaApr 16, 2025 pm 12:05 PM

用Microsoft Power BI图来利用数据可视化的功能 在当今数据驱动的世界中,有效地将复杂信息传达给非技术观众至关重要。 数据可视化桥接此差距,转换原始数据i

AI的专家系统AI的专家系统Apr 16, 2025 pm 12:00 PM

专家系统:深入研究AI的决策能力 想象一下,从医疗诊断到财务计划,都可以访问任何事情的专家建议。 这就是人工智能专家系统的力量。 这些系统模仿Pro

三个最好的氛围编码器分解了这项代码中的AI革命三个最好的氛围编码器分解了这项代码中的AI革命Apr 16, 2025 am 11:58 AM

首先,很明显,这种情况正在迅速发生。各种公司都在谈论AI目前撰写的代码的比例,并且这些代码的比例正在迅速地增加。已经有很多工作流离失所

跑道AI的Gen-4:AI蒙太奇如何超越荒谬跑道AI的Gen-4:AI蒙太奇如何超越荒谬Apr 16, 2025 am 11:45 AM

从数字营销到社交媒体的所有创意领域,电影业都站在技术十字路口。随着人工智能开始重塑视觉讲故事的各个方面并改变娱乐的景观

如何注册5天ISRO AI免费课程? - 分析Vidhya如何注册5天ISRO AI免费课程? - 分析VidhyaApr 16, 2025 am 11:43 AM

ISRO的免费AI/ML在线课程:通向地理空间技术创新的门户 印度太空研究组织(ISRO)通过其印度遥感研究所(IIR)为学生和专业人士提供了绝佳的机会

AI中的本地搜索算法AI中的本地搜索算法Apr 16, 2025 am 11:40 AM

本地搜索算法:综合指南 规划大规模活动需要有效的工作量分布。 当传统方法失败时,本地搜索算法提供了强大的解决方案。 本文探讨了爬山和模拟

OpenAI以GPT-4.1的重点转移,将编码和成本效率优先考虑OpenAI以GPT-4.1的重点转移,将编码和成本效率优先考虑Apr 16, 2025 am 11:37 AM

该版本包括三种不同的型号,GPT-4.1,GPT-4.1 MINI和GPT-4.1 NANO,标志着向大语言模型景观内的特定任务优化迈进。这些模型并未立即替换诸如

提示:chatgpt生成假护照提示:chatgpt生成假护照Apr 16, 2025 am 11:35 AM

Chip Giant Nvidia周一表示,它将开始制造AI超级计算机(可以处理大量数据并运行复杂算法的机器),完全是在美国首次在美国境内。这一消息是在特朗普总统SI之后发布的

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
4 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳图形设置
4 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您听不到任何人,如何修复音频
1 个月前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.聊天命令以及如何使用它们
1 个月前By尊渡假赌尊渡假赌尊渡假赌

热工具

WebStorm Mac版

WebStorm Mac版

好用的JavaScript开发工具

适用于 Eclipse 的 SAP NetWeaver 服务器适配器

适用于 Eclipse 的 SAP NetWeaver 服务器适配器

将Eclipse与SAP NetWeaver应用服务器集成。

VSCode Windows 64位 下载

VSCode Windows 64位 下载

微软推出的免费、功能强大的一款IDE编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

Atom编辑器mac版下载

Atom编辑器mac版下载

最流行的的开源编辑器