图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的

云涛吖_7038

云涛吖_7038

2023-10-30

1482人浏览

转载

AI舌诊面诊问诊医疗系统+诊疗商城系统源码
AI舌诊面诊问诊医疗系统+诊疗商城系统源码

AI 舌诊面诊问诊医疗系统 + 诊疗商城系统源码是一套结合 AI 辅助诊断与商品转化的健康类程序,基于浩创云、ThinkPHP(PHP)开发,支持微信服务号与 H5 端,适合做中医舌诊面诊问答、健康建议推送以及配套诊疗商品的运营。

下载

关于 AI 风险的问题,各路大佬们也是意见不统一。有人带头签署联名信,呼吁 AI 实验室应立即暂停研究,深度学习三巨头 Geoffrey Hinton、Yoshua Bengio 等都支持这一观点。

就在近几日,Bengio、Hinton 等再发联名信《在快速发展的时代管理人工智能风险》,呼吁在开发 AI 系统之前,研究者应该采取紧急治理措施,将安全和道德实践纳入重点,呼吁各国政府应该采取行动,管理 AI 带来的风险。

文中提到了一些紧急治理措施,例如,让国家机构也参与进来,从而防止人们对 AI 的滥用。为了实现有效的监管,政府需要全面了解人工智能的发展。监管机构应采取一系列措施,如模型注册、对举报人进行有效保护以及对模型开发和超级计算机使用的监控等。监管机构还需要在部署之前访问先进的人工智能系统,以评估其危险功能。

今年五月,美国的一个非营利组织,人工智能安全中心,发表了一份声明,警告说人工智能应该被看作是对人类的灭绝风险,就像流行病一样。声明得到了包括 Hinton、Bengio 在内的一些人的支持。不仅如此,时间再往前一点,今年五月,美国非营利组织人工智能安全中心发表了一份声明,警告人工智能应被视为与流行病一样存在灭绝人类的风险,支持该声明的人同样包括 Hinton、Bengio 等人

在今年五月,Hinton辞去谷歌的工作,目的是为了能够自由地讨论人工智能带来的风险。在接受纽约时报采访时,他表示:“大多数人都认为人工智能的危害还很遥远。过去我也是这么认为的,可能需要30到50年甚至更久的时间。但是现在,我的想法已经改变了。”

在 Hinton 等 AI 大佬看来,管理人工智能带来的风险是一项迫切的任务

尽管如此,Yann LeCun作为深度学习领域中的重要人物之一,对人工智能的发展持乐观态度。他对签署有关人工智能风险的联名信持有反对意见,认为人工智能的发展并没有对人类构成威胁

刚刚, LeCun 在与 X 用户的交流中,对网友的一些关于 AI 风险的问题给出了回答。

图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的

该网友是针对 LeCun 对文章《‘This is his climate change’: The experts helping Rishi Sunak seal his legacy》的看法进行提问的,文章认为 Hinton、Bengio 等人发表联名信的行为使人们转变了对 AI 的看法,从一开始将 AI 视为辅助助手,转变为将 AI 视为潜在威胁。文章接着表示,近几个月来,观察家们在英国发现了越来越多的关于 AI 会造成世界末日的氛围。今年三月,英国政府公布了一份白皮书,承诺不会扼杀 AI 领域的创新。然而仅仅两个月后,英国就开始谈论对 AI 设置护栏,并敦促美国接受其全球人工智能规则计划。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

图灵奖得主吵起来了,lecun:bengio、hinton等的ai灭绝论是荒谬的

文章链接:https://www.telegraph.co.uk/business/2023/09/23/太阳神人工智能安全峰会:孙纳克与AI专家/ (Note: The provided content is already in Chinese. Therefore, there is no need to rewrite it.)

LeCun 对此文的回应是,他不希望英国对 AI 存在宿命论风险的担忧会传播给其他国家

图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的

之后,就有了我们前面提到的 LeCun 与 X 用户的交流,以下是 LeCun 全部的回答:

「Altman、Hassabis 以及 Amodei 正在进行大规模的企业游说。他们正尝试对 AI 产业进行监管。而你、Geoff,还有 Yoshua 正在给那些游说禁止开放 AI 研究的人提供『弹药』。

如果你們的恐懼宣傳活動取得成功,將不可避免地造成你我都認為是災難的結果:少數公司將控制人工智能

绝大多数学术同行都对开放式 AI 研发持非常支持的态度。很少有人相信你所宣传的末日场景。你、Yoshua、Geoff 和 Stuart 是其中唯一的例外

和许多人一样,我对开放式人工智能平台非常支持,因为我相信融合各种力量的重要性:人们的创造力、民主、市场力量和产品法规。我也了解到,我们有能力生产安全且受我们控制的人工智能系统。我已经提出了具体的建议,希望能推动人们做出正确的决策

你的写作给人一种AI是一种自然现象,我们无法控制其发展的感觉。但实际上情况并非如此。AI之所以能够取得进步,是因为人类社会中的每一个人。我们每个人都有能力去创造正确的事物。要求对研发进行监管,实际上是在假设这些人以及他们所在的组织是无能、鲁莽、自我毁灭或者邪恶的。但实际情况并非如此

我已经提出了很多论据来证明你所害怕的末日场景是荒谬的。在此我就不再赘述了。但主要的一点是,如果强大的 AI 系统是由目标(包括护栏)驱动的,那么它们就会是安全可控的,因为他们设定了这些护栏和目标。(目前的自回归 LLM 并不是由目标驱动的,所以我们不要从自回归 LLM 的弱点来推断)

关于开源这件事,你的活动所产生的效果将与你所追求的完全相反。在未来,AI 系统将成为人类所有知识和文化的宝库,我们需要的是开源和免费的平台,以便每个人都能为之做出贡献。开放是让 AI 平台反映人类全部知识和文化的唯一途径。这就要求对这些平台的贡献是众包的,类似于维基百科。除非平台是开放的,否则这样做是行不通的。

如果监管开放源代码的人工智能平台,将会出现另一种情况,即少数公司将掌控人工智能平台,从而控制人们所有的数字依赖。这对于民主意味着什么?对于文化多样性又意味着什么?这是让我整夜难以入眠的原因

在 LeCun 的推文下方,也有许多人对他的观点表示支持

蒙特利尔大学计算机科学与运筹学系教授 Irina Rish,也是 Mila - Quebec AI 研究所的核心成员。她表示或许支持开源 AI 的研究人员们不应该再沉默了,应该引领新兴 AI 的发展。

图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的

e/acc创始人 Beff Jezos 也在评论区中表示,这样的评论是重要的,也是人们所需要的。

图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的

网友表示,一开始,讨论安全问题可以丰富大家对未来科技的想象,但是耸人听闻的科幻小说不应当导致垄断政策的出现。

播客主持人 Lex Fridman 对这场辩论有更多的期待。

图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的

关于 AI 风险的问题讨论也将影响着 AI 的未来发展。当一个观点抢占风头时,人们会盲目跟从。只有两方能够不断地进行理性探讨,才能够真正地看清 AI 的「真面目」。

相关专题

更多
http与https有哪些区别
http与https有哪些区别

http与https的区别:1、协议安全性;2、连接方式;3、证书管理;4、连接状态;5、端口号;6、资源消耗;7、兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.08.16

5670

6

Navicat创建数据库教程
Navicat创建数据库教程

本专题整理Navicat创建数据库相关教程,介绍新建前的准备、基础设置和创建后的检查方法。内容兼顾入门学习及实际使用需求,帮助用户了解不同数据库类型下的操作差异,为后续建表、保存数据和日常管理提供参考。

2026.11.20

0

7

Navicat入门教程大全
Navicat入门教程大全

本专题整理Navicat入门教程,从认识软件界面到开展数据库操作,介绍初次使用需要了解的知识和方法。内容兼顾连接配置、数据管理及日常使用中的疑问,方便用户按学习进度查阅,为后续实践和独立操作打好基础。

2026.11.20

0

17

Navicat数据库连接配置指南
Navicat数据库连接配置指南

从确认数据库信息到建立可用连接,本专题串联Navicat连接数据库的相关知识和操作方法。既有初次配置时需要了解的基础内容,也有连接后的检查思路,方便用户按实际需求查阅教程,逐步熟悉数据库连接的设置流程。

2026.11.20

0

10

PHP8.6数组与数据处理教程
PHP8.6数组与数据处理教程

本专题汇总PHP8.6数组与数据处理教程,涵盖CSV读取和导出、引用遍历删除、array_filter回调模式、配置键名冲突、pathinfo文件名校验、GMP大整数进制转换及UTF-8正则筛选,说明升级兼容变化、输入范围和失败处理方法。

2026.11.20

0

8

PHP8.6升级迁移教程
PHP8.6升级迁移教程

本专题汇总PHP8.6升级迁移与弃用接口改造教程,涵盖反射调用、对象属性赋值、标识符更名、构造函数与__debugInfo调整,以及插件类名检查、常量导出、ArrayIterator排序、SPL和DTO查询参数转换,帮助梳理弃用提示并完成代码兼容改造。

2026.11.20

0

10

PHP8.6安装配置与FPM运维教程
PHP8.6安装配置与FPM运维教程

本专题汇总PHP8.6正式版安装部署与FPM运维教程,涵盖Linux并存安装、独立ini配置、扩展重新编译、Nginx切换与回滚、FPM状态监控和慢日志排查,以及环境变量、请求超时、OPcache刷新和预加载配置。

2026.11.20

0

10

Nginx CVE-2026-123007排查与防护指南
Nginx CVE-2026-123007排查与防护指南

Nginx HTTP/2漏洞该怎么修复?本专题围绕CVE-2026-123007,介绍安全版本升级、模块兼容检查和配置恢复方法,以及日志排查、权限设置等后续加固操作,方便你按实际部署情况查找对应教程。

2026.11.20

0

8

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

40

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
DBeaver AI数据隐私指南
DBeaver AI数据隐私指南

共0课时 | 0人学习

XORM框架官方中文文档
XORM框架官方中文文档

共0课时 | 0人学习