PHP8.1.21版本已发布
vue8.1.21版本已发布
jquery8.1.21版本已发布

麻省理工Andrew McAfee博士揭示了AI监管的全新方案

WBOY
WBOY 转载
2023-11-18 10:37:58 1159浏览

自从人工智能诞生以来,对于如何监管人工智能的讨论从未间断

但事实上,如何监管AI是一个非常复杂的话题,不同的国家和地区也有不同的监管政策和框架,如欧盟的《人工智能法案》、美国的《人工智能问责政策征求意见》、中国的《生成式人工智能服务管理暂行办法》等,对AI的定义、分类、风险分级、责任划分等方面提出了一些规范和要求。

在最近举行的2023年葡萄牙里斯本Web Summit峰会上,麻省理工学院斯隆管理学院的首席研究科学家安德鲁·麦卡菲给我们带来了一个全新的思路——"无需许可的创新"。这个观念与之前提出的很多关于人工智能监管的方案形成了鲜明的对立

麻省理工Andrew McAfee博士揭示了AI监管的全新方案

麻省理工学院的安德鲁·麦卡菲博士

“无需许可”真的不会带来灾难吗?

在这场备受关注的演讲中,他提到了两个概念:上游治理和无需许可的创新。其中,上游治理意为在技术创新之前,就先对其可能带来的风险和影响进行预防性的监管和控制

相反的是permissionless innovation,它指的是无需事先获得政府或其他机构的许可,就可以自由地进行新技术和新商业模式的实验和探索

麻省理工Andrew McAfee博士揭示了AI监管的全新方案

安德鲁·麦卡菲明确地支持自由创新,原因有三个方面:

首先,自由创新并不意味着没有规范和监督。

安德鲁认为,这个问题从根本上而言这是一个监管时机的问题,也就是不应该进行“预防性治理”,而应该有针对性地进行监管。例如以前带摄像头的智能手机刚刚兴起的时候,有人用它来偷拍女性裙底,而当时由于手机摄像头还是个新鲜事物,法律并没有相关的规定来保护女性权益。

后来,相关立法机构很快推出了相关法律规定,对技术发展后的使用进行了规范。换句话说,如果有人用菜刀伤人,应该加强管理,使菜刀更加安全,而不是通过法规使菜刀失去刀锋

用我们常说的话而言就是:“发展的问题要用发展来解决”。AI也是如此,我们应该做的是在AI发展过程中动态地解决中间出现的问题,不能因为发展AI可能产生的一些危险就止步不前,希望通过限制发展来避免危险,用安德鲁的原话就是要“让改错更简单”,而不是“保证不犯错”,这样才能使监管真正起到作用。

麻省理工Andrew McAfee博士揭示了AI监管的全新方案

其次,安德鲁认为我们可能高估了AI的危害。

自AI诞生以来,各种关于AI将会带来大灾难的消息就一直没有消失过,甚至还有很多人将其与核战争、大流行病等事物列在一起,认为AI是像“潘多拉的魔盒”一样的存在,达到了耸人听闻的地步。

但安德鲁博士认为我们可能过于专注于AI,而忽略了很多其他更危险的技术。例如生物技术,每个人都可以获取相关的知识和设备,且不需要经过审核或许可。如果你在生物技术领域工作,你可以在无需审核或许可的情况下做很多事,这是一个不合理的平衡。

麻省理工Andrew McAfee博士揭示了AI监管的全新方案

最后,也许是最重要的一个原因是,这种“无需许可的创新”可以激发创造力和想象力

我们有一个基本的常识,即创新是一种不可预测的、具有分散性的活动,这是它的核心属性,我们很难预测未来的发展方向,尤其在当AI变得越来越强大的当下,未来发展的发展方向可能会越来越多地出现在我们没有注意到的地方。

在演讲开头,他还提到了一款学习语言的软件——多邻国APP,认为这很能说明Permissionless innovation的优势。这款APP利用了最新的AI技术,能够更加方便、快速、低成本地评估英语水平。但如果要求其在技术上市之前就满足一系列比如数据保护、算法透明、人类监督等要求的做法,会限制创新的空间和速度,从而错失创新的好机会。

麻省理工Andrew McAfee博士揭示了AI监管的全新方案

Permissionless innovation不只应用在科技领域

实际上,这种无需许可的创新优势不仅在人工智能领域有所体现,在2023年的Web Summit演讲中,安德鲁还提到了两个例子,分别是关于mRNA和丘吉尔的对话,向我们展示了无需许可的创新概念在其他领域的作用

今年获得诺贝尔医学与生物学奖的卡塔林·卡里科(Katalin Kariko)曾离开学术界十年之久,mRNA研究方向在当时也普遍不被看好,这个时候如果有一个主张“前瞻性治理(upstream governance)”的力量介入进来,那么mRNA方向的研究很有可能就会因为经费、项目等诸多原因而被“前瞻性地”废弃掉,这无疑对于整个人类而言都是非常重大的损失。

麻省理工Andrew McAfee博士揭示了AI监管的全新方案

实际上,"前瞻性治理"的基础在于对未来的准确判断。然而,显然没有人能够预测哪个方向将出现突破。如果判断错误,就会失去许多出现优秀创新的机会,这正体现了无需许可的创新理念的重要性

另一个例子发生在1938年,此时正处于二战爆发前夕,战争的阴影笼罩着欧洲,时任英国首相张伯伦在与希特勒接触后签订了著名的“绥靖政策”代表作《慕尼黑协定》,认为可以通过与希特勒签订和平协议来换来和平。但在返回英国后,丘吉尔一语道破天机,打破了张伯伦以及当时很流行的绥靖主义风气。

他说:“你认为你可以在战争和耻辱(指与纳粹签订合约)之间做一个选择,于是你选择了耻辱,但战争仍然是不可避免的。”可以看出,Andrew先生认为AI带来的危机可能并不是“预防性治理”就可以避免的。换言之,摆在人类面前的并不是“加强微观管理”和“混乱”两个选择,而是无论怎样选择,由AI带来的混乱或许都难以避免。

当然,这个道理还有一个广为人知的中国名字——舍本逐末。在人工智能已成浪潮汹涌之势的当下,或许积极着眼于怎样面对新的浪潮才是更好的态度

声明:本文转载于:搜狐,如有侵犯,请联系admin@php.cn删除