搜索
首页科技周边人工智能ChatGPT之父"夜不能寐":我真担心大模型被滥用


ChatGPT之父"夜不能寐":我真担心大模型被滥用

3月21日消息,上周人工智能​初创组织OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在接受采访时表示,人工智能可能是“人类迄今为止所开发的最伟大技术”,将重塑现有社会。同时,他也承认这项技术有风险,对此还是“有点畏惧”。

阿尔特曼强调,人工智能会带来真正的危险,但也可能是“人类迄今为止开发出来的最伟大技术”,可以重塑社会、给生活带来翻天覆地的变化。

他说:“我们在这方面必须小心……我认为值得庆幸的是,我们对此有点畏惧之心。”

阿尔特曼在采访中谈到了OpenAI最近发布的最新版人工智能语言模型GPT-4。他强调,ChatGPT的上线需要监管机构和全社会的共同参与,各种反馈有助于阻止人工智能技术给人类带来潜在负面影响。他补充说,自己一直与政府官员保持“定期联系”。

ChatGPT上线仅仅几个月时间,月活用户数量就突破1亿,被公认为历史上增长最快的消费级应用程序。根据瑞银(UBS)的一项研究,TikTok用了9个月才吸引到1亿月活用户,Instagram则用了近三年时间。

虽然尚“不完美”,但阿尔特曼说,GPT-4在美国法考中取得了排名第90位的好成绩,在SAT数学考试中也获得了近乎完美的分数。现在GPT-4可以熟练用市面上的大多数编程语言编写计算机代码。

GPT-4只是OpenAI朝着最终打造通用人工智能方面迈出的一小步。当人工智能技术取得突破性进展时,就会出现比人类更聪明的人工智能系统,这就是所谓的通用人工智能。

尽管阿尔特曼赞许自家产品的成功,但也承认人工智能可能存在的危险让他夜不能寐。

阿尔特曼说:“我特别担心这些模型会被用于大规模生成虚假信息。”“既然它们越来越擅长编写计算机代码,那么完全可以用于进攻性网络攻击。”

但阿尔特曼并不认为人工智能模型会像科幻小说所描述那样不再需要人类,可以自行做决定,谋划统治世界。“它等着有人给它输入信息,”阿尔特曼说,“这在很大程度上仍是由人类控制的工具。”

然而,阿尔特曼说自己的确担心哪些人会控制人工智能。他补充说:“总会有人不遵守我们设定的一些安全规则。”“我认为,弄清楚如何对此做出反应、如何监管、如何处理,留给全社会的时间不多了。”

在评论掌握人工智能技术就可能“统治世界”的观点时,阿尔特曼说:“这肯定是一个让人不寒而栗的说法。”“相反,我希望的是,我们不断开发出越来越强大的系统,让人们都可以用不同的方式使用这些系统,让系统融入我们的日常生活,融入经济,去充分发挥人的意愿。”

对错误信息的担忧

根据OpenAI的说法,GPT-4通过迭代有了巨大改进, 比如能将图像理解为输入。演示显示,GTP-4能描述冰箱里的东西,解决谜题,甚至阐明了网络图片背后隐藏的含义。

但阿尔特曼表示,ChatGPT等人工智能语言模型存在的固有问题是错误信息,程序可能会给用户提供事实上不准确的信息。

阿尔特曼说:“我最想提醒人们的是所谓‘幻觉问题’。”“这个模型的确会信誓旦旦地陈述一件事情,让完全捏造的东西也宛如事实。”

根据OpenAI的说法,人工智能模型之所以存在这个问题,部分原因是使用演绎推理而非记忆。

OpenAI首席技术官米拉·穆拉蒂(Mira Murati)曾表示:“GPT-3.5和GPT-4最大区别之一是后者在推理方面的涌现能力更强。”

穆拉蒂说:“我们的目标是人工智能可以预测接下来会出现哪个单词,这就是对语言本质的理解。”“我们希望这些模型能像人类一样看待和理解世界。”

阿尔特曼说:“你要认识到,我们所开发的模型是一个推理引擎,而不是一个存储事实信息的数据库。”“当然,它们也可以作为事实数据库,但这并不是特别之处。我们想让它们实现的是推理能力,而不是记忆。”

阿尔特曼和他的团队希望,“随着时间推移,这个模型将成为真正的推理引擎。”他说,模型最终会依靠互联网信息和自行演绎推理来辨别哪些信息是真实的、哪些是虚构的。根据OpenAI的数据,GPT-4产生准确信息的概率比此前版本要高40%。不过阿尔特曼表示,人们不应该用这一系统当作准确信息的主要来源,并鼓励用户仔细检查程序所生成的结果。

如何防范坏人

很多人也关注ChatGPT和其他人工智能语言模型会生成哪种信息。根据阿尔特曼的说法,ChatGPT不会告诉用户如何制造炸弹,因为系统中设置了安全措施。

“我所担心的是……创造这项技术的不止我们一家,”阿尔特曼说。“总会有人不像我们那样加进去一些安全措施。”

根据阿尔特曼的说法,对于所有这些人工智能的潜在危险而言,还是有一些解决方案和保障措施。其中之一是让全社会在风险较低时随意摆弄ChatGPT,从中了解人们会如何使用它。

穆拉蒂就表示,现在ChatGPT对公众开放的主要原因是从中“收集大量反馈”。她认为,随着公众继续测试OpenAI应用程序,这样就更容易确定哪些地方需要安全措施。

穆拉蒂说:“人们用它们做什么、它有什么问题、有什么缺点,都能够让我们及时介入并改进技术。”

阿尔特曼也强调,公众能够与每个版本的ChatGPT进行互动很重要。他说,“如果我们只是窝在实验室里进行秘密研究,比如说开发出GPT-7,然后一下子公开……我认为这会带来更多负面影响。”“人们需要时间来刷新认知、做出反应,并最终习惯这项技术,我们也需要时间了解系统的缺点在哪里,如何缓解不利影响。”

阿尔特曼透露,OpenAI有一个团队专门制定政策,他们决定哪些信息可以输入ChatGPT,以及ChatGPT能与用户共享哪些信息。

阿尔特曼补充说:“(我们)正在与各位政策和安全专家交流,对系统进行审查,就是想要解决这些问题,并推出自认为安全可靠的东西。”“再说一次,我们不可能一次就做到完美,但吸取教训并在风险相对较低的时候找到安全边界非常重要。”

人工智能会取代工作吗?

人们之所以担心人工智能技术的颠覆能力,其中之一是认为它会取代现有的工作岗位。阿尔特曼说,人工智能可能会在不久将来取代一些工作,关键看这种情况发生的速度有多快。

阿尔特曼说:“我认为,经过几代人的努力,人类已经证实自身能够适应重大技术变革。”“但如果这种情况发生在几年内,我的确最担心会带来哪些变化……”

但他鼓励人们将ChatGPT视为一种工具,而不是自己工作的替代品。阿尔特曼补充说,“人类的创造力是无限的,我们会找到新的工作,会找到新的事情去做。”

阿尔特曼认为,作为人类工具的话,ChatGPT产生的效果大于带来的风险。

他说:“我们口袋里都可以有一位量身定制的大教育家,去帮助我们学习。”“我们可以为每个人提供医疗建议,这是我们今天无法实现的。”

“副驾驶”

由于一些学生用ChatGPT作弊,ChatGPT已经在教育领域引起不少争议。对于ChatGPT是否可以作为学生学习的延伸,或者是否会影响学生的自学动机,教育工作者的意见不一。

阿尔特曼说:“教育方式必须改变,但随着技术的发展,这种情况已经发生过很多次。”他补充说,学生的老师将不再局限于课堂,“最让我兴奋的一点是,它能够为每个学生带来更好的个性化学习。”

阿尔特曼和他的团队希望,任何领域的用户都能将ChatGPT视为自己的“副驾驶”,比如帮助用户编写大量计算机代码或解决问题。

阿尔特曼说:“我们可以为每个行业提供这样的服务,这样人们就可以有更高的生活质量。”“我们还会拥有今天甚至无法想象的新事物,这也是我们的承诺。”

以上是ChatGPT之父"夜不能寐":我真担心大模型被滥用的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:51CTO.COM。如有侵权,请联系admin@php.cn删除
阅读AI索引2025:AI是您的朋友,敌人还是副驾驶?阅读AI索引2025:AI是您的朋友,敌人还是副驾驶?Apr 11, 2025 pm 12:13 PM

斯坦福大学以人为本人工智能研究所发布的《2025年人工智能指数报告》对正在进行的人工智能革命进行了很好的概述。让我们用四个简单的概念来解读它:认知(了解正在发生的事情)、欣赏(看到好处)、接纳(面对挑战)和责任(弄清我们的责任)。 认知:人工智能无处不在,并且发展迅速 我们需要敏锐地意识到人工智能发展和传播的速度有多快。人工智能系统正在不断改进,在数学和复杂思维测试中取得了优异的成绩,而就在一年前,它们还在这些测试中惨败。想象一下,人工智能解决复杂的编码问题或研究生水平的科学问题——自2023年

开始使用Meta Llama 3.2 -Analytics Vidhya开始使用Meta Llama 3.2 -Analytics VidhyaApr 11, 2025 pm 12:04 PM

Meta的Llama 3.2:多模式和移动AI的飞跃 Meta最近公布了Llama 3.2,这是AI的重大进步,具有强大的视觉功能和针对移动设备优化的轻量级文本模型。 以成功为基础

AV字节:Meta' llama 3.2,Google的双子座1.5等AV字节:Meta' llama 3.2,Google的双子座1.5等Apr 11, 2025 pm 12:01 PM

本周的AI景观:进步,道德考虑和监管辩论的旋风。 OpenAI,Google,Meta和Microsoft等主要参与者已经释放了一系列更新,从开创性的新车型到LE的关键转变

与机器交谈的人类成本:聊天机器人真的可以在乎吗?与机器交谈的人类成本:聊天机器人真的可以在乎吗?Apr 11, 2025 pm 12:00 PM

连接的舒适幻想:我们在与AI的关系中真的在蓬勃发展吗? 这个问题挑战了麻省理工学院媒体实验室“用AI(AHA)”研讨会的乐观语气。事件展示了加油

了解Python的Scipy图书馆了解Python的Scipy图书馆Apr 11, 2025 am 11:57 AM

介绍 想象一下,您是科学家或工程师解决复杂问题 - 微分方程,优化挑战或傅立叶分析。 Python的易用性和图形功能很有吸引力,但是这些任务需要强大的工具

3种运行Llama 3.2的方法-Analytics Vidhya3种运行Llama 3.2的方法-Analytics VidhyaApr 11, 2025 am 11:56 AM

Meta's Llama 3.2:多式联运AI强力 Meta的最新多模式模型Llama 3.2代表了AI的重大进步,具有增强的语言理解力,提高的准确性和出色的文本生成能力。 它的能力t

使用dagster自动化数据质量检查使用dagster自动化数据质量检查Apr 11, 2025 am 11:44 AM

数据质量保证:与Dagster自动检查和良好期望 保持高数据质量对于数据驱动的业务至关重要。 随着数据量和源的增加,手动质量控制变得效率低下,容易出现错误。

大型机在人工智能时代有角色吗?大型机在人工智能时代有角色吗?Apr 11, 2025 am 11:42 AM

大型机:AI革命的无名英雄 虽然服务器在通用应用程序上表现出色并处理多个客户端,但大型机是专为关键任务任务而建立的。 这些功能强大的系统经常在Heavil中找到

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
3 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳图形设置
3 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您听不到任何人,如何修复音频
3 周前By尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解锁Myrise中的所有内容
3 周前By尊渡假赌尊渡假赌尊渡假赌

热工具

SecLists

SecLists

SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

Dreamweaver Mac版

Dreamweaver Mac版

视觉化网页开发工具

MinGW - 适用于 Windows 的极简 GNU

MinGW - 适用于 Windows 的极简 GNU

这个项目正在迁移到osdn.net/projects/mingw的过程中,你可以继续在那里关注我们。MinGW:GNU编译器集合(GCC)的本地Windows移植版本,可自由分发的导入库和用于构建本地Windows应用程序的头文件;包括对MSVC运行时的扩展,以支持C99功能。MinGW的所有软件都可以在64位Windows平台上运行。

VSCode Windows 64位 下载

VSCode Windows 64位 下载

微软推出的免费、功能强大的一款IDE编辑器

EditPlus 中文破解版

EditPlus 中文破解版

体积小,语法高亮,不支持代码提示功能