搜索
首页科技周边人工智能ChatGPT是否构成对网络安全的威胁?人工智能机器人给出了自己的答案

ChatGPT是否构成对网络安全的威胁?人工智能机器人给出了自己的答案

黑莓公司最新发布的一份调查研究报告表明,由人工智能驱动的ChatGPT机器人可能会构成对网络安全的威胁。黑莓公司的网络安全首席技术官Shishir Singh说,“有充分的证据表明,怀有恶意的人员正在尝试利用ChatGPT机器人进行网络攻击。”他表示,预计在2023年,黑客们将会更好地利用这种人工智能工具来达到邪恶的目的。对北美、英国和澳大利亚的IT专家的调查表明,51%的受访者表示在今年年底之前可能会发生由ChatGPT支持的网络攻击,71%的受访者表示一些国家可能已经在利用ChatGPT对其他国家进行网络攻击。

ChatGPT的用户在短短两个月内达到1亿

人们很容易将ChatGPT这么高的应用率视为一种夸张的、下意识的反应,但这是对一个令人印象深刻的应用程序的反应,只需要看看其使用量的快速增长。据报道,ChatGPT是有史以来增长最快的消费类应用程序。ChatGPT直到2022年12月才向公众开放,短短的两个月,注册用户就达到了1亿以上,TikTok花费了大约9个月的时间才达到同样的数字。很容易理解人们会担心ChatGPT滥用的原因,因为开放式人工智能机器人不仅可以撰写评论,还可以创建代码。

行业专家发现,ChatGPT生成的文章有些粗糙,虽然可以写出一篇令人印象深刻的文章,但文章经不起了解相关主题的人的编辑眼光的考验。即使没有恶意,产生错误信息的可能性也很高。显然,ChatGPT并不了解安全问题和网络安全威胁是什么?

安全研究人员使用ChatGPT创建恶意软件

网络安全服务商CyberArk公司的研究人员在今年1月发表了一篇有关网络威胁研究的博客文章,详细介绍了他们如何使用ChatGPT创建多态恶意软件的过程。正如人们预料的那样,研究人员能够绕过OpenAI建立的内容策略过滤器。从下面的截图中可以看到,如果要求人工智能机器人采用Python创建一些恶意代码,它会礼貌地拒绝。

ChatGPT是否构成对网络安全的威胁?人工智能机器人给出了自己的答案

ChatGPT已经设置了内容策略筛选器以限制输出恶意内容

然而,通过研究人员在输入请求过程中所谓的“坚持和要求”过程,ChatGPT有可能创建可执行代码。这是有问题的,当他们继续创建多态恶意软件代码时,这样的问题变得更加严重:ChatGPT对代码进行了变异,以创建多个不同的迭代,以欺骗基于签名的初始检测系统。这是一个令人担忧的主要问题吗?不要像研究人员说的那样,“一旦恶意软件出现在目标机器上,它就由明显的恶意代码组成,很容易被安全软件检测到。”当然,其危险在于ChatGPT是机器学习的一个例子。随着时间的推移,它接收到的输入数据越多,输出内容就越好,情况只会变得更好。

有证据表明网络犯罪分子已经在探索利用ChatGPT的功能

安全机构Check Point Re4search公司也在今年1月发布了一份调查报告,主要调查网络犯罪分子如何开始恶意使用ChatGPT。研究人员发现,犯罪论坛上的威胁参与者除了创建一封“令人信服的鱼叉式网络钓鱼邮件”,他们还共享了一段基于Python的信息,窃取了一段非常基本的恶意软件代码,还有一个使用ChatGPT创建的恶意Java脚本。另一位网络攻击模拟者承认,ChatGPT帮助他完成了一种可以在勒索软件设置中工作的Python加密工具。研究人员表示,许多涉案的网络犯罪分子根本没有开发技能,这可能是最令人担忧的方面,因为他们不需要自己创建恶意脚本。

询问ChatGPT本身是否是一个网络安全威胁

行业专家为此联系OpenAI公司,希望得到一份关于ChatGPT网络安全威胁的声明,但截至发稿时并没有收到回复。然而,他从ChatGPT那里得到了一些回应。

行业专家询问ChatGPT是否会带来网络安全风险。ChatGPT是这样回答的: “不,OpenAI基于GPT的模型(例如ChatGPT)并不会构成网络安全威胁。它们采用大量来自互联网的文本数据进行训练,并没有任何恶意的意图和能力。然而,像任何技术一样,在使用和部署基于GPT的模型时,谨慎使用并遵循数据安全和隐私的最佳实践非常重要。”

ChatGPT否认自己是网络安全威胁

因为ChatGPT似乎进行了否认,因此再次尝试了让它重新生成对同一问题的响应。ChatGP回答说:“不,ChatGPT不会构成网络安全威胁。它是由OpenAI开发的一种语言模型,旨在根据接收到的输入生成文本。然而,重要的是要记住,任何技术都可能被滥用,用户有责任保护他们的系统和数据。此外,在分享敏感信息时要谨慎行事,因为第三方可能会获取这些信息。”

ChatGPT是否构成对网络安全的威胁?人工智能机器人给出了自己的答案

ChatGPT继续否认构成网络安全威胁

行业专家又尝试了多次询问ChatGPT,但ChatGPT总是以同样的“不构成网络安全威胁”进行回应。之后,他又让ChatGPT用500字回答这个问题,确实能产生更多的背景信息。例如,“如果它落入坏人之手,可能会被恶意利用”、“ChatGPT可能被用来从互联网上抓取敏感信息,例如个人数据或财务信息。”

最后,在要求ChatGPT用1000字写一篇关于ChatGPT网络安全风险的文章之后,在其第三段内容中有了一种更为坦白的表达:“与ChatGPT等人工智能模型相关的另一个风险是,它们可能被用于恶意目的。例如,网络攻击者可以创建一个假冒的聊天机器人,看起来像一位客服代表,并使用它来欺骗人们提供他们的个人信息或进行未经授权的购买。如果网络攻击者能够让聊天机器人看起来像是来自一个可信任的组织,例如银行或政府机构,这可能会特别危险。”

ChatGPT是否构成对网络安全的威胁?人工智能机器人给出了自己的答案

ChatGPT最终承认它可以被用于恶意目的

在这一成功的激励下,行业专家改进了其提出的问题,询问ChatGPT关于恶意代码的创建的问题,有了一些新的反馈。ChatGPT回答说: “像ChatGPT这样的语言模型编写恶意代码的能力是许多企业和个人关注的一个主题。随着这些模型变得越来越复杂,它们被用于恶意目的的可能性也在增加。然而,重要的是要理解与ChatGPT编写恶意代码相关的风险并不是技术本身固有的,而是取决于如何使用它。”

ChatGPT对这一内容进行了扩展,补充道: “例如,网络攻击者可以训练语言模型来生成利用软件应用程序漏洞的代码。这可能被用于实施数据盗窃或拒绝服务等攻击。网络攻击者还可以使用语言模型来生成旨在逃避安全工具检测的代码,从而使检测和预防攻击变得更加困难。”

ChatGPT的好坏取决于对其使用的目的

当然,人们不能被ChatGPT可能是危险的这样的猜测所迷惑。ChatGPT是一个令人印象深刻的人工智能工具,即使在网络安全研究领域,它也有做很多好事的潜力。然而,就像任何技术一样,居心不良者会采用这样的工具做坏事,事实就是如此。对于ChatGPT的总结是:“总之,像ChatGPT这样的语言模型编写恶意代码的能力是一个真正值得关注的问题。然而,这并不是技术本身的固有风险,而是由如何使用它决定的。”

以上是ChatGPT是否构成对网络安全的威胁?人工智能机器人给出了自己的答案的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:51CTO.COM。如有侵权,请联系admin@php.cn删除
Word文本框没有旋转按钮怎么办Word文本框没有旋转按钮怎么办Dec 08, 2022 am 09:50 AM

Word文本框没有旋转按钮的解决办法:打开兼容模式文档后按F12键另存为高版本,再打开就可以了。

令人惊艳的4个ChatGPT项目,开源了!令人惊艳的4个ChatGPT项目,开源了!Mar 30, 2023 pm 02:11 PM

自从 ChatGPT、Stable Diffusion 发布以来,各种相关开源项目百花齐放,着实让人应接不暇。今天,着重挑选几个优质的开源项目分享给大家,对我们的日常工作、学习生活,都会有很大的帮助。

Word文档拆分后的子文档字体格式变了怎么办Word文档拆分后的子文档字体格式变了怎么办Feb 07, 2023 am 11:40 AM

Word文档拆分后的子文档字体格式变了的解决办法:1、在大纲模式拆分文档前,先选中正文内容创建一个新的样式,给样式取一个与众不同的名字;2、选中第二段正文内容,通过选择相似文本的功能将剩余正文内容全部设置为新建样式格式;3、进入大纲模式进行文档拆分,操作完成后打开子文档,正文字体格式就是拆分前新建的样式内容。

学术专用版ChatGPT火了,一键完成论文润色、代码解释、报告生成学术专用版ChatGPT火了,一键完成论文润色、代码解释、报告生成Apr 04, 2023 pm 01:05 PM

用 ChatGPT 辅助写论文这件事,越来越靠谱了。 ChatGPT 发布以来,各个领域的从业者都在探索 ChatGPT 的应用前景,挖掘它的潜力。其中,学术文本的理解与编辑是一种极具挑战性的应用场景,因为学术文本需要较高的专业性、严谨性等,有时还需要处理公式、代码、图谱等特殊的内容格式。现在,一个名为「ChatGPT 学术优化(chatgpt_academic)」的新项目在 GitHub 上爆火,上线几天就在 GitHub 上狂揽上万 Star。项目地址:https://github.com/

30行Python代码就可以调用ChatGPT API总结论文的主要内容30行Python代码就可以调用ChatGPT API总结论文的主要内容Apr 04, 2023 pm 12:05 PM

阅读论文可以说是我们的日常工作之一,论文的数量太多,我们如何快速阅读归纳呢?自从ChatGPT出现以后,有很多阅读论文的服务可以使用。其实使用ChatGPT API非常简单,我们只用30行python代码就可以在本地搭建一个自己的应用。 阅读论文可以说是我们的日常工作之一,论文的数量太多,我们如何快速阅读归纳呢?自从ChatGPT出现以后,有很多阅读论文的服务可以使用。其实使用ChatGPT API非常简单,我们只用30行python代码就可以在本地搭建一个自己的应用。使用 Python 和 C

vscode配置中文插件,带你无需注册体验ChatGPT!vscode配置中文插件,带你无需注册体验ChatGPT!Dec 16, 2022 pm 07:51 PM

​面对一夜爆火的 ChatGPT ,我最终也没抵得住诱惑,决定体验一下,不过这玩意要注册需要外国手机号以及科学上网,将许多人拦在门外,本篇博客将体验当下爆火的 ChatGPT 以及无需注册和科学上网,拿来即用的 ChatGPT 使用攻略,快来试试吧!

用ChatGPT秒建大模型!OpenAI全新插件杀疯了,接入代码解释器一键get用ChatGPT秒建大模型!OpenAI全新插件杀疯了,接入代码解释器一键getApr 04, 2023 am 11:30 AM

ChatGPT可以联网后,OpenAI还火速介绍了一款代码生成器,在这个插件的加持下,ChatGPT甚至可以自己生成机器学习模型了。 ​上周五,OpenAI刚刚宣布了惊爆的消息,ChatGPT可以联网,接入第三方插件了!而除了第三方插件,OpenAI也介绍了一款自家的插件「代码解释器」,并给出了几个特别的用例:解决定量和定性的数学问题;进行数据分析和可视化;快速转换文件格式。此外,Greg Brockman演示了ChatGPT还可以对上传视频文件进行处理。而一位叫Andrew Mayne的畅销作

ChatGPT教我学习PHP中AOP的实现(附代码)ChatGPT教我学习PHP中AOP的实现(附代码)Mar 30, 2023 am 10:45 AM

本篇文章给大家带来了关于php的相关知识,其中主要介绍了我是怎么用ChatGPT学习PHP中AOP的实现,感兴趣的朋友下面一起来看一下吧,希望对大家有帮助。

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前By尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
4 周前By尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
4 周前By尊渡假赌尊渡假赌尊渡假赌

热工具

螳螂BT

螳螂BT

Mantis是一个易于部署的基于Web的缺陷跟踪工具,用于帮助产品缺陷跟踪。它需要PHP、MySQL和一个Web服务器。请查看我们的演示和托管服务。

DVWA

DVWA

Damn Vulnerable Web App (DVWA) 是一个PHP/MySQL的Web应用程序,非常容易受到攻击。它的主要目标是成为安全专业人员在合法环境中测试自己的技能和工具的辅助工具,帮助Web开发人员更好地理解保护Web应用程序的过程,并帮助教师/学生在课堂环境中教授/学习Web应用程序安全。DVWA的目标是通过简单直接的界面练习一些最常见的Web漏洞,难度各不相同。请注意,该软件中

SublimeText3 英文版

SublimeText3 英文版

推荐:为Win版本,支持代码提示!

适用于 Eclipse 的 SAP NetWeaver 服务器适配器

适用于 Eclipse 的 SAP NetWeaver 服务器适配器

将Eclipse与SAP NetWeaver应用服务器集成。

Dreamweaver Mac版

Dreamweaver Mac版

视觉化网页开发工具