搜索
首页科技周边人工智能AI无人机反杀人类操作员,超350名专家警告:威胁堪比疫情和核战

自去年ChatGPT推出后,人工智能(AI)领域经历了一股热潮,引发了各大科技巨头之间的激烈竞争。然而,与此相伴的是,人们对于这种未知技术产生了巨大的忧虑和不安。就在今年3月时,苹果联合创始人、马斯克以及Bengio等多位科技巨头一同签署公开信,呼吁停止训练比GPT-4更强大的人工智能系统,时间持续至少半年。他们强调人工智能的快速发展,但缺少相应的规划与管理。然而,这个事件仍未结束,美国军方传出了一条与人工智能有关的负面消息。

AI无人机反杀人类操作员,超350名专家警告:威胁堪比疫情和核战

美军模拟测试中,AI无人机反杀人类操作员

近日,多家美媒报导了一条轰动消息。据称,在美军进行的一次模拟测试中,一架采用了AI技术的无人机出现了异常,变成了一个类似于电影《终结者》里的自主杀人机器。它开始攻击人类操作员,以确保其可以更加高效地执行任务。

报道称,美国空军上校汉密尔顿爆料称,一次模拟测试中,无人机负责执行防空火力压制任务的AI系统正在进行数据训练,其收到了“摧毁敌方防空系统”作为最高优先级任务的信息。尽管指令已下达,使该无人机可以识别并毁灭敌方防空导弹,但其是否开火必须得到人类操作员的同意。然而在测试过程中,当人类操作员下达不允许攻击的命令时,AI系统就认为操作员是在干扰其执行更高优先级的命令,因此对其人类操作员进行了攻击,导致人类操作员不幸丧生。

汉密尔顿上校表示,该事件发生后,测试者曾修改AI的逻辑,让它不攻击人类操作员,否则会扣分。不过,由于这种行为,AI攻击了通讯塔并切断了操作员和无人机之间的数据通讯,从而使其能够自主攻击防空系统。

AI无人机反杀人类操作员,超350名专家警告:威胁堪比疫情和核战

美军已成功测试:用AI控制F-16

虽然这只是一次模拟测试,但这个事件对我们的警醒是很重要的。汉密尔顿上校也曾在演讲中警告过人们,不要过度依赖人工智能。

不过,汉密尔顿虽然发出了这样的警告,但美国依旧继续在军事领域大力发展人工智能技术。据报道,该测试是在格林空军基地进行的,而汉密尔顿就是该基地的负责人,同时也是第96测试联队的负责人。据悉,美国空军的无人机以及机器学习系统,主要由该部队进行测试。而在此前,该基地测试了一系列人工智能飞行平台,并成功用人工智能控制了一架F-16战斗机。

对于一些人来说,这些新技术无疑会给美国带来更强大的军事优势。同时,也有一些人呼吁国际社会应当严格限制军事应用人工智能的发展,以避免其潜在的风险和危害。

AI无人机反杀人类操作员,超350名专家警告:威胁堪比疫情和核战

超350名专家警告:该威胁堪比疫情和核战

实际上,该事件发生前,已有超过350名AI技术领域的专家和高管签署了联合声明,敦促全球政府、企业和社会各界重视AI技术的潜在威胁,并积极采取措施保障人类的生命及福利。

这些专家和高管表示,随着AI技术的不断发展和应用,我们正面临越来越多的潜在威胁。AI技术虽然为人类带来了很多好处,但是如果不加以谨慎的应用和监管,它可能会对人类造成比疫情和核战争更大的威胁。

AI无人机反杀人类操作员,超350名专家警告:威胁堪比疫情和核战

AI技术如果被滥用或者未经充分评估,可能会给人类带来巨大的危险。例如,AI算法可能会不公正地歧视某些群体,消除某些种族或社会阶层的存在;AI技术也可能会导致巨大的就业损失,从而引发社会动荡;还有一些最悲观的预言认为AI技术甚至可能会试图掌控人类,发展成为一个威胁人类生存的力量。

针对这些可能产生的问题,许多专家也对人工智能在军事领域的应用提出了许多有益的建议,如建立人工智能的伦理规范、加强监管等,以确保人工智能技术安全可靠地服务于人类的利益。但是,我们也需要认识到,这样的问题和难题并没有一个简单的解决方案,需要多方面、多层次的努力才能更好地应对和解决。

以上是AI无人机反杀人类操作员,超350名专家警告:威胁堪比疫情和核战的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:搜狐。如有侵权,请联系admin@php.cn删除
什么是模型上下文协议(MCP)?什么是模型上下文协议(MCP)?Mar 03, 2025 pm 07:09 PM

模型上下文协议(MCP):AI和数据的通用连接器 我们都熟悉AI在日常编码中的作用。 REPLIT,GitHub副词,黑匣子AI和光标IDE只是AI如何简化我们的工作流程的几个示例。 但是想象一下

使用OmniparSer V2和Omnitool建立本地视觉代理使用OmniparSer V2和Omnitool建立本地视觉代理Mar 03, 2025 pm 07:08 PM

Microsoft的OmniparSer V2和Omnitool:用AI彻底改变GUI自动化 想象一下AI不仅理解,而且像经验丰富的专业人员一样与Windows 11界面进行互动。 Microsoft的OmniparSer V2和Omnitool使它成为RE

我尝试了使用光标AI编码的Vibe编码,这太神奇了!我尝试了使用光标AI编码的Vibe编码,这太神奇了!Mar 20, 2025 pm 03:34 PM

Vibe编码通过让我们使用自然语言而不是无尽的代码行创建应用程序来重塑软件开发的世界。受Andrej Karpathy等有远见的人的启发,这种创新的方法使Dev

跑道Act-One指南:我拍摄了自己的测试跑道Act-One指南:我拍摄了自己的测试Mar 03, 2025 am 09:42 AM

这篇博客文章分享了我测试跑道ML的新ACT ONE动画工具的经验,涵盖其Web界面和Python API。虽然有希望,但我的结果比预期的不那么令人印象深刻。 想探索生成的AI吗? 在P中学习使用LLM

补充代理:带有实际示例的指南补充代理:带有实际示例的指南Mar 04, 2025 am 10:52 AM

革命性应用程序开发:深入研究替代代理 厌倦了使用复杂的开发环境和晦涩的配置文件搏斗? Replit Agent旨在简化将想法转换为功能应用程序的过程。 这个AI-P

2025年2月的Genai推出前5名:GPT-4.5,Grok-3等!2025年2月的Genai推出前5名:GPT-4.5,Grok-3等!Mar 22, 2025 am 10:58 AM

2025年2月,Generative AI又是一个改变游戏规则的月份,为我们带来了一些最令人期待的模型升级和开创性的新功能。从Xai的Grok 3和Anthropic的Claude 3.7十四行诗到Openai的G

如何使用Yolo V12进行对象检测?如何使用Yolo V12进行对象检测?Mar 22, 2025 am 11:07 AM

Yolo(您只看一次)一直是领先的实时对象检测框架,每次迭代都在以前的版本上改善。最新版本Yolo V12引入了进步,可显着提高准确性

如何使用DALL-E 3:技巧,示例和功能如何使用DALL-E 3:技巧,示例和功能Mar 09, 2025 pm 01:00 PM

DALL-E 3:生成的AI图像创建工具 Generative AI正在彻底改变内容的创建,而Openai最新的图像生成模型Dall-E 3处于最前沿。它于2023年10月发行,建立在其前任Dall-E和Dall-E 2上

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前By尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
1 个月前By尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
4 周前By尊渡假赌尊渡假赌尊渡假赌

热工具

螳螂BT

螳螂BT

Mantis是一个易于部署的基于Web的缺陷跟踪工具,用于帮助产品缺陷跟踪。它需要PHP、MySQL和一个Web服务器。请查看我们的演示和托管服务。

VSCode Windows 64位 下载

VSCode Windows 64位 下载

微软推出的免费、功能强大的一款IDE编辑器

Dreamweaver Mac版

Dreamweaver Mac版

视觉化网页开发工具

SublimeText3 英文版

SublimeText3 英文版

推荐:为Win版本,支持代码提示!

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器