自去年ChatGPT推出后,人工智能(AI)领域经历了一股热潮,引发了各大科技巨头之间的激烈竞争。然而,与此相伴的是,人们对于这种未知技术产生了巨大的忧虑和不安。就在今年3月时,苹果联合创始人、马斯克以及Bengio等多位科技巨头一同签署公开信,呼吁停止训练比GPT-4更强大的人工智能系统,时间持续至少半年。他们强调人工智能的快速发展,但缺少相应的规划与管理。然而,这个事件仍未结束,美国军方传出了一条与人工智能有关的负面消息。
美军模拟测试中,AI无人机反杀人类操作员
近日,多家美媒报导了一条轰动消息。据称,在美军进行的一次模拟测试中,一架采用了AI技术的无人机出现了异常,变成了一个类似于电影《终结者》里的自主杀人机器。它开始攻击人类操作员,以确保其可以更加高效地执行任务。
报道称,美国空军上校汉密尔顿爆料称,一次模拟测试中,无人机负责执行防空火力压制任务的AI系统正在进行数据训练,其收到了“摧毁敌方防空系统”作为最高优先级任务的信息。尽管指令已下达,使该无人机可以识别并毁灭敌方防空导弹,但其是否开火必须得到人类操作员的同意。然而在测试过程中,当人类操作员下达不允许攻击的命令时,AI系统就认为操作员是在干扰其执行更高优先级的命令,因此对其人类操作员进行了攻击,导致人类操作员不幸丧生。
汉密尔顿上校表示,该事件发生后,测试者曾修改AI的逻辑,让它不攻击人类操作员,否则会扣分。不过,由于这种行为,AI攻击了通讯塔并切断了操作员和无人机之间的数据通讯,从而使其能够自主攻击防空系统。
美军已成功测试:用AI控制F-16
虽然这只是一次模拟测试,但这个事件对我们的警醒是很重要的。汉密尔顿上校也曾在演讲中警告过人们,不要过度依赖人工智能。
不过,汉密尔顿虽然发出了这样的警告,但美国依旧继续在军事领域大力发展人工智能技术。据报道,该测试是在格林空军基地进行的,而汉密尔顿就是该基地的负责人,同时也是第96测试联队的负责人。据悉,美国空军的无人机以及机器学习系统,主要由该部队进行测试。而在此前,该基地测试了一系列人工智能飞行平台,并成功用人工智能控制了一架F-16战斗机。
对于一些人来说,这些新技术无疑会给美国带来更强大的军事优势。同时,也有一些人呼吁国际社会应当严格限制军事应用人工智能的发展,以避免其潜在的风险和危害。
超350名专家警告:该威胁堪比疫情和核战
实际上,该事件发生前,已有超过350名AI技术领域的专家和高管签署了联合声明,敦促全球政府、企业和社会各界重视AI技术的潜在威胁,并积极采取措施保障人类的生命及福利。
这些专家和高管表示,随着AI技术的不断发展和应用,我们正面临越来越多的潜在威胁。AI技术虽然为人类带来了很多好处,但是如果不加以谨慎的应用和监管,它可能会对人类造成比疫情和核战争更大的威胁。
AI技术如果被滥用或者未经充分评估,可能会给人类带来巨大的危险。例如,AI算法可能会不公正地歧视某些群体,消除某些种族或社会阶层的存在;AI技术也可能会导致巨大的就业损失,从而引发社会动荡;还有一些最悲观的预言认为AI技术甚至可能会试图掌控人类,发展成为一个威胁人类生存的力量。
针对这些可能产生的问题,许多专家也对人工智能在军事领域的应用提出了许多有益的建议,如建立人工智能的伦理规范、加强监管等,以确保人工智能技术安全可靠地服务于人类的利益。但是,我们也需要认识到,这样的问题和难题并没有一个简单的解决方案,需要多方面、多层次的努力才能更好地应对和解决。
以上是AI无人机反杀人类操作员,超350名专家警告:威胁堪比疫情和核战的详细内容。更多信息请关注PHP中文网其他相关文章!

由于AI的快速整合而加剧了工作场所的迅速危机危机,要求战略转变以外的增量调整。 WTI的调查结果强调了这一点:68%的员工在工作量上挣扎,导致BUR

约翰·塞尔(John Searle)的中国房间论点:对AI理解的挑战 Searle的思想实验直接质疑人工智能是否可以真正理解语言或具有真正意识。 想象一个人,对下巴一无所知

与西方同行相比,中国的科技巨头在AI开发方面的课程不同。 他们不专注于技术基准和API集成,而是优先考虑“屏幕感知” AI助手 - AI T

MCP:赋能AI系统访问外部工具 模型上下文协议(MCP)让AI应用能够通过标准化接口与外部工具和数据源交互。由Anthropic开发并得到主要AI提供商的支持,MCP允许语言模型和智能体发现可用工具并使用合适的参数调用它们。然而,实施MCP服务器存在一些挑战,包括环境冲突、安全漏洞以及跨平台行为不一致。 Forbes文章《Anthropic的模型上下文协议是AI智能体发展的一大步》作者:Janakiram MSVDocker通过容器化解决了这些问题。基于Docker Hub基础设施构建的Doc

有远见的企业家采用的六种策略,他们利用尖端技术和精明的商业敏锐度来创造高利润的可扩展公司,同时保持控制权。本指南是针对有抱负的企业家的,旨在建立一个

Google Photos的新型Ultra HDR工具:改变图像增强的游戏规则 Google Photos推出了一个功能强大的Ultra HDR转换工具,将标准照片转换为充满活力的高动态范围图像。这种增强功能受益于摄影师

技术架构解决了新兴的身份验证挑战 代理身份集线器解决了许多组织仅在开始AI代理实施后发现的问题,即传统身份验证方法不是为机器设计的

(注意:Google是我公司的咨询客户,Moor Insights&Strateging。) AI:从实验到企业基金会 Google Cloud Next 2025展示了AI从实验功能到企业技术的核心组成部分的演变,


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

VSCode Windows 64位 下载
微软推出的免费、功能强大的一款IDE编辑器

Atom编辑器mac版下载
最流行的的开源编辑器

EditPlus 中文破解版
体积小,语法高亮,不支持代码提示功能

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 英文版
推荐:为Win版本,支持代码提示!