是时候开始担心AI黑客了吗?

阿杰大大_2190

阿杰大大_2190

2023-04-11

1237人浏览

转载

ai攻击会先确定目标,然后获得反馈,不断优化提升。如果某一天ai能开发出完全新颖的解决方案,甚至开始优化方案,那其杀伤力将是巨大的。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

系统模糊性是当前防御AI黑客的屏障

对于围棋之类的游戏,规则、目标、反馈都算是简单的,确定的,没有什么外在的东西搅局,输或者赢就是反馈。GPT-3 AI可以写连贯文章,因为它所在的世界只有文本。正因如此,当前的黑客奖励活动有许多是在模拟环境下进行的,全是人为、全都受约束,所有规则都是为AI准备的。

系统的模糊性才是关键所在。我们可以将全球的税法全部输入AI,因为税法里有公式,用来确定欠了多少税。即使如此,所有法律都有模糊性。模糊很难转化为代码,AI处理起来很棘手。所以即使有了AI,在可预见的未来还是需要大量税务律师。

大多的人类系统模糊性更强。AI能不能成为现实世界体育比赛黑客(比如曲棍球比赛)?恐怕很难。AI必须理解游戏的规则,但还远远不够,它还要理解人体生理学、球杆和球的空气动力学,等等。当然我们不能说绝对不可能,但肯定比应付围棋要难得多。

在短期内,正因为社会系统极为复杂,存在模糊性,增强了系统对AI黑客的防御力。未来一段时间不太可能会有AI体育黑客出现。如果机器人亲自参与比赛,或者未来某一天AI极为先进,能从所有维度理解广阔世界,那时也许会有AI体育黑客诞生。

同样的,赌场AI黑客、法律程序AI黑客也不太容易开发。AI想模拟个体或者群体工作还需要很长时间,暂时做不到。

但不要低估AI的非线性进化能力

世界到处是AI黑客,这是一个科幻问题,但它并不是愚蠢的科幻问题。AI飞速提升,它的进步是不稳定、不连贯的。我们原本认为很难的问题可能是容易的,认为容易的也可能被证明是很难的。几十年前我们可能会嘲笑AI,认为它不可能征服围棋,因为围棋太复杂:不是说规则复杂,而是棋步的可能性太多。现在呢?AI已经拿下围棋。

所以说,我们应该提前思考AI黑客问题,早早准备预案。

首先我们应该重视的可能是金融系统中的AI黑客,因为金融系统的规则容易被算法利用。高频率交易算法就是一个好例子,未来它会变得更复杂。我们可以用全球的金融实时信息武装AI,加上全球的法律法规,加上新闻信息,加上其它相关信息,然后指派AI完成一个目标,追求“最大的合法利润”或者“尽可能获得最大的利润”。到时可能会有一些黑客行为超出人类的理解,也就是说人类根本意识不到黑客行为发生了。当然,这样的事情现在看来还有些遥远。

在短期内,AI可能会配合人类完成黑客攻击。AI可以寻找漏洞,有经验的会计师或税务律师协作,利用丰富经验判断是否可以利用漏洞牟利。

AI舌诊面诊问诊医疗系统+诊疗商城系统源码
AI舌诊面诊问诊医疗系统+诊疗商城系统源码

AI 舌诊面诊问诊医疗系统 + 诊疗商城系统源码是一套结合 AI 辅助诊断与商品转化的健康类程序,基于浩创云、ThinkPHP(PHP)开发,支持微信服务号与 H5 端,适合做中医舌诊面诊问答、健康建议推送以及配套诊疗商品的运营。

下载

成熟AI黑客的杀伤力不可估量

纵观人类历史,黑客攻击一般都是人类行为。AI如果开始发起攻击,一切都会改变。AI不会限定于相当的方式,不会像人一样受到诸多限制。AI根本不休息,它们像外星人一样思考,它可以以人类无法预料的方式黑掉系统。

计算机会在四个维度增强攻击:速度、规模、范围和复杂度。AI可以将攻击力增强很多倍。

速度:人类发起攻击可能要几个月甚至几年,AI不需要,几天、几小时甚至几秒都有可能。例如,如果你把整个美国税法全部输入AI,命令它找出一套方案,将某个人的税款降到最低,会怎样?如果是跨国公司,可能会让AI分析全球的税法,给企业降税。

规模:一旦AI找到了漏洞,它可能会以超大规模利用漏洞。当AI开始闯入金融系统,它们会统治整个行业。到时信贷市场、税法、普通法律都可能向富人倾斜。AI会让不平等加剧。最先出现的AI金融黑客可能不是追求平等的研究人员开发的,而是跨国银行、对冲基金、管理顾问。

范围:社会的确有一套方案应对黑客,但应付的主要是人类黑客,是人类速度的攻击。如果AI可以快速从税法中找到几百个漏洞,国家如何应付,修正税法的速度根本跟不上。

复杂度:在AI的辅助下,人类黑客可以发起复杂攻击,其复杂度超过无辅助人类的理解水平。人工智能的复杂统计分析可以揭示变量之间的关系,找到隐藏漏洞,即使是最好的战略家和专家也可能没有意识到漏洞的存在。

当AI以超快速度、超大规模、超广范围、超高复杂度发起攻击时,社会可能根本无法处理。AI会不会突破人类的限制甚至统治社会?一些AI研究人员的确感到担忧。虽然现在听起来像是猜测,但人类早早预防还是有必要的。(晓歌)

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Navicat创建数据库教程
Navicat创建数据库教程

本专题整理Navicat创建数据库相关教程,介绍新建前的准备、基础设置和创建后的检查方法。内容兼顾入门学习及实际使用需求,帮助用户了解不同数据库类型下的操作差异,为后续建表、保存数据和日常管理提供参考。

2026.11.20

0

7

Navicat入门教程大全
Navicat入门教程大全

本专题整理Navicat入门教程,从认识软件界面到开展数据库操作,介绍初次使用需要了解的知识和方法。内容兼顾连接配置、数据管理及日常使用中的疑问,方便用户按学习进度查阅,为后续实践和独立操作打好基础。

2026.11.20

0

17

Navicat数据库连接配置指南
Navicat数据库连接配置指南

从确认数据库信息到建立可用连接,本专题串联Navicat连接数据库的相关知识和操作方法。既有初次配置时需要了解的基础内容,也有连接后的检查思路,方便用户按实际需求查阅教程,逐步熟悉数据库连接的设置流程。

2026.11.20

0

10

PHP8.6数组与数据处理教程
PHP8.6数组与数据处理教程

本专题汇总PHP8.6数组与数据处理教程,涵盖CSV读取和导出、引用遍历删除、array_filter回调模式、配置键名冲突、pathinfo文件名校验、GMP大整数进制转换及UTF-8正则筛选,说明升级兼容变化、输入范围和失败处理方法。

2026.11.20

0

8

PHP8.6升级迁移教程
PHP8.6升级迁移教程

本专题汇总PHP8.6升级迁移与弃用接口改造教程,涵盖反射调用、对象属性赋值、标识符更名、构造函数与__debugInfo调整,以及插件类名检查、常量导出、ArrayIterator排序、SPL和DTO查询参数转换,帮助梳理弃用提示并完成代码兼容改造。

2026.11.20

0

10

PHP8.6安装配置与FPM运维教程
PHP8.6安装配置与FPM运维教程

本专题汇总PHP8.6正式版安装部署与FPM运维教程,涵盖Linux并存安装、独立ini配置、扩展重新编译、Nginx切换与回滚、FPM状态监控和慢日志排查,以及环境变量、请求超时、OPcache刷新和预加载配置。

2026.11.20

0

10

Nginx CVE-2026-123007排查与防护指南
Nginx CVE-2026-123007排查与防护指南

Nginx HTTP/2漏洞该怎么修复?本专题围绕CVE-2026-123007,介绍安全版本升级、模块兼容检查和配置恢复方法,以及日志排查、权限设置等后续加固操作,方便你按实际部署情况查找对应教程。

2026.11.20

20

8

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

60

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

80

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程