이제 AI 해커에 대한 걱정을 시작할 때인가?

AI 공격은 먼저 대상을 결정한 다음 피드백을 받아 지속적으로 최적화하고 개선합니다. 언젠가 AI가 완전히 새로운 솔루션을 개발하거나 솔루션 최적화를 시작할 수 있다면 그 치사율은 엄청날 것입니다.

시스템 모호성은 AI 해커에 대한 현재의 장벽입니다.

바둑과 같은 게임의 경우 규칙, 목표 및 피드백이 모두 간단하고 확실합니다. . GPT-3 AI는 자신이 살고 있는 세상이 텍스트뿐이기 때문에 일관된 기사를 작성할 수 있습니다. 그렇기 때문에 현재 많은 해커 보상 활동은 시뮬레이션된 환경에서 이루어지고 있으며, 모두 인공적이고 모든 제약이 있고 모든 규칙이 AI를 위해 준비되어 있습니다.

시스템의 모호함이 핵심입니다. 세법에는 납부할 세금을 결정하는 공식이 있기 때문에 모든 글로벌 세법을 AI에 입력할 수 있습니다. 그럼에도 불구하고 모든 법률에는 모호함이 있습니다. 블러는 코드로 변환하기 어렵고 AI가 처리하기 까다롭습니다. 따라서 AI가 있더라도 가까운 미래에는 여전히 많은 세무 변호사가 필요할 것입니다.

대부분의 인간 시스템은 더 모호합니다. AI가 실제 스포츠 게임(예: 하키 게임)을 해킹하는 데 사용될 수 있습니까? 어려울까 두렵습니다. AI는 게임의 규칙을 이해해야 하지만 그것만으로는 충분하지 않습니다. 인간의 생리, 클럽과 공의 공기 역학 등도 이해해야 합니다. 물론 완전히 불가능하다고 말할 수는 없지만 Go를 다루는 것보다 확실히 훨씬 어렵습니다.

단기적으로는 사회 시스템이 극도로 복잡하고 모호하기 때문에 AI 해커에 대한 시스템 방어력이 강화됩니다. 앞으로 AI 스포츠 해커가 등장할 가능성은 낮다. 로봇이 직접 게임에 참여하거나, 미래에 AI가 너무 발전해 광활한 세계를 모든 차원에서 이해할 수 있게 된다면 AI 스포츠 해커가 탄생할 수도 있다.

마찬가지로 카지노 AI 해커와 법적 절차 AI 해커도 개발이 쉽지 않습니다. AI가 개인이나 그룹의 작업을 시뮬레이션하는 데는 오랜 시간이 걸리며 당분간 불가능합니다.

하지만 AI의 비선형 진화 능력을 과소평가하지 마세요

세상은 AI 해커들로 가득 차 있습니다. 이것은 공상 과학 문제이지만 어리석은 공상 과학 문제는 아닙니다. AI는 빠르게 발전하고 있지만 그 진행은 불안정하고 일관되지 않습니다. 어렵다고 생각했던 문제가 쉬워질 수도 있고, 쉬웠다고 생각했던 문제가 어려워질 수도 있습니다. 수십 년 전만 해도 우리는 인공지능이 바둑을 정복하는 것이 불가능하다고 비웃었을 수도 있습니다. 바둑은 규칙이 복잡해서가 아니라 가능한 동작이 너무 많기 때문입니다. 지금은 무엇입니까? AI는 이미 바둑을 이겼습니다.

그러므로 AI 해커의 문제를 미리 생각하고 계획을 일찍 준비해야 합니다.

먼저 우리가 주목해야 할 것은 금융 시스템의 AI 해커일 수 있습니다. 금융 시스템의 규칙은 알고리즘에 의해 쉽게 악용되기 때문입니다. 고주파 거래 알고리즘은 좋은 예이며 앞으로 더욱 복잡해질 것입니다. 실시간 글로벌 금융정보를 AI에 탑재하고, 글로벌 법률 및 규정을 추가하고, 뉴스 정보를 추가하고, 기타 관련 정보를 추가한 뒤, AI에게 '최대 법적 이익' 또는 '최대한의 이익 획득'이라는 목표를 달성하도록 배정할 수 있습니다. ". 이익". 이때 인간이 이해할 수 없는 해킹 행위가 있을 수도 있는데, 이는 인간이 해킹 행위가 발생했다는 사실조차 깨닫지 못할 것이라는 의미이다. 물론 지금은 그런 일이 좀 먼 것 같다.

단기적으로는 AI가 인간과 협력하여 해킹 공격을 완료할 수도 있습니다. AI는 허점을 찾아낼 수 있고, 숙련된 회계사 또는 세무 변호사가 협업하고 풍부한 경험을 활용하여 허점을 이익을 위해 이용할 수 있는지 판단할 수 있습니다.

성숙한 AI 해커의 치명성은 헤아릴 수 없습니다.

인류 역사를 통틀어 해커 공격은 일반적으로 인간의 행동입니다. AI가 공격하기 시작하면 모든 것이 바뀔 것입니다. AI는 특정 방법에 국한되지 않으며 인간처럼 많은 제한을 받지 않을 것입니다. AI는 전혀 쉬지 않고 외계인처럼 생각하며 인간이 예측할 수 없는 방식으로 시스템을 해킹할 수 있습니다.

컴퓨터는 속도, 규모, 범위 및 복잡성이라는 4가지 측면에서 공격을 강화합니다. AI는 공격력을 여러 번 증가시킬 수 있습니다.

속도: 인간이 공격을 시작하는 데는 몇 달 또는 몇 년이 걸릴 수 있습니다. AI는 며칠, 몇 시간, 심지어 몇 초가 걸릴 수도 있습니다. 예를 들어, 미국 세금 코드 전체를 AI에 입력하고 누군가의 세금 고지서를 최소화할 계획을 찾도록 지시하면 어떻게 될까요? 다국적 기업이라면 AI를 활용해 글로벌 세법을 분석하고 기업의 세금을 줄일 수도 있다.

규모: AI가 취약점을 발견하면 이를 매우 대규모로 악용할 수 있습니다. AI가 금융시스템에 침투하기 시작하면 산업 전체를 지배하게 될 것이다. 그 당시에는 신용 시장, 세법, 일반 법률이 모두 부자들에게 유리하게 기울어질 수 있습니다. AI는 불평등을 악화시킬 것이다. 최초의 AI 금융 해커는 평등을 추구하는 연구자가 개발한 것이 아니라 다국적 은행, 헤지펀드, 경영 컨설턴트가 개발했을 수도 있습니다.

범위: 사회에는 해커를 처리할 계획이 있지만 주로 인간 해커를 다루고 인간의 속도로 공격합니다. AI가 세법의 수백 가지 허점을 빠르게 찾아낼 수 있다면 국가는 어떻게 대처할 것인가? 세법 개정 속도는 도저히 따라잡을 수 없을 것이다.

복잡성: AI의 도움으로 인간 해커는 인간의 도움 없이 이해할 수 있는 수준을 초과하는 복잡한 공격을 실행할 수 있습니다. AI의 정교한 통계 분석은 변수 간의 관계를 밝혀내고, 최고의 전략가와 전문가도 인지하지 못하는 숨겨진 취약점을 찾아낼 수 있습니다.

AI가 초고속, 초대규모, 초광범위, 초고복잡도로 공격을 시작하면 사회가 전혀 감당하지 못할 수도 있습니다. AI는 인간의 한계를 뛰어넘고 사회를 지배할 수 있을까? 일부 AI 연구자들은 실제로 걱정하고 있습니다. 지금은 추측처럼 들리지만, 인간에게는 여전히 조기 예방이 필요합니다. (샤오게)

위 내용은 이제 AI 해커에 대한 걱정을 시작할 때인가?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!