2023년 ChatGPT 보안이 어디에 있을지에 대한 8가지 분석가 예측

인공지능 개발사인 OpenAI가 최근 출시한 ChatGPT-4는 또 한 번 세계를 충격에 빠뜨렸지만, 데이터 보안 분야에서 이것이 어떤 의미를 갖는지는 아직 결정되지 않았습니다. 한편으로는 맬웨어와 랜섬웨어를 생성하는 것이 그 어느 때보다 쉬워졌습니다. 반면 ChatGPT는 일련의 새로운 방어 사용 사례를 제공할 수도 있습니다.

인공지능 개발사 OpenAI가 최근 출시한 ChatGPT-4는 다시 한 번 세계를 충격에 빠뜨렸지만, 데이터 보안 분야에서 이것이 어떤 의미를 갖는지는 아직 결정되지 않았습니다. 한편으로는 맬웨어와 랜섬웨어를 생성하는 것이 그 어느 때보다 쉬워졌습니다. 반면 ChatGPT는 일련의 새로운 방어 사용 사례를 제공할 수도 있습니다.

업계 언론은 최근 세계 최고의 사이버 보안 분석가들을 인터뷰한 결과 2023년 ChatGPT 및 생성 인공 지능의 개발에 대해 다음과 같이 예측했습니다.

• ChatGPT는 사이버 범죄의 문턱을 낮출 것입니다.
• 설득력 있는 피싱 이메일을 만드는 것이 더 쉬워질 것입니다.
• 기업에는 AI 기술을 이해하는 보안 전문가가 필요합니다.
• 기업은 생성 AI 출력의 내용을 검증해야 합니다.
• 제너레이티브 AI는 기존 위협을 업그레이드합니다.
• 기업은 ChatGPT 사용에 대한 기대치를 정의합니다.
• 인공지능은 인간의 능력을 향상시킬 것입니다.
• 기업은 여전히 ​​예전과 같은 위협에 직면하게 될 것입니다.

다음은 사이버 보안 분석가의 몇 가지 예측입니다.

1.ChatGPT는 사이버 범죄의 문턱을 낮춥니다

McAfee 수석 부사장 겸 CTO인 Steve Grobman은 다음과 같이 말했습니다. “ChatGPT는 사용 문턱을 낮추어 전통적으로 고도로 숙련된 인재와 많은 돈의 투자가 필요한 일부 기술을 만듭니다. 이제 인터넷에 접속할 수 있는 사람은 누구나 이를 사용할 수 있습니다. 이제 숙련되지 않은 사이버 공격자는 대량으로 악성 코드를 생성할 수 있습니다.

예를 들어 수백 명에게 전송되는 문자 메시지를 생성하는 코드를 작성하도록 프로그램에 요청할 수 있습니다. 범죄가 아닌 마케팅 팀은 수신자를 안전한 웹사이트로 연결하는 대신 악의적인 위협이 있는 웹사이트로 연결합니다.

장단점이 있는 모든 최신 기술이나 애플리케이션과 마찬가지로 ChatGPT는 좋은 행위자와 악의적인 행위자 모두가 사용하므로 사이버 보안 커뮤니티는 이를 어떻게 악용할 수 있는지 경계해야 합니다.”

2. 설득력 있는 피싱 생성 이메일은 더 쉬워질 것입니다

McKinsey & Company의 파트너인 Justin Greis는 다음과 같이 말했습니다. “대체로 말하면 생성 AI는 모든 도구와 마찬가지로 선의로 사용될 수 있는 도구입니다. 오늘날 위협 행위자와 호기심 많은 연구자들은 잠재적인 사이버 공격을 시작하기 위해 더 설득력 있는 피싱 이메일을 만들고 악성 코드와 스크립트를 생성하고 있습니다. 심지어 더 좋고 더 빠른 인텔리전스를 쿼리하기 위해

그러나 모든 남용 사례에 대응하기 위한 제어 장치가 계속 설치될 것입니다. 이것이 사이버 보안의 본질이며, 적을 능가하기 위한 끝없는 싸움입니다.

악의적인 피해를 입히는 데 사용될 수 있는 모든 도구와 마찬가지로 기업은 대중을 남용으로부터 보호하기 위해 가드레일과 안전 장치를 마련해야 합니다. ”

3. 기업에는 인공지능을 이해하는 보안 전문가가 필요합니다

SANS Institute의 SANS 연구원인 David Hoelzer는 “ChatGPT는 현재 전 세계적으로 인기가 있지만 아직 초기 단계에 불과합니다. 이는 사이버 보안 환경에 대한 영향을 의미합니다. 이는 ChatGPT가 할 수 있는 기능 때문이 아니라 AI/ML을 주목받게 하기 때문에 양쪽 모두에서 AI/ML 채택의 새로운 시대의 시작을 의미합니다. ChatGPT는 경험이 부족한 위협 행위자에게 빠르고 쉽게 변명이나 사기를 생성하고 대규모로 정교한 피싱 공격을 배포할 수 있는 새로운 기능을 제공하여 사회 공학을 민주화하는 데 잠재적으로 사용될 수 있습니다. 새로운 공격이나 방어에 있어서는 능력이 떨어지는 것이 아니라 사람들이 훈련받지 않은 일을 하도록 요구하기 때문입니다.

이것이 보안 전문가에게 무엇을 의미합니까? 아니요. 보안 전문가로서 우리 중 많은 사람들이 ChatGPT가 기본 기능을 얼마나 잘 수행하는지 테스트했습니다. 펜 테스트 시나리오를 작성할 수 있습니까? 피싱 구실을 작성할 수 있습니까? 공격 인프라 및 C2 구축에 어떻게 도움이 될 수 있습니까?

그러나 더 큰 보안 대화는 ChatGPT에 관한 것이 아닙니다. 현재 AI/ML 기술을 구축, 사용 및 해석하는 방법을 이해하는 보안 역할이 있는지 여부에 관한 것입니다. "

4. 기업은 생성 AI의 출력 내용을 검증해야 합니다

Gartner 분석가 Avivah Litan은 "어떤 경우에는 보안 담당자가 출력 내용을 확인할 수 없으면 ChatGPT로 인한 문제가 더 커질 것입니다. 그보다 더 많은 문제를 해결합니다. 예를 들어, 일부 취약점 탐지를 필연적으로 놓치고 기업에 보안에 대한 잘못된 인식을 심어줄 것입니다.

마찬가지로 감지된 피싱 공격 감지를 놓치고 부정확하거나 오래된 위협 인텔리전스를 제공할 수도 있습니다.

그래서 우리는 2023년에 ChatGPT를 사용하는 기업의 데이터 유출로 이어지는 누락된 사이버 공격과 취약점에 대해 ChatGPT가 책임을 지게 될 것임을 확실히 보게 될 것입니다. "

5. Generative AI는 기존 위협을 업그레이드할 것입니다

RSA의 최고 정보 보안 책임자인 Rob Hughes는 "많은 신기술과 마찬가지로 ChatGPT가 새로운 위협을 가져올 것이라고 생각하지 않습니다. 보안 환경에 가져올 가장 큰 변화는 기존 위협, 특히 피싱을 증폭, 가속화 및 강화하는 것이라고 생각합니다.

기본적으로 ChatGPT는 사이버 공격자에게 구문적으로 올바른 피싱 이메일을 제공할 수 있는데, 이는 요즘 자주 볼 수 없는 기능입니다.

ChatGPT는 오프라인 서비스로 남아 있지만 사이버 위협 행위자가 인터넷 액세스, 자동화 및 인공 지능을 결합하여 지속적이고 지능적인 공격을 생성하는 것은 시간 문제입니다.

챗봇을 사용하면 인간이 스팸 미끼를 작성할 필요가 없습니다. 대신, "인터넷 데이터를 사용하여 누구 누구에게 익숙해지고 링크를 클릭할 때까지 계속 메시지를 보내세요."라는 스크립트를 작성할 수 있습니다.

피싱은 여전히 ​​사이버 보안 침해의 주요 원인 중 하나입니다. 수백 대의 사용자 컴퓨터에서 대규모로 작업하면서 자연어 봇이 분산된 스피어 피싱 도구를 사용하게 하면 보안 팀이 업무를 수행하기가 더 어려워집니다. ”

6. 기업은 ChatGPT 사용에 대한 기대치를 정의할 것입니다.

KPMG의 사이버 보안 서비스 책임자인 Matt Miller는 ChatGPT를 탐색하고 채택하는 기업이 많아질수록 기업을 돕기 위한 몇 가지 단계는 다음과 같습니다. 2023년에 앞서 나가세요:

(1) 기업 환경에서 ChatGPT 및 유사한 솔루션을 어떻게 사용해야 하는지에 대한 기대치를 설정하고 허용 가능한 사용 정책을 개발하고 직원이 신뢰할 수 있는 모든 승인된 솔루션, 사용 사례 및 목록을 정의합니다. 응답의 정확성을 확인하기 위한 점검이 필요합니다.

(2) 인지 자동화 솔루션의 사용, 특히 지적 재산, 개인 데이터 관리 및 적절한 포함과 관련된 규정의 영향과 발전을 검토하기 위한 내부 프로세스를 확립합니다.

(3) 코드의 작동 탄력성을 테스트하고 악성 페이로드를 검색하는 데 특별한 주의를 기울여 기술적인 네트워크 제어를 구현합니다. 도구로 생성된 모든 코드가 표준 검토 프로세스를 거쳐 생산 환경에 직접 복사될 수 없도록 하는 데이터 손실 방지 프로그램, 직원이 승인되지 않은 솔루션에 액세스할 때 경고하도록 네트워크 필터링 구성

7.

ESG Corp. Analyst Services의 수석 부사장 겸 수석 분석가인 Doug Cahill은 다음과 같이 말했습니다. “대부분의 신기술과 마찬가지로 ChatGPT는 사이버 공격자와 방어자를 위한 리소스가 될 것입니다. 적대적 사용 사례에는 모범 사례와 위협을 추구하는 정찰과 방어자가 포함됩니다. 지능 시장. 다른 ChatGPT 사용 사례와 마찬가지로 AI 시스템이 이미 크고 증가하는 데이터 코퍼스에 대해 교육을 받았기 때문에 사용자 테스트 응답의 충실도는 다양합니다.

ChatGPT 사용 사례가 널리 사용되는 반면, 위협 사냥과 규칙 및 방어 모델 업데이트를 위해 팀 구성원 간에 위협 인텔리전스를 공유하는 것이 유망합니다. 그러나 ChatGPT는 모든 유형의 위협 조사 애플리케이션 시나리오에 필요한 인적 요소를 대체하는 것이 아니라 AI를 강화하는 또 다른 예입니다. "

8. 기업은 여전히 ​​예전과 같은 위협에 직면할 것입니다

Acronis의 글로벌 연구 담당 부사장인 Candid Wuest는 "ChatGPT는 강력한 언어 생성 모델이지만 이 기술은 독립형 도구가 아니며 작동할 수 없습니다. 독립적으로. 이는 사용자 입력에 의존하며 훈련된 데이터에 의해 제한됩니다.

예를 들어, 이 모델에서 생성된 피싱 텍스트는 여전히 이메일 계정에서 전송되어 웹사이트로 연결되어야 합니다. 이는 이를 탐지하는 데 도움이 되도록 분석할 수 있는 전통적인 지표입니다.

ChatGPT에는 익스플로잇과 페이로드를 작성할 수 있는 기능이 있지만 테스트 결과 이러한 기능은 처음 제안된 것만큼 좋지 않은 것으로 나타났습니다. 이 플랫폼은 맬웨어를 작성하는 데에도 사용될 수 있으며, 이 코드는 이미 온라인과 다양한 포럼에서 찾을 수 있지만 ChatGPT를 사용하면 대중이 더 쉽게 접근할 수 있습니다.

그러나 변경 사항이 여전히 제한되어 있어 이 악성코드는 행동 기반 탐지 및 기타 방법을 통해 쉽게 탐지할 수 있습니다. ChatGPT는 취약점을 표적으로 삼거나 악용하도록 특별히 설계된 것은 아니지만 자동화되거나 시뮬레이션된 메시지의 빈도를 높일 수 있습니다. 사이버 범죄자의 진입 장벽을 낮추지만 기존 기업에 완전히 새로운 공격 방법을 도입하지는 않습니다. ”

위 내용은 2023년 ChatGPT 보안이 어디에 있을지에 대한 8가지 분석가 예측의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!