사이버보안 분야 인공지능 챗봇의 발전 추세는 어떠한가?

OpenAI가 출시한 챗봇 ChatGPT는 많은 유용한 용도를 갖고 있지만, 다른 신기술과 마찬가지로 일부 사람들은 ChatGPT를 사악한 목적으로 사용할 것입니다.

이메일 작성과 같은 비교적 간단한 작업부터 서류 작성, 코드 컴파일과 같은 보다 복잡한 작업까지, OpenAI의 AI 기반 자연어 처리 도구인 ChatGPT는 출시 이후 상당한 관심을 불러일으켰습니다.

물론 ChatGPT는 완벽하지 않습니다. 학습하는 정보를 잘못 해석할 때 실수를 하는 것으로 알려져 있지만 많은 사람들은 ChatGPT와 기타 AI 도구를 인터넷의 미래로 봅니다.

OpenAI는 랜섬웨어, 키로거, 바이러스 또는 어느 정도 피해를 입히도록 설계된 기타 소프트웨어를 포함한 맬웨어 생성과 스팸 생성 시도, 사이버 범죄 사용 사례를 표적으로 삼는 항목을 ChatGPT의 서비스 약관에 추가했습니다.

그러나 다른 혁신적인 기술과 마찬가지로 이미 ChatGPT를 사악한 목적으로 사용하려는 사람들이 있습니다.

ChatGPT가 출시된 직후 사이버 범죄자들은 ​​피싱 이메일 작성이나 악성 코드 컴파일 지원과 같은 악의적인 사이버 활동을 수행하는 데 ChatGPT가 어떻게 사용될 수 있는지 논의하는 지하 포럼에 게시했습니다.

사이버 범죄자들이 노력의 일환으로 ChatGPT 및 기타 인공 지능 도구(예: Google Bard)를 사용하려고 시도할 것이라는 우려가 있습니다. 이러한 AI 도구는 사이버 공격에 혁명을 일으키지는 않지만 여전히 사이버 범죄자가 악의적인 캠페인을 보다 효과적으로 수행하는 데 도움이 될 수 있습니다.

사이버 보안 서비스 제공업체인 CheckPoint의 위협 인텔리전스 관리자인 Sergey Shykevich는 다음과 같이 말했습니다. “적어도 단기적으로는 ChatGPT가 완전히 새로운 유형의 사이버 공격을 창출할 것이라고는 생각하지 않습니다. 초점은 비용 효율성을 향상시키는 데 있을 것입니다.

피싱 공격은 악의적인 해킹 및 사기 캠페인의 가장 일반적인 구성 요소입니다. 사이버 공격자가 이메일을 사용하여 맬웨어, 피싱 링크를 확산시키거나 피해자에게 돈을 송금하도록 설득하는 데 사용되는 경우 이메일은 처음에는 강압에 사용되는 핵심 도구입니다.

이메일에 의존한다는 것은 범죄 조직이 명확하고 사용 가능한 콘텐츠를 지속적으로 스트리밍해야 함을 의미합니다. 많은 경우, 특히 피싱의 경우 사이버 공격자의 목표는 사람들이 송금과 같은 작업을 수행하도록 설득하는 것입니다. 다행스럽게도 이러한 피싱 시도 중 상당수는 이제 스팸으로 쉽게 식별될 수 있지만 효과적인 자동 카피라이팅을 통해 이러한 이메일을 더욱 눈에 띄게 만들 수 있습니다.

사이버 범죄는 글로벌 산업이며 사이버 범죄자들은 ​​전 세계의 잠재적인 대상에게 피싱 이메일을 보내고 있습니다. 이는 특히 정교한 스피어 피싱 캠페인을 사용하는 사람들에게 언어가 장벽이 될 수 있음을 의미합니다. 신뢰할 수 있는 연락처 - 이메일에 특이한 철자법, 문법 오류 또는 이상한 구두점으로 가득 차 있으면 사람들은 자신이 친구나 동료 채팅과 대화하고 있다고 믿을 가능성이 적습니다.

그러나 AI가 올바르게 활용된다면 챗봇은 사이버 공격자가 원하는 모든 언어로 이메일 텍스트를 작성할 수 있습니다.

Shykevich는 다음과 같이 말했습니다. “예를 들어 러시아 사이버 범죄자의 가장 큰 장애물은 언어입니다. 이제 그들은 영어를 전공한 대학 졸업생을 고용하여 피싱 이메일에 대한 기사를 작성하거나 콜센터에서 일하며 이에 대한 비용을 지불해야 합니다. ChatGPT는 다양한 종류의 피싱 메시지를 작성하는 데 많은 비용을 절약할 수 있으며, 내 생각에는 그들이 이를 찾게 될 것입니다."

이론적으로는 남용을 방지하기 위한 몇 가지 보호 장치가 마련되어 있습니다. 예를 들어 ChatGPT에서는 사용자가 필요합니다. 이메일 주소를 등록하려면 등록을 확인하기 위해 전화번호도 필요합니다.

ChatGPT는 피싱 이메일 작성을 거부할 수 있지만 사이버 공격자가 자주 악용하는 다른 메시지에 대한 이메일 템플릿을 생성하도록 요청할 수 있습니다. 이러한 시도에는 연간 보너스 발표, 중요한 소프트웨어 업데이트를 다운로드하여 설치해야 한다, 첨부 파일을 긴급 문제로 간주해야 한다는 등의 메시지가 포함될 수 있습니다.

사이버 보안 및 위협 인텔리전스 제공업체인 Crowdstrike의 수석 부사장인 Adam Meyers는 다음과 같이 말했습니다. 확실히 가능합니다. ChatGPT를 사용하면 영어가 모국어가 아닌 경우 반드시 가능하지 않은 아름다운 형식의 문법적으로 올바른 초대장을 만들 수 있습니다."

이러한 도구의 남용은 이메일에만 국한되지 않습니다. 이를 사용하여 텍스트 기반 온라인 플랫폼의 스크립트를 작성할 수 있습니다. 이는 사기를 저지르는 사이버 공격자나 스파이 활동을 시도하는 고급 사이버 위협 그룹, 특히 사람들을 유인하기 위해 가짜 소셜 프로필을 만드는 데 유용한 도구가 될 수 있습니다.

클라우드 컴퓨팅 제공업체인 Fastly의 사이버 보안 전문가이자 선임 수석 제품 기술자인 Kelly Shortridge는 다음과 같이 말했습니다. "신뢰할 수 있는 비즈니스를 구축하려면 LinkedIn에 겉보기에 합리적으로 보이는 비즈니스 설명을 게시하여 고객이 Genuine을 시도하는 것처럼 보이게 할 수 있습니다.

다양한 해킹 그룹은 LinkedIn 및 기타 소셜 미디어 플랫폼을 사이버 스파이 활동을 수행하기 위한 도구로 사용하려고 시도하지만 가짜이지만 합법적인 것처럼 보이는 온라인 프로필을 만들고... 게시물과 정보로 채우는 것은 시간이 많이 걸리는 과정입니다.

Shortridge는 사이버 공격자가 ChatGPT와 같은 인공 지능 도구를 사용하여 설득력 있는 콘텐츠를 작성하는 동시에 인간의 노력보다 노동 집약적이라는 이점도 누릴 수 있다고 믿습니다.

“이러한 소셜 엔지니어링 캠페인 중 상당수는 프로필을 구축해야 하기 때문에 많은 노력이 필요합니다.”라고 그녀는 AI 도구가 진입 장벽을 크게 낮출 수 있다고 믿습니다.

"저는 ChatGPT가 매우 설득력 있는 기사를 작성할 수 있다고 믿습니다."라고 그녀는 말했습니다.

기술 혁신의 본질은 새로운 것이 나올 때마다 이를 악의적인 목적으로 이용하려는 사람이 항상 있다는 것을 의미합니다. 개발자가 남용을 방지하기 위해 가장 혁신적인 수단을 사용하더라도 사이버 범죄자와 사기꾼의 교활한 특성으로 인해 보호를 우회할 수 있는 방법을 찾을 수 있습니다.

Shykevich는 "남용을 완전히 없앨 수 있는 방법은 없습니다. 어떤 시스템에서도 이런 일이 발생하지 않을 것입니다."라고 말했습니다. 그는 인공 지능 챗봇이 잘못된 목적으로 사용되는 것을 방지하는 방법에 대한 잠재적인 사이버 보안 문제를 강조하고 싶습니다. 논의.

그는 “ChatGPT는 훌륭한 기술이지만 다른 신기술과 마찬가지로 위험이 있으며 이러한 위험에 대해 논의하고 인식하는 것이 중요하다고 생각합니다. 이에 대해 더 많이 이야기할수록 openAI 및 유사한 회사가 더 많아질 것입니다. 남용을 줄이는 데 더 많은 투자를 할 가능성이 있습니다.”

ChatGPT와 같은 AI 챗봇은 사이버 보안에도 이점이 있습니다. 특히 코드를 처리하고 이해하는 데 능숙하므로 방어자가 악성 코드를 이해하는 데 도움을 줄 수 있습니다. 개발자가 프로젝트를 완료하는 데 도움을 줌으로써 코드를 작성할 수도 있기 때문에 이러한 도구는 더 좋고 안전한 코드를 더 빠르게 생성하는 데 도움이 될 수 있으며 이는 모두에게 도움이 됩니다.

조사 회사인 Forrester의 수석 분석가인 Jeff Pollard는 ChatGPT가 보안 사고 보고서를 생성하는 데 필요한 시간을 크게 줄일 수 있다고 지적했습니다.

"상황을 더 빠르게 전환한다는 것은 보안 팀의 규모에 기여하는 테스트, 평가, 조사 및 대응과 같은 다른 작업에 더 많은 시간을 할애한다는 의미입니다."라고 그는 덧붙였습니다. 봇은 사용 가능한 상황에 따라 다음 단계를 추천할 수 있다고 덧붙였습니다. 데이터.

"아티팩트 검색 속도를 높이기 위해 보안 조정, 자동화 및 대응이 올바르게 설정되면 탐지 및 대응 속도가 빨라지고 보안 운영 센터 분석가가 더 나은 결정을 내리는 데 도움이 될 수 있습니다."라고 그는 말했습니다. 일부 사이버 보안 회사의 삶을 더욱 어렵게 만들지만 희소식이 있을 수 있습니다.

업계 언론은 OpenAI에 의견을 요청했지만 답변을 받지 못했습니다. 그러나 기자들은 ChatGPT가 피싱에 악용되는 것을 방지하기 위해 어떤 규칙이 있어야 하는지 물었습니다. 다음과 같은 답변을 받았습니다: “ChatGPT와 같은 AI 언어 모델은 피싱 이메일과 유사한 텍스트를 생성할 수 있지만 스스로 악의적인 작업을 수행할 수 없으며 해를 끼치기 위한 사용자 의도와 작업이 필요하다는 점에 유의하는 것이 중요합니다. 인공지능 기술을 사용할 때는 주의하고 올바른 판단을 하시고, 피싱 및 기타 악의적인 활동에 주의하세요.”

위 내용은 사이버보안 분야 인공지능 챗봇의 발전 추세는 어떠한가?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!