AI가 사기를 만났을 때

"요즘 사기가 흔한 줄 알면서도 실제로 그런 사기를 당했다는 게 아직도 믿기지 않습니다. 며칠 전 통신사기 피해를 당한 경험은 여전히 ​​독자 우지아(가명)를 두렵게 합니다. 우지아가 하는 사기에 AI를 사용한 사기꾼은 그녀에게 친숙한 사람으로 얼굴을 바꾸었습니다

.

Wu Jia는 일상생활에서 경계하기 어려운 AI 사기에 직면했을 뿐만 아니라, 최근 AI 기술을 활용한 새로운 통신 사기 모델이 높은 발생률을 보이고 있다는 점에 베이징 비즈니스 데일리 기자가 주목했습니다. AI 사기는 100%에 가깝다' '기술회사 오너가 10분 만에 430만 위안 사기당했다' 등의 주제가 잇달아 뜨거운 검색어에 오르며, AI 적용에 대한 유저간 논의도 촉발됐다. 새로운 기술.

"AI 얼굴 바꾸기" 사기

인공지능이 다시 인기를 얻고 있는데, 이번에는 통신사기 관련입니다. Wu Jia는 오랫동안 사용하지 않았던 소셜 계정이 수년 동안 연락하지 않았던 고등학교 '친구'로부터 갑자기 인사를 받았다고 베이징 비즈니스 데일리 기자에게 말했습니다. 그러나 상대방은 짧은 인사를 나눈 뒤 긴급으로 2000위안을 대출해 달라고 요청했다. 약간 혼란스럽기는 했지만, 우자 씨는 과거 친분이 있었던 관계로 즉각 거절하지 않고, 음성과 영상을 통해 본인의 신원을 확인해달라고 요청했다.

"처음에 그녀가 나에게 몇 가지 음성 메시지를 보냈는데, 그것은 평범하고 자신의 목소리에 더 가깝습니다. 그런 다음 영상 통화를 했더니 그녀가 빨리 연결되었습니다. 정말 그녀의 얼굴이었습니다." 우자 씨의 회상에 따르면, 잦은 네트워크 지연으로 인해 영상통화가 연결된 뒤 두 사람의 대화가 원활하지 못했다고 한다. 상대방은 네트워크 상태가 좋지 않다고 변명할 뿐이었고, "너. 내 얼굴도 알아보지 못해요."

우지아는 상대방이 돈을 빌려야 하는 이유를 자세히 설명하지 않아 조심스러워졌고, 자신의 '얼굴'을 확인한 후 급하게 전화를 끊고 비정상적인 행동을 했습니다. 이후 우가는 전화로 상대방에게 평소 고등학교 선생님의 성을 물었지만 상대방은 직접 대답하지 않고 여전히 "나는 나다"라고 주장했다. 사기를 당했을지도 모른다는 사실을 깨달은 Wu Jia는 영상 통화를 끊고 다른 채널을 통해 동급생에게 도움을 구했지만 차용인은 자신이 아니라는 답변을 받았습니다.

우지아는 이번 사기 사건에 대해 매우 안타깝게 생각합니다. 우자씨는 통신사기 수법이 많다는 것을 알고 있었지만, 영상검증 방식이 통하지 않을 거라고는 예상하지 못했다고 말했다. 나중에 저는 저희 집 어르신들께도 같은 상황이 닥치면 쉽게 사기를 당할 수 있다는 점을 상기시켜 드렸기 때문에 온라인 채널을 통해 무작위로 자금을 거래하지 말라고 다시 한 번 강조했습니다. ”

우지아의 피드백을 바탕으로 그녀가 접한 것은 최근 많은 관심을 끌었던 AI 사기였을 것으로 추론됩니다. 5월 22일에는 “기술회사 사장이 10분 만에 430만 위안 사기를 당했다”, “AI 사기 성공률은 100%에 가깝다”, “전국 곳곳에서 AI 사기가 발생했다” 등의 화제가 됐다. 등을 비롯해 많은 경찰이 AI 기술 관련 통신 사기 사건을 공개하기도 했다.

원저우시 공안국 사기방지센터가 5월 22일 공개한 정보에는 "당신은 나에게 함부로 대하지 않을 것이며 문자 메시지 사진을 받자마자 나에게 연락할 것이라고 생각합니다."라고 나와 있습니다. 원저우 시민은 '사립탐정' 협박 문자 메시지를 받고 첸 씨와 한 여성의 이른바 음란 영상 스크린샷을 첨부했는데 해당 영상은 AI로 합성됐다. 첸 씨는 경찰에 도움을 요청했으며 현재 이 사건을 조사 중이다.

공교롭게도 핑안바오터우의 공식 위챗 계정은 5월 20일 바오터우시 공안국 통신사이버범죄수사국이 최근 푸저우에 있는 한 기술회사의 법률대리인 궈 씨가 지능형 AI 기술을 이용한 통신 사기 사건을 적발했다고 공개했습니다. 친구의 위챗 영상을 받은 시, 궈씨는 영상통화로 친구의 얼굴과 음성을 확인한 뒤 10분 만에 430만 위안을 상대방 계좌로 이체했다. 궈 씨는 돈을 이체한 후 친구에게 연락한 후에야 자신이 속았다는 사실을 깨달았습니다. 바오터우 경찰의 도움으로 사기 계좌에서 사기 자금 336만8400만 위안을 최종 압수했지만 93만1600위안을 송금했다.

Analysys에서 분석한 금융 업계의 수석 컨설턴트 Su Xiaorui는 AI 기술의 적용이 점차 성숙해지고 적용 임계값이 낮아짐에 따라 AI를 사용하여 실제인 것처럼 가장하여 사기를 저지르는 것이 범죄자들의 새로운 추세가 되었다고 말했습니다.

개인정보의 과도한 공개

실제 통신사기 근절은 최근 몇 년간 규제당국의 핵심과제가 되었습니다. 경찰, 은행, 커뮤니티, 미디어 등 다양한 온라인 및 오프라인 채널을 통해 다양한 통신사기 수법에 대한 자세한 조기 경고 및 공개가 이루어졌습니다. , 그러나 통신 사기는 여전히 예방하기 어렵습니다.

그러나 다수의 경고로 인해 이용자들은 통신사기에 대한 경계심이 점점 커지고 있습니다. AI 사기를 주제로 한 이번 토론에서도 많은 이용자들은 개인정보를 보호해야 한다는 점과 금전과 관련된 것을 가볍게 여기지 말아야 한다는 점을 제기했다.

Broadcom Consulting의 왕펑보(Wang Pengbo) 수석 분석가도 기술의 발전으로 인해 통신 사기를 예방하기가 더욱 어려워졌다고 생각하지만, 통신 사기가 빈번하게 발생하는 이유는 여전히 사용자의 개인 정보가 인터넷에서 과도하게 유출되기 때문입니다. 정보화 시대. 전자상거래 플랫폼에서 반품 사기를 당한 한 이용자는 사기꾼이 전화상으로 자신의 계좌명과 구매한 상품, 수확 주소를 명확히 제공해 결국 큰 손실을 입었다고 지적했다. .

디지털화가 종합적으로 발전하는 시대에 다양한 플랫폼을 통해 개인정보가 공통적으로 수집되고 있으며, 이는 AI 사기의 새로운 모델이 등장할 수 있는 기회를 제공합니다. 사기가 AI와 만나면 사기 성공률은 100%에 가깝다. 쑤샤오루이는 AI를 포함한 신기술은 그 자체로 중립적이어야 한다고 지적했다. 기술은 생산과 생활에 편리함을 가져다 줄 수 있지만, 그 안에 숨어 있는 다양한 위험에도 주의를 기울여야 한다.

안면인식과 손바닥 결제에 어떤 영향을 미칠까

경찰 신고 내용에 따르면 AI 기술을 이용해 사기를 저지르는 방법에는 음성 합성, AI 얼굴 변경, 위챗 ID 탈취, 음성 파일 추출 또는 비공식 버전(플러그인) 설치, 이전 버전 전달 등이 주로 포함된다. WeChat 친구에게 음성 녹음을 제공하여 신뢰를 얻으세요. 면밀한 심사를 거친 후 AI 기술을 사용하여 사기당한 사람을 식별하고 대상을 찾을 수 있습니다.

기존 사기 방법과 비교하여 AI 사기에는 얼굴, 성문과 같은 생체 정보가 포함됩니다. 디지털 시대에는 지문, 성문, 얼굴, 홍채 등의 생체정보가 금융계좌를 개설할 수 있는 '열쇠'가 됐다. 이는 기존의 인증번호, 주민등록번호 정보 외에도 현재 사용자의 개인정보를 보호해야 한다는 의미이기도 하다. 정보에는 개인 생체 정보도 점점 더 많이 포함됩니다.

Beijing Business Daily 기자의 과거 실제 조사에 따르면, 특히 금융 분야에서 신기술과 새로운 것의 출현은 사기꾼이 의심하지 않는 사용자에게 사기를 치는 데 쉽게 활용될 수 있습니다. AI '얼굴 스와핑' 사기 수법이 나온 뒤 많은 이용자들은 안면인식 등의 보안에 대한 우려도 표명했으며, 사기꾼들이 AI 기술을 이용해 개인 금융계좌를 훔칠 수도 있지 않느냐는 질문도 나왔다.

AI 사기가 널리 논의되는 동안 WeChat은 팜 결제라는 새로운 결제 방법도 공식 출시했습니다. 손바닥 결제에 대해 논의할 때 일부 사용자는 손바닥 지문 정보 수집 및 결제 보안과 관련된 문제도 언급했습니다. 보도에 따르면 손끝의 표피선을 이용하는 지문인식과 달리 장문인식은 손바닥의 정맥을 이용해 신원을 확인한다고 한다.

기관은 신기술이 가져다주는 편리함을 즐기면서 신기술로 인한 사기 등의 문제를 어떻게 처리할지 고민해야 합니다. 금융 분야의 신기술 적용에 관해 Wang Pengbo는 기관이 신기술을 구현하려면 개인 정보 보호, 사기 방지 및 사용자 사용 편의성 사이에서 균형을 유지해야 한다고 지적했습니다. 최소한 사전에 예방 및 대응 메커니즘을 준비하십시오.

“팜 결제를 예로 들어보겠습니다. 개인정보의 대규모 수집 및 적용은 실제로 법적 지원이 부족합니다. 정보의 과도한 수집을 방지하는 방법, 일급비밀이어야 할 개인 생체 정보가 유출되는 것을 방지하는 방법 및 방법은 다음과 같습니다. 좋은 데이터 저장, 접근하기 위해 개인 정보의 보안을 보장하는 방법... 현재 이러한 문제에 대한 적절한 설명은 없습니다. Wang Pengbo는 대다수의 사용자가 점차 개인 정보 보호를 받아들이면서 새로운 기술이 필요하다고 말했습니다. 개인 사용자에게 대중화되어야 합니다

.

이체 전 교차검증

소비자에게는 '돈가방'을 지키는 것이 더욱 중요합니다. 이와 관련하여 Wang Pengbo는 소비자가 전송과 관련하여 먼저 더욱 주의를 기울여야 하며 정보의 진위를 주의 깊게 확인하고 교차 확인을 위해 공식 채널을 통해 관련 소스에 즉시 연락해야 한다고 말했습니다.

Su Xiaorui는 이를 세 가지 수준에서 검토해야 한다고 지적했습니다. 첫째, 규제 측면에서 대중에게 위험 알림 및 조기 경고를 적시에 발표해야 하며, 과학 기술 인재 도입을 더욱 강화해야 합니다. 법 집행팀에서는 새로운 유형의 전자 사기의 새로운 특성을 요약하고 개선해야 하며, 두 번째로 쇼핑과 같은 플랫폼 측면에서 시장에 충격을 줄 수 있는 다수의 중요하고 중요한 사례를 확립해야 합니다. 사기꾼이 상주하고 빈번하게 사용되는 플랫폼, 소셜 플랫폼, 결제 플랫폼 등에서는 위험 통제 관리를 강화하고 합리적인 차단 조치를 취해야 합니다. 계정이 비정상이거나 채팅 내용이 비정상일 경우 적시에 사용자에게 알림을 발행해야 합니다. 셋째, 이용자 입장에서는 모르는 전화나 문자 메시지를 쉽게 믿지 말고, 송금이나 결제 시 공식 채널 등을 통해 상대방의 신원을 확인하시기 바랍니다.

베이징 비즈니스 데일리 기자 랴오멍

위 내용은 AI가 사기를 만났을 때의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!