AI 사기는 성공률 100%인가? 두샤오만의 딥페이크 방지 모델 “마술로 마법을 물리친다”

2023-05-26 10:22:19 작성자 : 송준이

몇일 전 웨이보에서는 #AIFraud 성공률이 100%에 가깝습니다#라는 주제가 인기를 끌었습니다. 푸젠성의 한 기술회사 법정대리인이 얼굴을 바꾸는 AI 영상으로 430만 위안을 사기당했다. 사건은 단 10분만에 발생했다.

해외에서도 AI 관련 사기가 발생했다. 구글 CEO의 영상이 첨부된 이메일로 인해 많은 유튜브 블로거들이 위험한 바이러스가 포함된 파일을 다운로드하게 됐다.

이 두 사기 사건 모두 딥페이크 기술과 관련되어 있습니다. 이것은 6년 동안 이어져 온 얼굴 변경 방법입니다. 요즘에는 AIGC 기술의 폭발적인 발전으로 식별하기 어려운 딥페이크 동영상을 만드는 것이 점점 더 쉬워졌습니다. 안면 인식이 널리 사용되는 금융 산업에서는 딥 페이크 공격을 예방하는 것도 특히 중요합니다.

금융업계에서 딥페이크에 의한 사기는 주로 신원사기, 즉 딥페이크 이미지와 영상을 통해 타인의 신원을 가장하고, 금융신용과정에서 신원확인시스템을 속인 후 사기 및 악성등록을 저지르는 경우가 많습니다. . 현재 금융업계는 딥페이크 처리에 있어 상대적으로 성숙한 기술적 방법과 솔루션을 보유하고 있으며, 두샤오만(Du Xiaoman)은 딥페이크 처리에 있어 풍부한 경험을 축적했다.

Du Xiaoman은 최근 몇 년 동안 얼굴 인식 프로세스를 우회하기 위해 딥 페이크 기술을 사용하는 추세가 증가하여 금융 기관의 실명 인증 시스템에 일정한 위협이 되고 있다고 소개했습니다. 콘텐츠가 가짜인지 식별하고 확인하는 가장 좋은 방법은 AI '딥페이크 방지' 탐지 알고리즘을 개발하는 것입니다. 3차원에서 시작하여 Du Xiaoman의 위조 방지 심층 탐지 모델 알고리즘 전략은 위조된 비디오를 성공적으로 해독했습니다.

첫 번째는 결함을 발생시키는 것입니다. 특히 관련 훈련 데이터가 부족하기 때문에 딥페이크 모델은 비정상적인 눈 깜박임 빈도부터 입 모양과 목소리의 불일치에 이르기까지 일부 인간 얼굴 특징을 올바르게 렌더링하지 못할 수 있습니다. 특정 분석 알고리즘을 설계함으로써 탐지 모델은 추가 분석 및 판단을 위해 이러한 "기본적으로 가시적인" 특징을 추출할 수 있습니다.

두 번째는 고유한 속성입니다. 카메라마다 기기 지문이 다르기 때문에 GAN과 같은 모델도 얼굴 생성 시 생성기를 식별하기 위한 고유 지문을 남기므로 비교를 통해 단서를 찾을 수 있습니다.

세 번째 세부 사항은 높은 수준의 의미론입니다. 얼굴 동작 단위(근육 그룹)의 협응 감지, 다양한 얼굴 영역의 방향 일관성, 영상의 미세한 연속성 등의 문제를 말합니다. 이러한 세부 사항은 모델링 및 복사가 어렵기 때문에 포착되기 쉽습니다.

물론 단일 기능은 복잡한 딥페이크 콘텐츠에 적용하기 어렵기 때문에 탐지 모델의 전체 프레임워크는 의사결정의 견고성을 보장하기 위해 다중 기능 융합을 채택합니다.

Du Xiaoman은 데이터 샘플의 장점 외에도 신경망 검색 및 최적화 알고리즘, 미세 표현 분석 및 그래프 컨볼루션(GCN) 기술, 재구성 기반 자가 지도 사전 학습 방법 등 자신만의 독창성을 통합했습니다. 모델이 "위조 탐지"에서 "진품 식별"로의 전환을 달성할 수 있도록 합니다.

이로 인해 지난해 9월 Xiaoman의 딥페이크 방지 탐지 모델은 정보통신기술원의 특별 얼굴 인식 보안 평가를 성공적으로 통과해 실시간 탐지 보안 보호 기능 우수 인증을 획득했습니다. 구체적인 효과 측면에서는 정적 인물 사진 활성화, AI 얼굴 변경, 허위 얼굴 합성 등 다양한 형태의 딥페이크를 커버할 수 있으며, 오경보율 1,000분의 1로 90% 이상의 회상을 달성합니다. 99% 이상 정확합니다.

새로운 딥페이크 도구가 계속 등장함에 따라 금융 업계는 더 많은 딥페이크 공격에 직면해야 합니다. Du Xiaoman은 앞으로 더 많은 위조 감지 기술이 마이닝 의미론적 특징, 교차 모달 특징 등에 초점을 맞춰 모델이 위조 감지를 위해 강력한 해석력을 갖춘 높은 수준의 의미론을 사용할 수 있어야 한다고 믿습니다. Du Xiaoman은 혁신적인 금융 기술 회사로서 금융 산업의 꾸준한 발전을 위해 더 많은 기술 지원을 제공할 것입니다.

위 내용은 AI 사기는 성공률 100%인가? 두샤오만의 딥페이크 방지 모델 “마술로 마법을 물리친다”의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!