구별하기 어려운 점은 '진짜 손오공과 가짜 손오공'과 맞먹고, 예방하기 어려운 'AI 얼굴변형+AI 의성어'

구분하기 어려운 점은 '진짜 원숭이왕과 가짜 원숭이왕', 예방하기 어려운 'AI 얼굴변형+AI 의성어'와 비슷하다

CFP에 따라 AI가 얼굴을 바꾸는 창의적인 사진

인터넷에서 "AI 스테파니"가 부른 여러 노래의 스크린샷

1초 만에 외모 바꾸기 - AI의 물결 속에서 '얼굴 바꾸기'도 기술적 반복을 실현하기 시작했습니다. 요즘 생방송장이나 쇼트영상 속 앵커들은 때로는 딜라바처럼, 때로는 이양천시처럼 보이기도 하는데, 남자, 여자, 남녀노소 가리지 않고 이름을 댈 수 있는 연예인, 굿즈를 가져오는 스타 역할을 하는 앵커들. 손으로 모두 가릴 수 있습니다. 뒤의 얼굴은 화면 뒤에 구현됩니다.

영상 AI 얼굴 변경이란 인공지능 빅데이터 기술을 활용하여 사용자 요구에 따라 기술적 수단을 통해 영상 속 인물의 얼굴을 다른 사람의 얼굴로 바꾸는 것을 말합니다. 현재 AI 얼굴 변화 기술은 단편 영상, 광고, 영화 및 기타 분야에서 널리 사용되어 많은 창의적인 효과를 가져오고 있습니다.

그러나 이 기술은 일부 범죄자들이 불법 및 범죄 활동, 즉 AI 얼굴 변경 사기에 사용하기도 했습니다. 'AI 얼굴 바꾸기 + AI 의성어'를 마주하는 것은 화면 앞에서 '진짜 원숭이 왕'과 가짜 원숭이 왕'을 구별하는 것만큼 어렵습니다. Sun Dasheng이 진짜인지 가짜인지 쉽게 알 수 없습니다.

“AI 사기”가 Weibo에서 화제가 되었습니다

'안전한 바오터우' WeChat 공개 계정에 따르면, 최근 바오터우시 공안국 통신 사이버 범죄 수사국은 지능형 AI 기술을 이용해 중국 기술 회사의 법률 대리인인 궈 씨가 통신 사기를 저지른 사례를 발표했습니다. 푸저우는 10분 만에 430위안을 사기당했고, 웨이보에서는 #AIFraud 돌발#이라는 제목이 화제가 됐다.

이미 공공의 이익을 위협하고 있는 AI는 어떻게 사기를 저지르는 걸까요?

특히 범죄자는 AI 얼굴 변경 기술을 이용해 가짜 동영상이나 사진을 만들어 사기 행위를 하게 됩니다. 예를 들어 음란물 영상에서 특정 인물이나 연예인의 얼굴을 바꿔 허위 사건을 조장하거나, 음란하거나 불법적인 영상에서 피해자의 얼굴을 바꿔 강탈하는 행위 등이 대표적이다. 이러한 사기행위는 피해자의 개인정보 및 법적 권리를 침해할 뿐만 아니라, 피해자에게 막대한 정신적 피해와 재산상의 손실을 초래할 수 있습니다.

실제로 우리나라에서는 이전에도 AI 사기가 여러 차례 발생했습니다. 서중국 메트로폴리스 데일리(West China Metropolis Daily)와 표지 뉴스 기자들의 이전 조사 보고서에 따르면 저장성 원저우 공안국은 2021년 공첸차오(Gongchenqiao) 경찰서에서 피해자 샤오첸(Xiao Chen)이 여성으로부터 협박을 받았다는 전화를 받았다고 밝혔다. 영상통화 후 네티즌. 경찰 조사에 따르면 상대방은 인공지능 얼굴 변경 기술을 사용해 샤오첸의 얼굴을 음란 영상으로 합성한 뒤 이 영상을 이용해 샤오첸을 협박한 것으로 드러났다.

2020년 상하이의 한 회사 임원은 상대방이 AI 얼굴 변화 및 인공 생성 음성 기술을 사용해 회사 대표의 얼굴을 만들고 임원에게 돈을 송금하라고 요구했기 때문에 150만 위안을 사기당했습니다.

“사용자가 변장을 위해 AI 얼굴 변경 기술을 사용하여 변장한 사람의 초상권 및 기타 권리를 침해하거나 타인의 감정 및 재산에 막대한 피해를 입히는 경우 플랫폼은 합리적인 수준을 충족하지 못합니다. 의무를 검토하고 이러한 유형의 행동을 효과적으로 규제하지 못합니다. 이런 일이 발생하면 침해를 지원하거나 심지어 직접 침해에 대한 특정 법적 책임을 져야 합니다." Tahota Law Firm의 변호사인 Liu Qing은 기자들에게 플랫폼이 의도적으로 그렇게 하지 않는 한 다음과 같이 말했습니다. 또는 사기범이 사기를 저지르도록 돕는 경우, 해당 플랫폼이 사기에 해당한다고 판단하기는 어렵습니다.

“AI 기술이 포함된 소프트웨어나 인터넷 제품을 사용할 때 사용자는 AI 기술을 악의적으로 사용하여 불법 행위를 저지르지 않도록 주의해야 하며, 통신 당사자의 신원을 확인하고 확인하는 것도 주의해야 합니다. 필요하다면 돈을 이체하거나 구매할 때 신중하게 생각하세요." Liu Qing은 사람들이 사기를 당할 경우 가능한 한 빨리 경찰에 도움을 요청하고 경찰이 관련 자료를 보관하도록 주의해야 한다고 지적했습니다. 하루빨리 사건을 파악해 범죄자들을 엄중하게 처벌할 수 있다. 또한, 귀하의 초상이 도난당했거나 '변조'된 사실을 발견한 경우 후속 권리 보호를 위해 가능한 한 빨리 증거를 보관해야 하며, 네트워크 플랫폼 운영자에게 불만을 제기하고 침해 사진을 요청할 수도 있습니다. 또는 동영상이 강제로 삭제될 수도 있으며, 최종적으로 인격권 소송을 제기하고 합법적인 무기를 사용하여 합법적인 권리와 이익을 보호할 수도 있습니다.”

최근 중국 인터넷 학회에서는 일반 대중에게 인공 지능 기술을 사용하는 새로운 사기에 대해 더욱 경계하고 예방 조치를 강화할 것을 촉구하는 성명을 발표했습니다. AI 시대에는 텍스트, 사운드, 이미지, 비디오가 모두 심도 있게 합성될 수 있다. 이체, 송금, 자본 교환 등 일반적인 시나리오에서는 상대방의 휴대폰 번호로 다시 전화하는 등 추가적인 통신 방법을 사용하여 확인해야 한다. 상대방이 누구인지에 관계없이 단일 통신 채널에만 의존하지 마십시오.

연예인도 AI의 '마법'을 피해갈 수 없다

얼마 전 AI 스테파니 선이 인터넷에서 큰 인기를 얻은 뒤, 가수 스테파니 선이 홈페이지에 '나의 AI'라는 글을 게재하며 처음으로 AI 기술에 대한 자신의 견해에 답했다. 스테파니 선(Stefanie Sun)은 자신을 영화관의 가장 좋은 자리에 앉아 팝콘을 즐기며 강력한 AI 기술을 마주하는 관객이라고 묘사했습니다. "이 무한한 존재의 바다에서는 모든 것이 가능하고 모든 것이 중요하지 않습니다. 순수하게 생각하고 자기 자신이 되는 것만으로도 충분하다고 생각합니다."

그러나 실제로 'AI' 기술이 연예인의 음성정보를 활용한다면, 연예인의 사생활 보호권을 침해할 수도 있습니다. 우리나라 민법 제1034조에 따르면 자연인의 개인정보는 법률의 보호를 받습니다. 개인정보란 전자적 또는 기타 방법으로 기록된 다양한 정보로서 단독으로 또는 다른 정보와 결합하여 특정 자연인을 식별할 수 있는 다양한 정보를 말합니다. 'AI 얼굴 바꾸기', 'AI 음성 바꾸기' 기술을 연예인의 생방송 방에서 본인의 동의 없이 사용할 경우 해당 연예인의 사생활 보호권이 침해될 수 있습니다.

어떤 사람들은 인터넷에 "얼굴 바꾸기 생방송" 튜토리얼을 올렸는데, 해당 소프트웨어를 사용하면 생방송에서 자신의 얼굴을 연예인의 얼굴로 더 잘 바꿀 수 있다고 주장했습니다. 이에 대해 류칭은 우리나라 민법 제1024조에 의거 어떠한 조직이나 개인도 모욕, 비방 등의 방법으로 타인의 명예권을 침해할 수 없다고 말했다. 이러한 행위는 아티스트의 초상권 및 명예를 침해할 수 있으며, 상업적 목적으로 사용할 경우 허위홍보 혐의를 받을 수도 있습니다.

기자가 민법을 확인해보니 AI 얼굴 변화 기술에는 초상권, 명예권, 사생활 보호권 등 여러 권리가 관련되어 있는 것으로 나타났습니다. 우리나라 민법 제1019조에 따르면, 어떠한 조직이나 개인도 타인의 초상권을 훼손하거나 정보통신기술을 이용하여 침해하는 방식으로 타인의 초상을 제작, 이용, 전시할 수 없습니다. 인공지능 얼굴 변경 기술을 이용해 허위 초상을 제작하는 것은 타인의 초상권을 침해하는 것이며, 침해 분쟁으로 이어질 수 있습니다.

얼굴을 바꾸는 AI 판도라의 상자를 연 사람은 누구일까요?

AI 얼굴 변화 라이브 방송의 개발 역사는 DeepFaceLab과 같은 도구가 출시되면서 AI 얼굴 변화 기술 개발이 시작된 2018년으로 거슬러 올라갑니다. 주요 라이브 방송 플랫폼에서는 AI의 얼굴 변화 라이브 방송 기술을 적용하기 시작했으며, 이 기술은 지속적으로 최적화되고 업그레이드되고 있습니다.

2020년 미국 회사 Genelec(Zoom)은 AI 얼굴 교체 기능을 출시했습니다. 이를 통해 사용자는 Zoom 화상 회의에서 자신의 얼굴을 다른 사람의 얼굴로 바꿀 수 있습니다. AI 얼굴 변화 기술의 개발과 적용은 폭넓은 관심과 논의를 불러일으켰고, 이 기능도 이에 기여한다.

2021년에는 AI 얼굴 변화 기술이 지속적으로 성숙하고 개선됨에 따라 AI 얼굴 변화 라이브 방송의 적용 범위도 계속 확대될 것입니다. Douyin의 "Faceu" 및 "Perfect"와 같은 자체 AI 실시간 얼굴 변경 서비스를 출시하는 플랫폼과 회사가 점점 더 많아지고 있습니다. 이러한 애플리케이션은 얼굴 교체를 실현할 수 있을 뿐만 아니라 소리, 움직임, 표정 및 기타 차원의 교체 및 합성을 실현하여 AI 얼굴 변경 라이브 방송을 더욱 현실적이고 생생하게 만듭니다.

그러나 AI 얼굴 변화 라이브 방송의 인기와 적용으로 인해 많은 논란과 문제도 발생했습니다. 인공지능이 얼굴을 바꾸는 생방송이 개인 사생활과 초상권을 침해할 수 있다고 믿는 사람도 있고, 인공지능이 얼굴을 바꾸는 생방송이 허위선전, 음란물 등 불법적인 목적으로 사용될 수 있다는 우려도 있다. 따라서 많은 국가와 지역에서는 인공지능 얼굴 변화 라이브 방송의 적용 및 개발을 규제하기 위해 관련 정책과 규정을 제정하기 시작했습니다.

2021년, 우리나라의 한 유명 전자상거래 플랫폼에서 AI 얼굴 변경 기술을 라이브 방송에 사용하기 시작했습니다. 그리고 사실적인 디스플레이 효과. 또한, 전자상거래 플랫폼에서는 브랜드가 라이브 방송에서 보다 현실적이고 생생한 디스플레이 효과를 활용할 수 있는 자체 AI 얼굴 변화 라이브 방송 서비스도 출시했습니다.

얼굴을 바꾸는 AI 기술의 미래는 많은 당사자들에 의해 영향을 받을 것입니다

현재 AI 얼굴 변경 라이브 방송은 우리나라 라이브 방송 산업의 트렌드가 되었으며, 점점 더 많은 플랫폼과 기업이 AI 얼굴 변경 기술을 라이브 방송에 적용하기 시작했습니다. 동시에 기술의 지속적인 개발과 적용으로 우리나라에서 얼굴을 바꾸는 AI 생방송의 적용 전망은 더욱 광범위하고 다양해질 것이지만 여전히 많은 요인의 영향을 받습니다.

굴지의 생방송 플랫폼 직원인 장 레이(가명)는 업계 경험에 비추어 AI 기술의 발전이 AI 얼굴 변화 생방송의 발전을 촉진할 것이라고 기자들에게 밝혔습니다. AI 알고리즘의 지속적인 최적화와 업그레이드를 통해 AI의 얼굴을 바꾸는 라이브 방송이 더욱 정확하고 현실적이 되어 브랜드의 요구 사항을 더 잘 충족할 수 있습니다. "시장 수요와 소비자 행동도 AI 얼굴 변화 라이브 방송의 발전에 영향을 미칠 것입니다. 시장 수요가 계속 증가한다면 AI 얼굴 변화 라이브 방송의 개발이 더욱 강력하게 추진될 것입니다. AI 얼굴 변화 라이브의 개발 방향 방송은 소비자 행동과 소비자가 선호하는 라이브 콘텐츠 유형 등 선호도의 영향을 받습니다.”

Zhang Lei는 AI 얼굴 변경에 대한 정책 및 규정의 영향에 대해 기자들에게 답변하면서 정책 및 규정이 AI 얼굴 변경 생방송의 향후 개발에 큰 영향을 미친다고 인정했습니다. "정책과 규정이 AI 얼굴 변화 라이브 방송 개발에 대해 긍정적인 태도를 가지고 있다면 AI 얼굴 변화 라이브 방송의 개발이 더 빠르고 광범위해질 수 있지만 아직 모든 것이 알려지지 않았습니다."

서중국 대도시 매일 - 표지 뉴스 기자 Bian Xue

위 내용은 구별하기 어려운 점은 '진짜 손오공과 가짜 손오공'과 맞먹고, 예방하기 어려운 'AI 얼굴변형+AI 의성어'의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!