AI 사기가 코앞으로 다가왔습니다. 이를 어떻게 예방해야 할까요?

모든 기술은 양날의 검입니다. 인공지능(AI)이 우리에게 어떤 해를 끼칠 수 있을까?

현재 과학자, 기업가, 언론 등 우리 주변의 누구라도 AI가 근로자의 일자리를 잃게 할 수 있고, 인간의 사고를 능가하거나 대체할 수 있으며, 심지어 인간의 사고를 대체할 수 있다는 등 AI의 장기적인 폐해에 대해 논의해 왔습니다. 문명의 통제 등등

그러나 AI가 우리에게 가져오는 피해는 바로 우리 앞에 있습니다. 그리고 대부분의 사람들은 직접 경험하기 전까지 자신이 피해자라는 사실을 모릅니다.

최근 주요 뉴스사이트에는 '회사 상사가 AI 변장 사기를 당하고 10분 만에 430만 위안을 사기당했다'는 소식이 한때 화제가 됐다. 피해자에 따르면 사기꾼은 인공지능(AI) 얼굴변형과 의성어 기술을 이용해 친구인 척하고 사기에 성공했다. 그래서 긴장을 풀었어요.”

이 사건으로 인해 'AI 얼굴 바꾸기' 사기에 대한 인식이 높아졌지만 실제로는 생방송 방에서 물건을 판매하는 유명 연예인, 음란 동영상에 등장하는 사람들의 사례가 훨씬 더 많습니다. 얼굴 등은 모두 범죄자가 AI 기술을 이용해 만들어낸 사기일 수도 있다.

또한 범죄자들은 ​​AI 기술을 이용해 다른 사람의 WeChat 계정을 훔친 후 음성 파일을 추출하고 WeChat 음성을 전달하여 사기 행위를 저지르기도 합니다.

문제는 AI 기술이 가져다주는 편리함을 누릴 때 'AI 얼굴 바꾸기'와 같은 새로운 사기에 어떻게 대처해야 하느냐는 것입니다.

작년 12월, 중국 사이버 공간 관리부, 산업 정보 기술부, 공안부는 공동으로 "인터넷 정보 서비스 심층 합성 관리에 관한 규정"을 발표했습니다. 여기에는 다음과 같은 내용이 포함되어 있습니다. 심층 합성 서비스 제공자는 해당 서비스를 사용하여 생성되거나 편집된 정보 내용을 엄격하게 통제하므로 사용에 영향을 주지 않는 로고를 추가해야 합니다. 지능형 대화, 합성된 인간 음성, 얼굴 생성, 몰입형 시뮬레이션 장면 등 정보 콘텐츠를 생성하거나 크게 변경하는 기능을 제공하는 서비스는 대중의 혼란이나 오해를 피하기 위해 명확하게 표시되어야 합니다.

이달 초, 한 단편 동영상 플랫폼에서는 "인공지능 생성 콘텐츠에 관한 플랫폼 사양 및 산업 이니셔티브"도 발표했습니다. 이 내용은 생성 인공지능 기술을 사용하여 침해 콘텐츠를 생성 및 게시하는 것을 명백히 금지합니다. 초상권, 지적재산권 등이 발견되면 플랫폼은 엄격한 처벌을 가할 것입니다.

상품 라이브 스트리밍 등 상업적인 활동이 수반되는 경우, 위에서 언급한 변태 라이브 방송은 해당 연예인 및 아티스트의 초상권 침해에 해당할 수 있으며, 상황은 더욱 심각해질 것입니다. 얼굴 바꾸기 라이브 방송이 단지 오락을 위한 것이고 수익이 나지 않더라도 초상권자의 동의가 없다면 여전히 침해라는 점에 유의해야 합니다.

그렇다면 개인적으로 “AI 얼굴 바꾸기”와 같은 새로운 사기에 어떻게 주의해야 할까요?

5월 24일 중국인터넷학회에서는 “AI 기술을 활용한 새로운 사기에 직면해 일반 대중은 더욱 경계하고 예방을 강화해야 합니다!”라고 경고했습니다. 특히 개인정보 보안에 대한 첫 번째 책임은 우리에게 있습니다. , 그리고 원격으로 자금을 이체할 때에는 반드시 여러번의 인증을 거치고 '돈가방'을 잘 관리하시기 바랍니다.

업계에 관해서 The Paper의 특별 평론가인 Xiong Zhi는 정보 보호의 한계선을 명확히 하고 기술 서비스 제공업체의 행동에 대한 표준화 및 지침을 강화하기 위해 가능한 한 빨리 규정을 제정해야 한다고 믿습니다. 얼굴 바꾸기, AI 의성어 등은 모든 링크에 증거가 있습니다. 사기를 더욱 어렵게 만드는 엄격한 인증에 의존해야만 모든 사람의 정보와 재산 보안을 더 잘 보호할 수 있습니다.

마지막으로 AI 얼굴 바꾸기, AI 의성어 및 기타 사기로 인해 고통을 겪고 있거나 고통을 받았다고 느끼면 "AI 마법"을 물리치기 위한 "방법"을 사용하는 방법을 배워야 합니다. 물론, 그것을 처리하는 가장 좋은 방법은 그것을 믿지 않는 것을 선택하는 것입니다.

위 내용은 AI 사기가 코앞으로 다가왔습니다. 이를 어떻게 예방해야 할까요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!