分辨難度堪比'真假美猴王” 防不勝防的'AI換臉+AI擬聲”

分辨難度堪比「真假美猴王」 防不勝防的「AI換臉 AI擬聲」

AI換臉創意圖圖CFP

網路上「AI孫燕姿」所唱的眾多歌曲截圖

一秒改變容貌－在AI浪潮下，「變臉」也開始實現技術迭代了。如今，在直播間、短片裡，主播時而像迪麗熱巴、時而像易烊千璽，你能點出的明星名字，不論男女老幼，充當明星帶貨的主播都能通過以手遮臉後在螢幕之後實現。

視訊AI換臉，是指透過人工智慧大數據技術，根據使用者需求，透過技術手段將影片中某個人物的臉替換成另一個人的臉。目前，AI換臉技術已廣泛應用於短片、廣告、電影等領域，帶來了不少的創意效果。

但是，這項技術也被一些不法分子用於違法犯罪活動，即AI換臉詐騙。面對“AI換臉 AI擬聲”，就像讓你在屏幕前辨認“真假美猴王”一樣困難，你無法輕易分辨出孫大聖的真假。

「AI詐騙」衝上微博熱搜

據「平安包頭」微信公眾號訊息，近日，包頭市公安局電信網路犯罪偵查局發布一起使用智慧AI技術進行電信詐騙的案件，福州市某科技公司法定代表人郭先生10分鐘內被騙430萬元，隨後話題#AI詐騙正在爆發#衝上微博熱搜。

已經對公共利益構成威脅的AI變臉，到底是怎麼進行詐騙的？

具體來說，不法分子會利用AI換臉技術製作虛假的影片或圖片，以此進行詐騙活動。例如，透過將某個人物或名人的臉替換到色情影片中，製造虛假事件，或透過將受害者的臉替換到一些不雅或違法影片中，以此進行敲詐勒索。這些詐騙行為不僅侵犯了受害者的個人隱私和合法權益，還可能對受害者造成巨大的精神傷害和財產損失。

實際上，AI詐騙先前也在我國發生過多起。根據華西都市報、封面新聞記者先前調查報道，浙江溫州公安曾發布消息，2021年拱宸橋派出所接到報警，受害者小陳表示他在與女網友視訊聊天後被對方敲詐勒索。根據警方調查，對方使用了人工智慧換臉技術，將小陳的臉部合成到不雅影片中，然後利用此影片對其進行勒索。

2020年，上海某公司高層因對方使用AI換臉與人工生成的語音技術製作成公司領導的面孔，並要該高管轉賬，致使該高管被詐騙150萬元。

「使用者利用AI換臉技術偽裝，導致被偽裝人的肖像權等權利被侵犯，或導致其他人的感情和財產大量受損時，平台在未盡到合理審核義務、未有效規制該在類行為發生的情況下，需要承擔一定的幫助侵權甚至直接侵權法律責任。」泰和泰律師事務所律師劉青告訴記者，除非平台故意為之或協助詐騙人進行詐騙行為，否則很難認定平台構成詐欺罪。

「使用者在使用AI技術介入的軟體或網路產品時，一方面應注意勿惡意利用AI技術進行不法行為，另一方面也應注意識別、核對交流方的真實身份，切勿輕信表象，需要轉帳或花銷購買時謹慎考慮。」劉青指出，若民眾遭遇詐騙應當第一時間報警尋求警方的協助，注意保留相關資料以供警方盡快掌握案情、嚴懲犯罪者。 「此外，一旦發現自己的肖像被盜用或'被換臉'，應當第一時間保留證據，以便後續維權；同時還可以向網絡平台運營商提出投訴，要求強制下架侵權圖片或視頻；最後，也可以提起人格權訴訟，用法律武器維護合法權益。」

最近，中國網路協會發布了一份聲明，呼籲廣大大眾應該提高警惕，加強對利用人工智慧技術的新型騙局的預防措施。在AI時代，文字、聲音、圖像和視訊都有可能是深度合成的，在轉帳匯款、資金往來這樣的典型場景，要透過回撥對方手機號碼等額外通訊方式核實確認，不要僅憑單一溝通管道未經核實就直接轉帳匯款，無論對方是誰。

明星也難逃AI「魔法」

日前，在AI孫燕姿火爆全網之後，歌手孫燕姿在網站上發布了《我的AI》一文，首度回應了對AI技術的看法。孫燕姿形容自己像是坐在電影院最佳位置，享受爆米花的觀眾一樣，面對威勢逼人的AI技術。 「在這無邊無際的存在之海中，凡事皆有可能，凡事皆無所謂，我認為思想純淨、做自己，已然足夠。」

但事實上，如果「AI」技術使用了明星的語音訊息，可能會侵犯其隱私權。根據我國《民法典》第一千零三十四條規定，自然人的個人資料受法律保護。個人資訊是以電子或其他方式記錄的能夠單獨或與其他資訊結合識別特定自然人的各種資訊。如果未經明星同意在其直播間使用「AI換臉」或「AI變聲」技術，可能會侵犯其隱私權。

有人在網路上發布了一些「換臉直播」的教程，聲稱使用相應的軟體可以更好地在直播帶貨中用明星的臉來代替自己的臉。對此，劉青說，根據我國《民法典》第一千零二十四條規定，任何組織或個人不得以侮辱、誹謗等方式侵害他人的名譽權。這種行為有可能侵犯藝人的肖像權和名譽權，如果用於商業行為，還可能涉嫌虛假宣傳。

當記者查詢民法典時，發現AI換臉技術牽涉到多種權利，包括肖像權、名譽權和隱私權。根據我國《民法典》第一千零一十九條規定，任何組織或個人不得以醜化、污損，或利用資訊科技手段侵犯他人肖像權的方式，製作、使用、展示他人肖像。透過使用人工智慧換臉技術製作虛假肖像，會侵犯他人的肖像權，並有可能導致侵權糾紛。

誰打開了AI換臉潘朵拉魔盒？

AI換臉直播的發展史可以追溯到2018年，當時DeepFaceLab等工具的發布開啟了AI換臉技術的發展。各大直播平台已開始應用AI換臉直播技術，這項技術正不斷優化與升級。

2020年，美國的真力（Zoom）公司推出了AI臉部替換功能，讓用戶在Zoom視訊會議中將自己的臉部替換為他人臉部。 AI換臉技術的發展和應用得到了廣泛的關注和討論，這項功能也為此功不可沒。

2021年，隨著AI換臉技術的不斷成熟與完善，AI換臉直播的應用範圍也不斷擴大。越來越多的平台和企業推出了自己的AI即時換臉服務，例如抖音的「Faceu秀顏」和「Perfect」等。這些應用不僅可以實現臉部替換，還可以實現聲音、動作、表情等多種維度的替換和合成，使得AI換臉直播更加真實和生動。

然而，隨著AI換臉直播的普及和應用，也出現了不少爭議和問題。有人認為AI換臉直播可能會侵犯個人隱私和肖像權，也有人擔心AI換臉直播可能會被用於虛假宣傳和色情內容等非法用途。因此，許多國家和地區已開始製定相關政策和法規，以規範人工智慧換臉直播的應用與發展。

2021年，我國某知名電商平台開始在直播中使用AI換臉技術，用戶可以透過此功能將自己的臉部替換為明星或網紅的臉部，從而實現更生動、更真實的展示效果。此外，該電商平台還推出了自己的AI換臉直播服務，透過該服務，品牌方可以在直播中使用更真實和生動的展示效果。

AI換臉技術未來受多方影響

目前，AI換臉直播已經成為我國直播產業的趨勢，越來越多的平台和企業開始在直播中應用AI換臉技術。同時，隨著科技的不斷發展與應用，AI換臉直播在我國的應用前景也將更加廣泛和多樣化，但仍受多種因素的影響。

某頭部直播平台工作人員張蕾（化名）向記者透露，據她從業以來的經驗，AI技術的發展將推動AI換臉直播的進步。隨著AI演算法的不斷優化和升級，AI換臉直播將會更加精確和真實，從而更好地滿足品牌方的需求。 「市場需求和消費者行為也將影響AI換臉直播的發展。如果市場需求持續上升，AI換臉直播的發展就會得到更強勁的促進。AI換臉直播的發展方向會受到消費者行為和喜好的影響，例如消費者更喜歡觀看哪一類直播內容。」

張蕾在回答記者有關政策法規對AI換臉的影響時，坦承政策和法規對AI換臉直播的未來發展有著極大的影響。 「如果政策法規對AI換臉直播的發展持積極態度，那麼AI換臉直播的發展可能會更加迅速和廣泛，但一切都還是未知的。」

華西都市報-封面新聞記者 邊雪

以上是分辨難度堪比'真假美猴王” 防不勝防的'AI換臉+AI擬聲”的詳細內容。更多資訊請關注PHP中文網其他相關文章！