AI詐騙成功率100%？防深偽模型'用魔法打敗魔法”

日前，一則AI詐騙成功率接近100%#的話題衝上微博熱搜。福建某科技公司的法人代表在10分鐘內被騙走430萬，因為看了一個使用AI換臉技術製作的影片。

國外也發生了一起AI相關詐騙，一封附上GoogleCEO影片的郵件，讓不少YouTube部落客下載了帶著危險病毒的檔案。

這兩起詐騙事件都有著深度偽造技術deepfake的身影。這是一項誕生了6年之久的換臉大法，如今AIGC技術的大爆發，更使得製作難以辨識的deepfake影片越來越容易。對於人臉辨識應用普遍的金融業來說，防深偽攻擊也顯得格外重要。

在金融業，由deepfake產生的欺詐主要是身份欺詐，即透過深度偽造的虛假圖像和視頻來冒充他人身份，騙過金融信貸流程中的身份核驗系統，進而實施盜刷和惡意註冊等。目前，金融業應對deepfake已有了較成熟的技術方法與方案，度小滿在deepfake應對方法上就累積了豐富的經驗。

度小滿介紹，近年來利用深偽技術繞過人臉辨識流程的趨勢有所增長，對金融機構實名認證系統造成了一定的威脅。開發「反Deepfake」檢測演算法，將內容的真實性認證交給人工智慧處理是最可靠的方法。防範深度偽造的度小滿檢測模型演算法策略，從三個面向入手，成功解決了製造虛假影片的問題。

首先是產生瑕疵。具體而言，由於相關訓練資料的缺失，deepfake模型可能無法正確渲染部分人類臉部特徵，小到眨眼頻率不正常，大到口型與聲音不吻合等。透過設計特定的分析演算法，檢測模型可以提取那些「基本肉眼可見」的特徵並進行分析和判斷。

其次是固有屬性。由於不同攝影機擁有不同的設備指紋，類似GAN這種模型在生成人臉時也會留下獨特的用於識別生成器的指紋，因此經過對比就能發現端倪。

第三個細節是高層語意。它指的是偵測臉部動作單元（肌肉群）協調性、臉部各區域朝向一致性、視訊微觀連續性等方面的問題，由於這些細節建模困難、難以複製，很容易抓到把柄。

當然，由於單一特徵難以適應複雜的deepfake內容，因此檢測模型的整體框架採用的是多特徵融合，以此來保證決策的穩健性。

在資料樣本優勢之外，度小滿也融入了自己的獨創點，包括神經網路搜尋調優演算法、微表情分析和圖卷積（GCN）技術以及基於重建的自監督預訓練方法，讓模型實現了從「鑑偽」到「鑑真」的轉變。

也正因此，去年9月度小滿防深偽檢測模型順利通過了信通院人臉辨識安全專案評測，獲得活體檢測安全防護能力優秀級認證。具體效果上，它可以涵蓋各種深偽形式，包含靜態人像圖片活化、AI換臉、人臉虛假合成等，達到千分之一誤報率下召回90%以上，也就是99% 的準確率。

隨著新的深度偽造工具不斷湧現，金融業面臨的深度偽造攻擊將會增加。度小滿認為，未來更多的鑑偽技術應該集中去挖掘語意特徵、跨模態特徵等，讓模型利用可解釋性強的高層語意去鑑偽。

（來源：光明網）

以上是AI詐騙成功率100%？防深偽模型'用魔法打敗魔法”的詳細內容。更多資訊請關注PHP中文網其他相關文章！