AI詐騙成功率100%？度小滿防深偽模型“用魔法打敗魔法”

2023-05-26 10:22:19 作者：宋均益

日前,一條#AI詐騙成功率接近100%#的話題衝上微博熱搜。福建某科技公司的法定代表人被一個換臉AI影片騙走了430萬元，這起事件只花了10分鐘。

國外也發生了一起AI相關詐騙,一封附上谷歌CEO視頻的郵件,讓不少YouTube博客們下載了帶著危險病毒的文件。

這兩起詐騙事件都有著深度偽造技術deepfake的身影。這是一項誕生了6年之久的換臉大法,如今AIGC技術的大爆發,更使得製作難以識別的deepfake視頻越來越容易。對人臉辨識應用普遍的金融業來說,防深偽攻擊也顯得尤為重要。

在金融業,由deepfake產生的詐欺主要是身分詐欺,即透過深度偽造的假影像和影片來冒充他人身分,騙過金融信貸流程中的身分核驗系統,進而實施盜刷和惡意註冊等。目前,金融業應對deepfake已有了比較成熟的技術方法和方案,度小滿在deepfake應對方法上就累積了豐富的經驗。

度小滿介紹,近年來利用深偽技術繞過人臉辨識流程的趨勢有所增長,對金融機構實名認證系統造成了一定的威脅。最佳的方法來識別和確認內容是否是偽造的是研發AI進行「反深度偽造」檢測演算法。從三個維度入手，度小滿的防偽深度偵測模型演算法策略成功破解了偽造的影片。

首先是產生瑕疵。具體而言,由於相關訓練資料的缺失,deepfake模型可能無法正確渲染部分人類面部特徵,小到眨眼頻率不正常,大到口型與聲音不吻合等。透過設計特定的分析演算法，檢測模型可以提取這些「基本肉眼可見」的特徵，用於進一步的分析和判斷。

其次是固有屬性。由於不同攝影機擁有不同的設備指紋,類似GAN這種模型在生成人臉時也會留下獨特的用於識別生成器的指紋,因此經過對比就能發現端倪。

第三個細節是高層語意。它指的是檢測臉部動作單元(肌肉群)協調性、臉部各區域朝向一致性、視訊微觀連續性等方面的問題,由於這些細節建模困難、難以複製,很容易抓到把柄。

當然,由於單一特徵難以適應複雜的deepfake內容,因此檢測模型的整體框架採用的是多特徵融合,以此來保證決策的魯棒性。

在資料樣本優勢之外,度小滿也融入了自己的獨創點,包括神經網路搜尋調優演算法、微表情分析和圖卷積(GCN)技術以及基於重建的自監督預訓練方法,讓模型實現了從「鑑偽」到「鑑真」的轉變。

也正因此,去年9月度小滿防深偽檢測模型順利通過了信通院人臉辨識安全專案評測,獲得活體檢測安全防護能力優秀級認證。具體效果上,它可以覆蓋各種深偽形式,包含靜態人像圖片活化、AI換臉、人臉虛假合成等,達到千分之一誤報率下召回90%以上,也就是99% 的準確率。

隨著不斷湧現新的deepfake工具, 金融業將需要面對更多的深偽造攻擊。度小滿認為,未來更多的鑑偽技術應該集中去挖掘語意特徵、跨模態特徵等,讓模型利用可解釋性強的高層語意去鑑偽。度小滿作為一家創新的金融科技企業，也會為金融業的穩健發展提供更多的科技支援。

以上是AI詐騙成功率100%？度小滿防深偽模型“用魔法打敗魔法”的詳細內容。更多資訊請關注PHP中文網其他相關文章！