隨著基於 AI 的深度偽造技術不斷進步,人們越來越難以透過肉眼判斷「哪些內容是 AI 偽造的」。為了防止圖片被爬蟲修改後誤讀,麻省理工學院最近公佈了一項名為Photoguard 的技術,它能夠處理圖片使其難以被AI 識別和篡改
據悉,這項「PhotoGuard」技術主要是透過對影像進行微小的修改,來防止AI 識別出影像內容。此技術提供了兩種阻止圖片被AI 修改的方案,一種是「編碼器」 法,透過修改影像的像素來幹擾演算法模型對影像的理解能力;另一種是「擴散」 法讓AI 以為圖片甲是圖片乙,從而產生錯誤的圖像。
不過IT之家經過查詢得知,該技術實際上應用空間有限,研究人員警告,PhotoGuard 技術更多適用於反爬蟲場景,技術本身也有一定局限性,攻擊者只需要裁剪或翻轉經過處理的圖片,即可破解該技術。
研究人員指出,要解決AI造假問題,除了技術手段外,還需要模型開發者、社群媒體平台和相關部門共同合作,以提供一個全面的「反AI造假」解決方案
以上是MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯的詳細內容。更多資訊請關注PHP中文網其他相關文章!