首頁  >  文章  >  科技週邊  >  MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯

MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯

王林
王林轉載
2023-08-03 16:44:11925瀏覽

MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯

隨著基於 AI 的深度偽造技術不斷進步,人們越來越難以透過肉眼判斷「哪些內容是 AI 偽造的」。為了防止圖片被爬蟲修改後誤讀,麻省理工學院最近公佈了一項名為Photoguard 的技術,它能夠處理圖片使其難以被AI 識別和篡改

MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯

據悉,這項「PhotoGuard」技術主要是透過對影像進行微小的修改,來防止AI 識別出影像內容。此技術提供了兩種阻止圖片被AI 修改的方案,一種是「編碼器」 法,透過修改影像的像素來幹擾演算法模型對影像的理解能力;另一種是「擴散」 法讓AI 以為圖片甲是圖片乙,從而產生錯誤的圖像。

不過IT之家經過查詢得知,該技術實際上應用空間有限,研究人員警告,PhotoGuard 技術更多適用於反爬蟲場景,技術本身也有一定局限性,攻擊者只需要裁剪或翻轉經過處理的圖片,即可破解該技術

研究人員指出,要解決AI造假問題,除了技術手段外,還需要模型開發者、社群媒體平台和相關部門共同合作,以提供一個全面的「反AI造假」解決方案

以上是MIT開發「PhotoGuard」技術保護影像免遭惡意AI編輯的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除