MIT开发“PhotoGuard”技术保护图像免遭恶意AI编辑

随着基于 AI 的深度伪造技术不断进步，人们越来越难以通过肉眼判断“哪些内容是 AI 伪造的”。为了防止图片被爬虫修改后误读，麻省理工学院最近公布了一项名为 Photoguard 的技术，它能够处理图片使其难以被 AI 识别和篡改

据悉，这一“PhotoGuard”技术主要是通过对图像进行微小的修改，来防止 AI 识别出图像内容。该技术提供了两种阻止图片被 AI 修改的方案，一种是 “编码器” 法，通过修改图像的像素来干扰算法模型对图像的理解能力；另一种是 “扩散” 法让 AI 以为图片甲是图片乙，从而生成错误的图像。

不过IT之家经过查询得知，该技术实际上应用空间有限，研究人员警告，PhotoGuard 技术更多适用于反爬虫场景，技术本身也有一定局限性，攻击者只需要裁剪或翻转经过处理的图片，即可破解该技术。

研究人员指出，要解决AI造假问题，除了技术手段外，还需要模型开发者、社交媒体平台和相关部门共同合作，以提供一个全面的“反AI造假”解决方案

以上是MIT开发“PhotoGuard”技术保护图像免遭恶意AI编辑的详细内容。更多信息请关注PHP中文网其他相关文章！