AI 產生的合成影像氾濫且真假難辨，專家呼籲政策監管勢在必行

4 月 3 日消息，最近網路上出現了一些美國前總統川普被紐約警察逮捕的照片，引起了很多人的關注。然而，這些照片並不是真的，而是由人工智慧 (AI) 技術產生的合成圖像。

專家們提醒說，這些合成圖像顯示了一個新的現實：在重大事件發生時，社交媒體上可能會充斥著虛假的圖片和視頻，進一步混淆事實、誤導民眾，因此亟須部署相關技術並訂定相關政策，對類似技術進行監管。

據IT之家了解，這些「川普被捕」的照片是由荷蘭的一家開源調查媒體「響鈴貓」網站的創始人艾略特・希金斯用AI 繪畫工具Midjourney 製作的。

希金斯說，他想要把有關川普可能被捕的消息可視化，於是用Midjourney 這款文本到圖像模型生成了一些看起來很逼真的照片，並在推特上分享。這條推文在兩天內被瀏覽了近 500 萬次，並獲得了超過 7.9 萬個讚。

人工智慧專家說，雖然製作和生成虛假圖片的技術並不新鮮，但該領域技術的進步速度以及人們對技術的濫用值得關注。數位內容分析公司 Truepic 的穆尼爾・易卜拉欣說，「合成內容正在快速發展，真實和虛假內容之間的差距變得越來越難分辨」。

《財星》雜誌指出，如今各種 AI 影像產生工具變得觸手可及，它們可在使用者發出簡單指令後，迅速產生海量栩栩如生的圖片。例如，Midjourney 這款文字到圖像模型現在可產生模仿新聞機構照片風格的圖像，如此一來，這些 AI 生成的圖片有望在混亂的新聞環境中“渾水摸魚”，混淆視聽。

希金斯認為，隨著合成影像越來越難辨真假，對抗錯誤視覺訊息的最佳方式是提高大眾的意識並加強這方面的教育，社群媒體公司可把重點放在開發能夠辨別AI 生成圖像的新技術上，並將這種技術融入自己的平台。

「川普被捕」假圖片在網路氾濫也表明，目前缺乏企業標準或政府法規來解決使用 AI 製造和傳播謊言的問題。專家都認為，川普的高知名度讓人們很容易識破他的假照片，但是普通人的假照片就不那麼好辨別了，而且製作假照片的技術還在不斷提高。因此，有必要透過立法來規範深度合成技術的使用。

以上是AI 產生的合成影像氾濫且真假難辨，專家呼籲政策監管勢在必行的詳細內容。更多資訊請關注PHP中文網其他相關文章！