Google推出SynthID工具，為AI產生的影像添加浮水印功能

隨著生成式人工智慧的快速發展，人們對AI生成內容所帶來的潛在風險越來越關注。舉例來說，人們可能會有意或無意地傳播由AI產生的虛假訊息。尤其是在影像生成領域，區分AI生成的影像和真實影像變得特別重要

#有一些研究試圖透過添加浮水印的方式來區​​分人工智慧生成的內容。 ICML 2023的傑出論文《大型語言模型的浮水印》提出了為模型的輸出添加浮水印的方法，以應對文本生成的挑戰

Google DeepMind宣布推出一種新的工具SynthID，用於為生成的圖像添加浮水印，以識別AI生成的圖像。目前，SynthID的Beta版本已經上線。 GoogleCEO Sundar Pichai和Google DeepMind CEO都在推特上轉發了關於SynthID工具的介紹

目前，SynthID 可以為Google的文生圖模型Imagen 產生的影像添加浮水印，而且在視覺上幾乎無法察覺到有浮水印的存在。如下圖所示，無論是有浮水印或無浮水印的影像，在外觀上看起來都沒有任何區別：

SynthID 可以透過掃描影像中的數位浮水印來評估影像是否由Imagen 產生

SynthID 不會影響影像質量，而且即使在添加濾鏡、更改顏色以及使用各種有損壓縮方案（例如JPEG）進行保存等修改之後，水印仍可被偵測到

在SynthID中使用了兩種深度學習模型，分別用於浮水印和識別。這兩個模型已經在多個圖像集上進行了聯合訓練，並對一系列目標進行了優化

目前，一些用戶可以在谷歌的Vertex AI平台上使用SynthID工具（Beta版）對Imagen進行操作

值得注意的是，SynthID 無法保證浮水印可以完全抵禦極端影像處理，但它提供了一種有潛力的技術方法，使人們能夠負責任地使用由人工智慧產生的內容。研究團隊表示未來可能還會推出類似的工具，用於音訊、視訊和文字等其他模態

以上是Google推出SynthID工具，為AI產生的影像添加浮水印功能的詳細內容。更多資訊請關注PHP中文網其他相關文章！