Google、AI生成画像に透かし機能を追加するSynthIDツールを発表

生成型人工知能の急速な発展に伴い、人々は AI によって生成されたコンテンツによってもたらされる潜在的なリスクにますます注目を集めています。たとえば、人々は意図的または非意図的に、AI によって生成された偽情報を広める可能性があります。特に画像生成の分野では、AI によって生成された画像と実際の画像を区別することが特に重要になっています。

透かしを追加することで AI によって生成されたコンテンツを区別しようとする研究がいくつかあります。 ICML 2023 の優れた論文「大規模言語モデルの透かし」では、テキスト生成の課題に対処するためにモデルの出力に透かしを追加する方法を提案しています

Google DeepMind が新しい言語モデルの開始を発表SynthID ツール。AI で生成された画像を識別するために、生成された画像に透かしを追加するために使用されます。現在、SynthID のベータ版はオンラインです。 Google CEO の Sundar Pichai 氏と Google DeepMind CEO の両方が Twitter で SynthID ツールの導入を転送しました

現在、SynthID は Google の Wensheng Diagram に使用できます。 Imagen モデルによって生成された画像には透かしが追加されますが、透かしの存在は目にはほとんど見えません。以下の図に示すように、画像に透かしが入っていても入っていなくても見た目に違いはありません。

#SynthID をスキャンできます。画像が Imagen

SynthID によって生成されたかどうかを評価するための画像は、保存後にフィルターの追加、色の変更、JPEG などのさまざまな非可逆圧縮スキームを使用した場合でも画質に影響しません。およびその他の変更を加えても、ウォーターマークは引き続き検出できます。

SynthID では、ウォーターマークと識別にそれぞれ 2 つのディープ ラーニング モデルが使用されています。 2 つのモデルは複数の画像セットで共同トレーニングされ、さまざまな目的に合わせて最適化されています。

現在、一部のユーザーは Google の Vertex AI プラットフォーム ツール (ベータ版) で SynthID を使用して操作できます。 Imagen

SynthID は、ウォーターマークが極端な画像処理に対して完全に耐性があることを保証するものではありませんが、人々が AI によって生成されたコンテンツを責任を持って使用できるようにする有望な技術的方法を提供することは注目に値します。 。研究チームは、将来、オーディオ、ビデオ、テキストなどの他のモダリティ向けにも同様のツールがリリースされる可能性があると述べています。

以上がGoogle、AI生成画像に透かし機能を追加するSynthIDツールを発表の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。