Google lance l'outil SynthID pour ajouter une fonction de filigrane aux images générées par l'IA

Avec le développement rapide de l'intelligence artificielle générative, les gens sont de plus en plus attentifs aux risques potentiels causés par le contenu généré par l'IA. Par exemple, les gens peuvent intentionnellement ou non diffuser la désinformation générée par l’IA. Surtout dans le domaine de la génération d'images, il est devenu particulièrement important de distinguer les images générées par l'IA des images réelles

Certaines études tentent de distinguer le contenu généré par l'IA en ajoutant des filigranes. L'article exceptionnel de l'ICML 2023 "Watermarking for Large Language Models" propose une méthode pour ajouter des filigranes à la sortie du modèle afin de relever le défi de la génération de texte

Google DeepMind a annoncé le lancement d'un nouvel outil, SynthID, pour générer des images. des filigranes pour identifier les images générées par l’IA. Actuellement, la version bêta de SynthID est en ligne. Le PDG de Google, Sundar Pichai, et le PDG de Google DeepMind ont tous deux retweeté l'introduction de l'outil SynthID

Actuellement, SynthID peut ajouter des filigranes aux images générées par le modèle graphique Vincent de Google Imagen, et il est presque visuellement impossible qu'un filigrane soit détecté. Comme le montre la figure ci-dessous, il n'y a aucune différence d'apparence selon que l'image soit avec ou sans filigrane :

SynthID peut évaluer si l'image a été générée par Imagen en scannant le filigrane numérique dans l'image

SynthID n'affecte pas la qualité de l'image et même après des modifications telles que l'ajout de filtres, la modification des couleurs et l'enregistrement avec divers systèmes de compression avec perte tels que JPEG, le filigrane peut toujours être détecté

Deux modèles d'apprentissage en profondeur sont utilisés dans SynthID, respectivement pour le filigrane et la reconnaissance. Les deux modèles ont été formés conjointement sur plusieurs ensembles d'images et optimisés pour une gamme d'objectifs

Actuellement, certains utilisateurs peuvent utiliser l'outil SynthID (bêta) sur Imagen sur la plateforme Vertex AI de Google Operation

Il convient de noter que SynthID ne garantit pas que les filigranes soient totalement résistants aux traitements extrêmes des images, mais il propose une approche technique prometteuse pour permettre aux utilisateurs d'utiliser de manière responsable le contenu généré par l'intelligence artificielle. L'équipe de recherche a déclaré que des outils similaires pourraient être lancés à l'avenir pour d'autres modalités telles que l'audio, la vidéo et le texte

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!