Les logiciels « AI qui changent de visage » sont vendus publiquement en ligne, allant de quelques centaines à mille yuans ! Où sont les limites juridiques ?

Cet article est reproduit de [CCTV News] ;

Récemment, des cas de fraude causés par le « changement de visage de l’IA » ont attiré l’attention. Avec le développement de grands modèles d'IA, le champ d'application de la « technologie d'échange de visage » devient de plus en plus large. Les avancées technologiques ont également rendu les expressions faciales et les détails des actions des personnages après l'échange de visage plus réalistes. cela peut causer de graves dommages.

Le journaliste de la gare principale a découvert après enquête qu'il est très facile d'obtenir le logiciel "AI face-changeing" en ligne. Quelles sont les limites juridiques pour l’exploitation de tels logiciels ? Comment faire du bon travail en amont de la supervision ?

"AI face-changing" apparaît en ligne

payantlogiciel

Les prix des forfaits varient de 499 yuans à 2888 yuans

Sur Internet, il existe de nombreux tutoriels démontrant l'utilisation et les effets des logiciels de changement de visage.

Beaucoup de ces logiciels « de changement de visage par l'IA » nécessitent un paiement élevé pour être utilisés.

Le journaliste a contacté un développeur sur la base des résultats de la recherche, et il lui a fourni une vidéo de démonstration de l'utilisation de son logiciel pour implémenter l'échange de visage - le côté gauche de la page à double fenêtre est la vidéo originale avant l'échange de visage, et le côté gauche de la page à double fenêtre est la vidéo originale avant l'échange de visage, et le le côté droit est la vidéo après l'échange de visage. À en juger par l'œil nu, la forme de la bouche, l'expression et les minuscules mouvements de « l'humain numérique » après le remplacement du visage sont presque parfaits.

Sur son site de vente, le développeur de logiciels a également montré comment « assembler » les yeux et la bouche de deux actrices bien connues pour générer une vidéo d'un nouvel « humain numérique ».

Ce logiciel payant propose différentes versions, de LV1 (junior) à LV4 (super), jusqu'à LV5 (fonctionnalité complète). Pour le package d'entrée de gamme, 499 yuans incluent une interface logicielle, un guidage vidéo, des modèles d'échange de visage, etc. Si vous dépensez 2 888 yuans, vous pouvez obtenir un ensemble complet de modèles vidéo d'échange de visage (LV5).

"Vous pouvez changer le visage que vous voulez"

Le grand modèle d'IA peut intégrer plusieurs fonctions pour créer un « humain numérique

». Le journaliste a constaté qu'il n'y avait aucun texte au bas du site Web indiquant qu'il avait été enregistré. Le vendeur est également très prudent et ne communique que par SMS tout au long du processus. Il a dit que par rapport aux packages junior (LV1) à super (LV4), la version complète (LV5) a plus d'itérations et des capacités plus fortes. On peut également comprendre que l'effet de changement de visage est plus réaliste. il peut non seulement réaliser un changement de visage vidéo, mais il prend également en charge le changement de visage en direct. Lorsque le journaliste a demandé si le visage pouvait être modifié en fonction de ses propres besoins, le développeur du logiciel a répondu : "Vous pouvez simplement utiliser le matériel et vous entraîner sur le visage que vous souhaitez modifier."

Selon un technicien engagé dans le développement de l'intelligence artificielle, cela signifie qu'il peut y avoir davantage de risques difficiles à gérer. "L'intégration des images de Vincent, des textes de Vincent, de l'audio de Vincent, des vidéos de Vincent et du changement de visage. Lorsque ces fonctions sont combinées, un tout nouvel "humain numérique" ou "humain IA" peut être créé. Le coût et la difficulté de la supervision sont plusieurs fois plus élevé." Ordre de grandeur. "

Expert

 : Système de supervision de logo efficace

Être capable de clarifier à l'avance les limites floues causées par le « changement de visage de l'IA »‍

Zhao Zhanhan, avocat au cabinet d'avocats Jiawei de Pékin et expert en droit informatique, a déclaré que du point de vue de l'après-attaque, le droit pénal contient des dispositions sur le délit de fraude et le code civil stipule clairement que les citoyens jouissent des droits civils correspondants, tels que : comme les droits au portrait, les droits au nom et les droits à la réputation. En d’autres termes, s’il s’agit d’utiliser l’image d’autrui pour commettre une fraude, les criminels seront soumis à des sanctions et à des restrictions légales. Cependant, avec le développement rapide de la technologie de l’intelligence artificielle, nous devrions également étudier à l’avance comment parvenir à une prévention efficace. Par exemple, le « Règlement sur la gestion de la synthèse profonde des services d'information sur Internet » exige que si le service de synthèse profonde peut provoquer une confusion ou un malentendu du public, le fournisseur de services de synthèse profonde doit marquer de manière bien visible l'emplacement et la zone raisonnables du généré. ou du contenu d'information édité. Les « Mesures pour la gestion des services d'intelligence artificielle générative (projet pour commentaires) » exigent qu'avant d'utiliser des produits d'intelligence artificielle générative pour fournir des services au public, une évaluation de la sécurité doit être signalée au département national de cybersécurité et d'informatisation conformément aux réglementations pertinentes. réglementations ; les intérêts légitimes d'autrui doivent être respectés ; fourniture de produits. Les auteurs doivent être responsables de la légalité des données de pré-formation et des sources de données de formation optimisées pour les produits d'intelligence artificielle générative, etc.

Pan Helin, codirecteur du Centre de recherche sur l'économie numérique et l'innovation financière de l'International Joint Business School de l'Université du Zhejiang, estime que pour l'instant, si les exigences d'étiquetage peuvent être efficacement mises en œuvre et qu'un système de réglementation efficace peut être formé, "AI " peut être clarifié à l'avance dans une large mesure. Les frontières floues provoquées par le " changement de visage ".

Pan Helin : Le système actuel de supervision de l'étiquetage pour le « changement de visage de l'IA » n'a pas encore été mis en place. Les contenus non étiquetés doivent être identifiés par des moyens techniques, et des sanctions spécifiques doivent être imposées aux individus ou aux organisations qui n'étiquetent pas les normes et les systèmes.

Zhao Zhanhan, avocat au cabinet d'avocats Jiawei de Pékin et expert juridique en informatique, estime que À long terme, les mesures de surveillance et de sanction doivent être continuellement « itérées » avec le développement technologique afin de former une gouvernance tridimensionnelle et efficace. plan.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!