Les logiciels d'IA qui changent de visage sont vendus publiquement en ligne, où sont les limites juridiques ?

Récemment, des cas de fraude causés par la technologie de l'IA qui change le visage ont attiré l'attention des gens. Avec le développement de grands modèles d'IA, le champ d'application de la technologie de « changement de visage » devient de plus en plus large. La percée technologique a également rendu les expressions faciales et les détails des actions des personnages après le changement de visage plus réalistes. , cela pourrait causer de graves dommages. L'enquête du journaliste a révélé que il est très facile d'obtenir un logiciel de changement de visage d'IA sur Internet Où est la limite légale de l'utilisation d'un logiciel de changement de visage d'IA ? Comment faire du bon travail en amont de la supervision ?

01

Un logiciel payant de changement de visage d'IA apparaît sur Internet

Les prix des forfaits varient de 499 yuans à 2888 yuans

Actuellement, s'appuyant sur les percées des grands modèles et algorithmes, le changement de visage de l'IA est utilisé dans une gamme plus large d'applications, ce qui suscite davantage d'inquiétudes. Les didacticiels démontrant l'utilisation et les effets des logiciels de changement de visage abondent sur Internet. Différent d'un grand nombre de logiciels gratuits que les gens ordinaires peuvent « essayer », le journaliste a découvert que Il existe de nombreux logiciels payants de changement de visage d'IA à prix élevé sur Internet Quelle est la différence entre. ces logiciels payants et ces logiciels gratuits ?

Après avoir recherché "Logiciel de changement de visage IA", le journaliste a contacté un développeur, qui lui a fourni une vidéo de démonstration de l'utilisation de son logiciel pour mettre en œuvre le changement de visage - le côté gauche de la page à double fenêtre est le vidéo originale avant le changement de visage. À droite, la vidéo après le changement de visage. À l'œil nu, « l'humain numérique » de après le changement de visage n'a presque aucun défaut dans la forme de sa bouche, ses expressions et ses minuscules. mouvements.

△Effet de changement de visage amateur montré par le vendeur (S est la vidéo originale, D est après le remplacement)

Sur son site de vente, le développeur de logiciels a également montré comment assembler les yeux et la bouche de deux actrices bien connues pour générer une vidéo d'un nouvel "humain numérique".

△Le vendeur montre un remplacement partiel des traits du visage

Ce logiciel payant propose différentes versions du débutant (LV1) au avancé (LV4) en passant par l'ensemble complet (LV5). Pour le package d'entrée de gamme, 499 yuans fournissent une interface logicielle, un guidage vidéo, un modèle d'échange de visage, etc. Si vous dépensez 2 888 yuans, vous pouvez obtenir un ensemble complet de modèles d'échange de visage vidéo de niveau (LV5).

△Une variété de différents niveaux de produits logiciels qui changent de visage sont disponibles sur Internet

02

"Vous pouvez changer le visage que vous voulez"

L'IA grand modèle peut intégrer plusieurs fonctions pour créer un "humain numérique"

Ouvrez le site, Il n'y a aucun texte en bas indiquant qu'il a été enregistré. Le vendeur est également très prudent et n'utilise que du texte pour communiquer tout au long du processus. Il a dit que par rapport aux packages junior (LV1) à super (LV4), la version complète (LV5) a plus d'itérations et des capacités plus fortes. On peut également comprendre que l'effet de changement de visage est plus réaliste. peut non seulement réaliser le changement de visage vidéo et le changement de visage en direct sont également pris en charge.

Le journaliste a en outre demandé : le visage peut-il être changé en fonction de ses propres besoins ? Le développeur du logiciel a déclaré : « Vous pouvez changer le visage de votre choix et utiliser le matériel pour la formation. »

△Capture d'écran d'un développeur de logiciels discutant avec un journaliste

Un technicien engagé dans le développement de l'IA a déclaré : Cela signifie qu'il peut y avoir davantage de risques difficiles à contrôler. "La technologie de changement de visage de l'IA similaire à deepfake est open source. Récemment, les grands modèles d'IA sont devenus populaires et son algorithme a été mis à jour. Il peut intégrer des images de Vincent, des textes de Vincent, de l'audio de Vincent, des vidéos de Vincent et des visages. -changer de visage, en combinant de telles fonctions, peut créer un tout nouveau « humain numérique » ou « humain IA », et le coût et la difficulté de la supervision sont plusieurs ordres de grandeur plus élevés. " #🎜🎜 #

△Commentaires des utilisateurs affichés par le vendeur

03

Expert : Système de supervision de logo efficace

Peut clarifier à l'avance les limites floues causées par le changement de visage de l'IA

Zhao Zhanhan, avocat au cabinet d'avocats Jiawei de Pékin et expert juridique en informatique, a déclaré que du point de vue de l'après-attentat, le droit pénal contient des dispositions sur le délit de fraude et le code civil stipule clairement que les citoyens jouissent du droit au portrait ; , nom, réputation, etc. droits civils. En d’autres termes, s’il existe un cas similaire d’utilisation de portraits d’autrui à des fins frauduleuses, les criminels peuvent ensuite être légalement arrêtés et sanctionnés. Cependant, avec le développement rapide de la technologie de l'intelligence artificielle, devrait également explorer à l'avance comment parvenir à une prévention efficace.

Par exemple, les « Règlements sur la gestion de la synthèse profonde des services d'information Internet » exigent que

si le service de synthèse profonde peut provoquer une confusion ou un malentendu parmi le public, le fournisseur de services de synthèse profonde doit afficher des informations visibles dans un endroit et une zone raisonnables du contenu d’information généré ou modifié.

Les « Mesures pour la gestion des services d'intelligence artificielle générative (projet pour commentaires) » exigent qu'avant d'utiliser des produits d'intelligence artificielle générative pour fournir des services au public,

une évaluation de sécurité soit signalée au département national de cybersécurité et d'informatisation conformément à réglementations pertinentes ; les intérêts légitimes d'autrui doivent être respectés ; Les fournisseurs de produits doivent être responsables de la légalité des données de pré-formation et des sources de données de formation optimisées pour les produits d'intelligence artificielle générative.

Pan Helin, codirecteur du Centre de recherche sur l'économie numérique et l'innovation financière de l'International Business School de l'Université du Zhejiang, estime que pour l'instant,

Si les exigences d'étiquetage peuvent être efficacement mises en œuvre et qu'un système de réglementation efficace peut être formé, l'IA peut être clarifiée. dans une large mesure à l'avance. Les frontières floues provoquées par l'échange de visages.

Pan Helin : Le système actuel de supervision de l'étiquetage des changements de visage par l'IA n'a pas encore été mis en place. Les contenus non étiquetés doivent être identifiés par des moyens techniques, et il doit y avoir des sanctions spécifiques pour les individus ou les organisations qui n'étiquetent pas les mesures et les normes. et les systèmes.

Zhao Zhan estime que

À long terme, les mesures de surveillance et de sanction doivent être continuellement « réitérées » avec le développement technologique afin de former un plan de gouvernance tridimensionnel et efficace.

Source : compte officiel WeChat de Voice of China

Réimprimé de : People's Daily Client

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!