Le juge rappelle - Méfiez-vous des risques juridiques liés à une mauvaise utilisation de la technologie de l'IA

La technologie de l'intelligence artificielle a été discrètement intégrée dans tous les coins de notre vie ces dernières années : des fonctions communes telles que le service client vocal intelligent, les ancres d'IA et la voix-texte ont considérablement amélioré la commodité du travail et de la vie. En changeant, les applications de peinture IA ou les petits programmes sont également faciles à utiliser, permettant aux gens ordinaires de réaliser leur rêve de devenir une star ou un peintre en une seconde. ChatGPT, un outil de chat développé aux États-Unis à la fin de l'année dernière, est devenu. très populaire dans le monde entier une fois sorti. Cependant, la technologie est toujours une arme à double tranchant. Suite à l'incident de la couverture de "AI Stefanie Sun", récemment, un homme du Fujian a été escroqué de 4,3 millions de yuans par un escroc utilisant la technologie de changement de visage et d'onomatopées par l'IA pour se faire passer pour son ami. et lui a escroqué 4,3 millions de yuans grâce à un chat vidéo de 10 minutes, incitant les gens à réfléchir plus profondément : comment la technologie de l'IA devrait-elle servir l'humanité ? Quels risques juridiques l’utilisation abusive de la technologie entraînera-t-elle et quel type de crise de confiance cela entraînera-t-il ?

1. La « création » d’IA présente un risque de contrefaçon

L'intention initiale du développement de la technologie de l'IA est d'améliorer la vie humaine. Ces dernières années, son traitement des vidéos, des audios, des images et des textes est progressivement passé du laboratoire au public, modifiant ainsi la production et le mode de vie des gens. Large gamme de scénarios d'application et gameplay diversifié. Il offre des performances extraordinaires en termes d'augmentation de l'efficacité et de libération de la productivité.

Prenons l'exemple de la technologie vidéo IA. Dans le passé, la mauvaise conduite d'un certain acteur pouvait avoir empêché la diffusion de l'intégralité de l'œuvre à laquelle il participait, entraînant ainsi des pertes financières pour l'équipe de tournage. Grâce à la technologie de l'IA, il est possible de « changer le visage » de l'acteur problématique une fois le tournage de l'œuvre terminé et d'arrêter la perte de temps. En termes de production d'effets spéciaux, dans le passé, l'IA n'était qu'un assistant pour les artistes d'effets spéciaux, mais il existe désormais plusieurs logiciels capables de générer des effets spéciaux à succès d'une manière « idiote ». Les effets spéciaux des films sont entrés dans le « civil ». époque", et les gens ordinaires peuvent également vivre la merveilleuse expérience de créer leurs propres effets spéciaux. En outre, la technologie d'IA peut également créer des vidéos « à partir de rien » basées uniquement sur la rédaction sans ajouter d'autres images et supports vidéo, répondant ainsi aux besoins plus diversifiés des créateurs.

Pendant la Fête du Printemps de cette année, une série d'images de lapins de dessin animé pelucheux sur fond rouge sont devenues populaires dans le cercle d'amis et sont devenues les fonds d'écran et les avatars de nombreuses personnes. Ces images ont toutes été générées par la technologie de dessin d'IA. De nombreux outils de dessin d'IA ont vu le jour dans les domaines de la conception et de la peinture. Les utilisateurs n'ont qu'à saisir des commandes de texte pour réaliser des « dessins à partir de texte » et obtenir un bon travail en quelques minutes, ce qui améliore considérablement l'efficacité de la production. Cependant, cela pourrait avoir un impact sur le secteur du droit d’auteur sur l’image.

D'une manière générale, si vous souhaitez utiliser une image protégée par le droit d'auteur, y compris des peintures et des photographies, vous devez payer pour l'utiliser légalement. Dans le cas contraire, des cas de violation du droit d'auteur se produiront, notamment dans le domaine des litiges liés aux médias personnels. Certains comptes de médias autonomes ont utilisé des images protégées par le droit d'auteur d'autres personnes comme illustrations dans des publicités sans autorisation et ont été poursuivis en justice par les titulaires des droits pour obtenir une compensation. Certaines agences de droits d'auteur peuvent également délibérément dissimuler et inciter d'autres personnes à utiliser des images protégées par le droit d'auteur, etc., pour obtenir les faits. plus tard, ils demandent une compensation à l'autre partie, la forcent à signer un contrat annuel ou à intenter une action en justice, transformant ainsi la protection des droits en un moyen de réaliser des profits. L'émergence de la technologie de dessin basée sur l'IA peut, dans une certaine mesure, aider les opérateurs de médias autonomes à contrôler leurs coûts et à réduire les risques de poursuites en cas d'utilisation inappropriée des œuvres illustrées. D'un autre côté, elle peut également perturber l'ordre du marché des droits commerciaux. chaîne de l'industrie de la protection des œuvres d'art. Le comportement constitue un coup dur.

La vidéo IA mentionnée ci-dessus, la technologie de dessin IA et l'outil de chat « polyvalent » ChatGPT qui peut aider les gens à rédiger des articles, des e-mails, des scripts, des poèmes et des codes sont tous des applications spécifiques de la technologie de synthèse profonde, que les gens soient ou non. avoir une formation professionnelle et une expérience pertinente Tant que vous avez des compétences d'expression simples, vous pouvez « créer » à l'aide de ces outils d'IA. Alors, quelle est la propriété des droits d’auteur sur ces vidéos, images et textes générés ? En fait, la loi chinoise sur le droit d'auteur ne stipule pas clairement la propriété des droits d'auteur sur les œuvres générées à l'aide de l'IA. Cependant, de nombreux outils d'IA ont fixé des règles d'utilisation correspondantes pour la propriété des droits sur les œuvres générées. Certains logiciels ont également des règles pour les utilisateurs gratuits. utilisateurs payants. La propriété des droits de l'œuvre et la possibilité de la commercialiser sont distinguées, ce qui peut être considéré comme le fait que les deux parties parviennent à un accord sur les questions de droit d'auteur de l'œuvre générée, et la disposition de l'œuvre par l'utilisateur doit être conforme aux l'accord.

De plus, certaines personnes se demandent également si les œuvres générées par l'IA grâce à l'apprentissage et à l'imitation d'échantillons massifs enfreindront les droits légaux des titulaires des droits d'auteur d'œuvres antérieures ? À cet égard, le juge du Tribunal populaire intermédiaire n°4 de Pékin a estimé que cela dépend de la question de savoir si le degré de référence et d'utilisation des travaux d'IA sur les œuvres d'autrui constitue une similitude substantielle. S'il s'agit simplement d'une étude et d'une imitation des techniques de création, des règles, des techniques et des styles d'autrui, il est difficile de l'identifier comme du « plagiat ». Cependant, s'il s'agit d'une copie et d'un collage mécaniques des œuvres d'autrui, cela peut constituer une forme de « plagiat ». infraction. Par conséquent, sur la base de l'utilisation de l'IA pour obtenir l'inspiration et la créativité dès le début, les créateurs devraient injecter leurs propres idées, perspectives, émotions humanistes, etc. pour modifier considérablement le contenu et sécuriser la propriété et l'utilisation ultérieure de l'œuvre.

2. L'IA qui « change de visage » peut porter atteinte aux droits de portrait

L'itération de la technologie a rendu possible de nombreuses choses impossibles, comme c'est le cas avec "l'IA Stefanie Sun" qui a récemment explosé sur Internet. De nombreux créateurs utilisent le timbre de Stefanie Sun pour entraîner l'IA et utilisent des timbres synthétisés pour reprendre les œuvres d'autres chanteurs. Stefanie Sun, qui n'a pas sorti d'album depuis de nombreuses années, a instantanément plus d'un millier de reprises. Même elle a dit cela "humain". les êtres ne peuvent pas le surpasser. " Juste au coin de la rue. " Alors, ces couvertures IA sont-elles légales ?

En effet, la voix chantée et le timbre lui-même n'entrent pas dans le champ de protection du droit d'auteur. Cependant, l'article 1023 du Code civil stipule que la protection de la voix des personnes physiques est régie par les dispositions pertinentes en matière de protection. des droits au portrait. En d’autres termes, aucun droit au portrait ne sera protégé. Utiliser des moyens informatiques pour contrefaire et violer les droits d’autrui à leur voix.

En outre, certaines personnes réclament une exemption au motif « à des fins de divertissement uniquement et non à des fins commerciales ». Cependant, selon les dispositions de l'article 42 de la loi sur le droit d'auteur, les producteurs de son ne sont pas tenus d'utiliser des œuvres musicales qui ont été légalement autorisées. enregistré sous forme d'enregistrements sonores par d'autres pour réaliser des enregistrements sonores Avec l'autorisation du titulaire du droit d'auteur, la rémunération doit être payée conformément à la réglementation. La clause de non-responsabilité ne constitue pas un obstacle à la violation du droit d'auteur. De plus, certaines personnes recevront des revenus de la plateforme ou des récompenses d'utilisateurs après avoir téléchargé des œuvres de couverture d'IA. Bien qu'elles n'aient pas à payer pour écouter, les producteurs en tirent des revenus, il est donc difficile de définir leurs œuvres comme étant un usage équitable au sens de la loi sur le droit d'auteur. . "Spectacle gratuit".

On voit que même si la technologie de l'IA est bonne, elle doit être protégée contre les abus. Il fut un temps où des célébrités telles que "Yang Mi" et "Reba" apparaissaient fréquemment dans la salle de diffusion en direct pour apporter des marchandises, et les internautes aux yeux perçants le voyaient d'un coup d'œil. Il s'est avéré que c'étaient toutes des IA qui changeaient de visage. technologies, et certaines personnes ont essayé de porter un « visage de star » pour attirer davantage d'utilisateurs à entrer dans la salle de diffusion en direct. Ce faisant, bien qu’il y ait du trafic, il porte également atteinte aux droits et intérêts légitimes d’autrui. Selon l'article 1019 du Code civil, aucune organisation ou individu ne peut porter atteinte aux droits à l'image d'autrui en diffamant, en dégradant ou en utilisant des moyens informatiques pour falsifier. Sans le consentement du titulaire du droit au portrait, le portrait du titulaire du droit au portrait ne peut être produit, utilisé ou divulgué, sauf disposition contraire de la loi. Sans le consentement du titulaire du droit au portrait, le titulaire du droit sur l'œuvre de portrait ne doit pas utiliser ou divulguer le portrait du titulaire du droit au portrait de quelque manière que ce soit, par exemple en publiant, en copiant, en distribuant, en louant ou en exposant. Les portraits de célébrités ont plus de valeur commerciale que les gens ordinaires. La « transplantation » illégale de portraits de célébrités sur des présentateurs équivaut à obtenir un effet de célébrité à un coût nul. Cela ne porte pas seulement atteinte aux droits de portrait des célébrités dont le visage a été modifié et aux intérêts économiques qu'elles représentent. , mais cela affecte également Les autres opérateurs qui paient pour utiliser des portraits de célébrités conformément à la loi sont également manifestement injustes.

De plus, certains internautes ont téléchargé leurs propres photos et remplacé les visages d'acteurs de films et de séries télévisées par leurs propres visages. Ce comportement comporte également des risques juridiques. Selon les dispositions légales sur le droit au portrait, « l'échange de visage inversé » est également un acte de violation du droit au portrait d'autrui en falsifiant des moyens informatiques. En particulier, changer le visage des personnages de films et de séries télévisées et télécharger les vidéos sur Internet peut également constituer une violation des droits d'auteur tels que le droit de diffuser des informations cinématographiques et télévisuelles en ligne et le droit de protéger l'intégrité de l'œuvre. Les titulaires de droits d'auteur concernés peuvent se réserver le droit de poursuivre leur responsabilité et d'obtenir une compensation.

Un juge du Tribunal populaire intermédiaire n°4 de Pékin a rappelé que « changer de visage » peut également déclencher d'autres différends sur les droits de la personnalité. Un blogueur vidéo a récemment utilisé la technologie de changement de visage de l'IA pour remplacer le visage du protagoniste masculin dans certaines scènes intimes du film et de la série télévisée par le sien, provoquant un inconfort pour de nombreux internautes et fans de l'acteur. Les scènes intimes des acteurs dans la pièce sont des besoins de performance qui se reflètent dans le contrat et le scénario. Elles constituent une interprétation nécessaire de l'intrigue basée sur la connaissance et le consentement de l'acteur. Cependant, le comportement du blogueur constitue non seulement une impolitesse et une offense à l'égard de l'actrice, mais peut également être considéré comme une « violation de la volonté d'autrui par le langage, l'écriture, les images, le comportement physique, etc. » comme le stipule l'article 1010 du Code civil. D'autres commettent du harcèlement sexuel" et en portent la responsabilité civile. De plus, afin de « créer des rumeurs pornographiques » ou de réaliser illégalement des profits, les portraits de stars féminines ou de femmes ordinaires sont transformés en vidéos pornographiques, ce qui porte gravement atteinte aux droits à la réputation d'autrui et cause de grandes souffrances mentales aux parties impliquées. doit être puni conformément à la loi.

3. Mettre l'accent sur la prévention de l'utilisation de l'IA pour commettre des crimes

Alors que les gens explorent encore les diverses commodités de l’IA, les criminels se sont déjà concentrés sur cette technologie. Selon certaines informations, « l’ami » WeChat de M. Guo du Fujian l’a contacté par vidéo et lui a dit qu’il souhaitait emprunter un dépôt de 4,3 millions de yuans. Grâce à sa confiance dans l'appel vidéo, M. Guo a effectué le transfert en 10 minutes et a rapidement découvert qu'il avait été trompé. Il s'est avéré que l'escroc a d'abord volé le compte WeChat de l'ami de M. Guo, a pris connaissance de la solidité financière de M. Guo, puis a obtenu le visage, la voix et d'autres informations de « l'ami » pour une synthèse ultérieure, et a finalement achevé la fraude, ce qui en fait difficile à détecter. À l’origine, la communication à distance a été créée pour des raisons de commodité, mais l’utilisation abusive de la technologie de l’IA a réduit la confiance des gens dans la communication en ligne. Imaginez, si quelqu’un utilise la technologie de l’IA pour produire des vidéos illégales, de fausses nouvelles, etc., cela nuira sans aucun doute au système de confiance sociale.

L'intégrité est cruciale pour garantir la sécurité des transactions, mais une utilisation inappropriée de la technologie de synthèse profonde peut augmenter le risque de défaut, en particulier dans le domaine des transactions basées sur les réalisations intellectuelles de l'autre partie. Lorsque le travail d'un créateur est constitué de texte ou d'images générés via des outils d'IA tels que ChatGPT et Midjourney, l'originalité du travail peut être défectueuse. Par exemple, en termes de licence de droits d'auteur ou de contrats de transfert, à moins que les deux parties au contrat ne soient parvenues à un accord sur l'utilisation de l'IA pour la création, ces œuvres synthétisées peuvent constituer une exécution défectueuse en raison d'une originalité insuffisante, ou peuvent présenter des défauts de droits en raison d'une violation. des droits d'auteur d'autrui, donnant au preneur de licence La partie ou le cessionnaire peut causer des pertes inutiles lors de l'utilisation commerciale ultérieure de l'œuvre.

De plus, l’accessibilité de la technologie de l’IA augmentera également l’aléa moral. Le juge du quatrième tribunal populaire intermédiaire de Pékin a déclaré que par rapport à la charge de travail requise pour que les individus effectuent un travail intellectuel indépendant, le temps, les coûts économiques et énergétiques sont très différents entre la charge de travail requise pour accomplir un travail utilisant l'IA, qu'il s'agisse d'écrire ou de peindre. , etc. Les praticiens du domaine s'appuient fortement sur l'IA pour effectuer leur travail sans en informer les clients payants, et continuent de proposer des devis selon les normes complétées par les individus de manière indépendante. L'ordre d'une saine concurrence dans les secteurs connexes sera rompu et l'éthique professionnelle sera également de mise. crise. Bien entendu, il existe également des domaines académiques où les enjeux sont importants. Ce n'est pas nouveau pour les étudiants d'utiliser des outils d'intelligence artificielle tels que ChatGPT pour aider à la rédaction d'articles. Cependant, à ce stade, les articles créés par l'IA présentent encore de nombreuses lacunes, telles que le manque de nouveauté, d'expression logique et même de références. Il est vrai que l’IA l’a inventé sans discernement. Non seulement de tels résultats académiques n’ont aucune valeur, mais ils aggravent en fait le phénomène de mauvaise conduite académique.

Face aux risques liés, il faut non seulement y remédier mais aussi prendre des précautions. Les « Règlements sur la gestion de la synthèse profonde des services d'information Internet » promulgués par l'Administration chinoise du cyberespace ont été officiellement mis en œuvre le 10 janvier de cette année. Ils stipulent principalement les obligations des fournisseurs de services de synthèse profonde, qui exigent que les fournisseurs de services de synthèse profonde fournissent un dialogue intelligent et des synthèses humaines. les voix, la génération de visages, les scènes de simulation immersives et autres services qui génèrent ou modifient de manière significative la fonction du contenu informatif doivent être clairement signalés pour éviter toute confusion ou tout malentendu de la part du public. On voit que pour prévenir les risques, il faut d’abord commencer par les développeurs de technologies et les prestataires de services.

Pour les particuliers, la protection des informations biométriques telles que les visages, les empreintes digitales et les voix, ainsi que des informations personnelles telles que les cartes d'identité, les cartes bancaires et les comptes de réseaux sociaux, est devenue de plus en plus importante. Si une connaissance demande un transfert en ligne, son identité doit être confirmée par de multiples vérifications. Cela est particulièrement vrai pour les personnes âgées qui ne connaissent pas grand-chose à la technologie de l'IA.

Photo fournie par : Visual China

Source : Reporter client du Beijing Daily : Yuan Jing

Éditeur de processus : u060

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!