Il est difficile de faire la distinction entre le vrai et le faux, ce qui suscite une controverse. Quelle est la limite applicable au clonage vocal de l'IA ?

Récemment, des créations simulées d'IA telles que Stefanie Sun et Jay Chou ont attiré une large attention sur Internet et ont rapidement suscité de vives discussions parmi les internautes. En raison de leur nature réaliste, les sons de l’IA peuvent non seulement reproduire les œuvres de chanteurs célèbres, mais aussi soulever une série de problèmes éthiques et juridiques, et sont même utilisés par des criminels, devenant ainsi un moyen important d’augmenter le taux de réussite des fraudes aux télécommunications.

Selon Science and Technology Daily, dans le cadre de la fraude télécom, les escrocs utilisent un logiciel d'IA pour scanner les enregistrements vocaux et les copier, avec un taux de précision allant jusqu'à 99 %. Ses données de corpus sont extraites de vidéos de réseaux sociaux et d'autres clips audio téléchargés. Après avoir été saisies dans le logiciel d'IA, il peut générer des voix et prononcer différentes expressions ou phrases. Selon des chercheurs étrangers, certains modèles et algorithmes peuvent générer un son cloné d'assez haute qualité en seulement 1 minute ou moins. Si des modèles et des algorithmes d’intelligence artificielle plus avancés sont utilisés, les sons produits seront plus difficiles à distinguer entre le vrai et le faux pour les gens ordinaires.

Ce qui est encore plus inquiétant, c'est que lorsque les produits noirs et gris tels que le clonage vocal de l'IA, le changement de visage de l'IA et la fuite d'informations personnelles sont entièrement intégrés, les escrocs ne peuvent pas seulement former des « coups de poing » de fraude électronique via des vidéos et des voix d'IA synthétisées. , mais aussi Grâce à des informations privées maîtrisées et à des scripts de tromperie très matures, des textes de dialogue profondément personnalisés sont générés, transformant la fraude électronique en un « monde parallèle » difficile à prévenir, à détecter, à réveiller et nulle part à contrôler.

De plus, l'utilisation de l'audio cloné par l'IA dans des domaines artistiques tels que les auteurs-compositeurs-interprètes, les chansons et la musique constitue également un défi important pour le domaine du droit d'auteur. La production de créations secondaires peut constituer une atteinte à l'auteur du son original. Dans le même temps, la propriété des droits d'auteur sur l'œuvre est également floue et difficile de déterminer si elle appartient à des humains ou à l'IA.

Tout comme le processus qui s'est répété dans l'histoire, la technologie vient en premier, et les systèmes suivent. Pendant la période vide de normes et d'ordre, il n'y a pas seulement la « croissance barbare » conventionnelle, mais aussi les tactiques sans scrupules sur le terrain. Le côté obscur. La tradition sera également renversée par le progrès.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!