Pindrop dévoile le logiciel Pulse Inspect pour détecter les clones vocaux IA-deepfake afin d'aider à mettre fin à la fraude et à la désinformation

Pindrop a dévoilé le logiciel Pulse Inspect pour détecter les clones vocaux IA-deepfake afin d'aider à mettre fin à la fraude et à la désinformation. Le logiciel utilise des technologies brevetées pour détecter de manière fiable plus de 90 % des voix générées par l'IA, même avec des échantillons audio d'une durée inférieure à dix secondes.

Les voix clonées par l'IA sont devenues si convaincantes que des millions de personnes ont été perdues à cause de la fraude. Plus tôt cette année, des voleurs ont volé 25 millions de dollars à un employé financier d'une multinationale de Hong Kong en utilisant un appel vidéo deepfake utilisant les voix deepfake du directeur financier et d'autres membres du personnel. De fausses vidéos politiques ont été utilisées pour influencer le résultat des élections, notamment celles de 2024 aux États-Unis. De faux appels vocaux émanant de politiciens ont également été créés et utilisés, déclenchant un grand tollé.

Pindrop mène des recherches sur le sujet depuis huit ans et détient 25 brevets sur la détection des deepfakes audio. Leur dernière IA Pulse Inspect a été formée sur plus de 20 millions d’échantillons de voix réelles et fausses. De faux échantillons de voix provenant de plus de 370 outils de clonage différents permettent des taux de détection élevés. L'IA divise les échantillons de voix en clips de quatre secondes à des fins d'analyse, en utilisant les caractéristiques audio uniques de divers algorithmes de deepfake et les caractéristiques audio supplémentaires des voix réelles pour identifier les contrefaçons. Cela permet à Pulse Inspect de détecter les contrefaçons 90 % du temps lorsqu'il est confronté à des voix clonées à partir d'outils deepfake jamais rencontrés auparavant et 99 % du temps lorsqu'il est confronté à des voix provenant d'outils précédemment vus.

Les entreprises doivent savoir que les logiciels de détection des fraudes ne sont jamais parfaits. Un récent test NPR de Pulse Inspect a révélé que le logiciel ne catégorisait pas correctement les voix réelles et fausses dans 3 des 84 échantillons testés. Le taux d’échec de 3,6 % laisse une petite chance aux attaquants de réussir, et les entreprises doivent toujours recourir à une défense en profondeur pour protéger leurs actifs.

Les lecteurs qui s'inquiètent pour leurs actifs et leurs proches doivent sécuriser leurs comptes à l'aide de méthodes à deux facteurs, telles que des codes d'accès par SMS ou une clé physique à deux facteurs (comme celle-ci sur Amazon), et s'assurer que les membres de leur famille utilisent un mot ou une phrase secrète pour vérifier leur identité lors d'appels suspects.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!