Compréhension approfondie de la technologie deep fake : exploration et recherche de l'IEEE

La plupart des gens sont sûrs de pouvoir distinguer l'authenticité. Cependant, la montée des contrefaçons profondes peut rendre cette capacité de plus en plus difficile.

Deepfake est un contenu numérique créé par l'intelligence artificielle (IA), qui peut couvrir l'audio, la vidéo et les images fixes, et semble extrêmement réel. Il représente souvent des personnages parlant et faisant des choses qui ne sont pas vraies. Les experts en cybersécurité et les experts en technologie avertissent de plus en plus que ce contenu pourrait être utilisé de diverses manières malveillantes, notamment par des stratagèmes frauduleux ou la diffusion de fausses informations.

Identification des risques

Les célébrités et les hommes politiques sont un domaine clé dans lequel les experts mettent en garde contre la montée des deepfakes, mais les attaques peuvent également viser des individus.

Rebecca Herold, membre de l'IEEE, a partagé une anecdote illustrant les risques des deepfakes. "Un de mes amis a reçu un appel de sa femme alors qu'il était en voyage d'affaires", a déclaré Herold. "Elle était très bouleversée, sanglotait et lui a dit qu'elle avait eu un accident et qu'elle n'avait pas d'argent pour appeler un remorquage. camion. Mon ami a presque cru à l'appel et on aurait dit que c'était sa femme. Mais quand l'ami a dit à sa femme qu'il devait effectuer un virement bancaire à l'entreprise de dépanneuse, et après avoir raccroché, il a composé le téléphone de sa femme. numéro - il a dit qu'il avait presque été trompé, et la voix était très réelle. Cependant, sa femme était très en sécurité. qu'elles ne sont peut-être pas réelles

déclare Yale Fox, membre de l'IEEE : "Actuellement, les vidéos deepfake ne sont pas complètement impossibles à distinguer des vraies vidéos, mais nous nous en rapprochons. La plupart des gens peuvent encore identifier les vidéos deepfake

L'IA est excellente pour créer une vidéo." image positive des autres, mais les détails sont toujours là. Questions telles que les vues de côté et de dos. L'image doit être vue sous tous les angles. Les photos et vidéos deepfakes ont tendance à avoir plus de dents que les vraies dents. Si quelqu'un sourit ou montre des dents, regardez attentivement

• Les photos et vidéos Deepfake donnent souvent trop ou pas assez de doigts aux gens. Prenez soin de compter combien de doigts se trouvent sur le sujet de votre photo ou vidéo.

La technologie deepfake pose également certains problèmes en ce qui concerne les vues latérales et angulaires des personnes. Si vous communiquez avec quelqu'un par vidéo en direct et que vous pensez qu'il s'agit d'un deepfake, vous pouvez lui demander de regarder sur le côté ou de poser une question qui lui fera tourner la tête, comme : "Hé, j'aime le mur derrière toi, ce tableau". sur. De quel artiste s'agit-il ? »

• Les photos et vidéos Deepfake contiennent souvent des incohérences telles que l'éclairage, les reflets et les ombres.

• Les vidéos Deepfake contiennent souvent des mouvements rapides mais peu naturels. Par exemple, recherchez des mouvements saccadés inhabituels ou des sauts dans le temps.

L'audio Deepfake a souvent une qualité audio non naturelle ou incohérente, ce qui peut occasionnellement se produire

UNE COURSE AUX NOUVELLES TECHNOLOGIES

La technologie Deepfake peut nuire à la société, ce qui a suscité des inquiétudes de la part des gouvernements, des universités et du boom de la recherche du secteur privé sur les outils de détection

Certaines technologies évaluent elles-mêmes le contenu suspect. Par exemple, certains outils peuvent évaluer le flux sanguin sur le visage d'une personne, à la recherche d'un mélange ou d'un flou non naturel. Ou regardez le reflet des yeux d'une personne pour voir s'il correspond à son environnement comme indicateur d'authenticité. Une discussion approfondie organisée par l'IEEE Signal Processing Society a démontré certaines de ces techniques dans la pratique.

D'autres outils peuvent examiner les métadonnées d'un fichier à la recherche de traces de manipulation

Kayne MGladrey, membre senior de l'IEEE, a déclaré : « De même, les personnes impliquées dans les menaces deepfake peuvent apprendre des algorithmes de détection et adapter leurs techniques en conséquence. le contenu vidéo et audio investit dans le déploiement de ces solutions à grande échelle pour empêcher la propagation de la désinformation ou de la désinformation. »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!