Quand l’IA rencontre la fraude

"Bien que je sache que les escroqueries sont courantes de nos jours, je n'arrive toujours pas à croire que j'en ai réellement rencontré une. L'expérience d'avoir été victime d'une arnaque par les télécommunications il y a quelques jours a encore effrayé le lecteur Wu Jia (pseudonyme). Dans l'arnaque que Wu Jia rencontré, l'escroc a utilisé l'IA a changé son visage en quelqu'un qui lui était familier

.

Non seulement Wu Jia a été confrontée à une fraude par l'IA contre laquelle il était difficile de se prémunir dans sa vie quotidienne, mais un journaliste du Beijing Business Daily a remarqué que les nouveaux modèles de fraude dans les télécommunications utilisant la technologie de l'IA ont montré une incidence élevée ces derniers jours, et « le taux de réussite de La fraude à l'IA est proche de 100 %. » Des sujets tels que « Le patron d'une entreprise technologique a été escroqué de 4,3 millions de yuans en 10 minutes » ont été les uns après les autres dans les recherches les plus fréquentes, ce qui a également déclenché des discussions entre les utilisateurs sur l'application de nouvelles technologies.

Fraude « IA qui change le visage »

L’intelligence artificielle retrouve la popularité, cette fois autour de la fraude aux télécommunications. Wu Jia a déclaré à un journaliste du Beijing Business Daily qu'un compte social qu'il n'avait pas utilisé depuis longtemps avait soudainement reçu les salutations d'un « ami » du lycée qu'il n'avait pas contacté depuis de nombreuses années. Au début, il n'était pas devenu méfiant. Mais après un bref échange de plaisanteries, l'autre partie a proposé un prêt d'urgence de 2 000 yuans. Bien qu'un peu confus, Wu Jia n'a pas refusé immédiatement en raison de la relation familière dans le passé, mais a demandé à vérifier son identité par voix et vidéo.

"Elle m'a d'abord envoyé quelques messages vocaux, qui semblaient normaux et ressemblaient davantage à sa voix. Ensuite, j'ai passé un appel vidéo et elle s'est rapidement connectée. C'était bien son visage", a déclaré Wu Jia. Selon les souvenirs de Wu Jia, en raison des décalages fréquents du réseau, la conversation entre les deux n'a pas été fluide après la connexion de l'appel vidéo. L'autre partie s'est seulement excusée en disant que le réseau n'était pas bon et a également fait des remarques telles que « Vous ». je ne reconnais même pas mon visage.

Wu Jia s'est méfié parce que l'autre partie n'a pas expliqué en détail pourquoi il avait besoin d'emprunter de l'argent. Il a simplement raccroché précipitamment après avoir confirmé son « visage » et a agi anormalement. Plus tard, Wu Jia a demandé au téléphone à l'autre partie le nom de famille de leur professeur de lycée commun, mais l'autre partie n'a pas répondu directement et a toujours insisté sur le fait que « je suis qui je suis ». Après avoir réalisé qu'il avait peut-être été victime d'une arnaque, Wu Jia a raccroché l'appel vidéo et a utilisé d'autres canaux pour demander de l'aide à son camarade de classe, mais a reçu une réponse indiquant que l'emprunteur n'était pas lui.

Wu Jia est très triste de cette arnaque. Wu Jia a déclaré que même s'il savait qu'il existait de nombreuses méthodes de fraude dans les télécommunications, il ne s'attendait pas à ce que la méthode de vérification vidéo ne fonctionne pas. Plus tard, j'ai rappelé aux aînés de ma famille qu'ils pourraient facilement être fraudés s'ils se retrouvaient dans la même situation, je leur ai donc insisté à nouveau de ne pas échanger de fonds au hasard via les canaux en ligne. »

Sur la base des commentaires de Wu Jia, on déduit que ce qu'elle a rencontré était une fraude à l'IA qui a récemment attiré beaucoup d'attention. Le 22 mai, des sujets tels que « Le patron d'une entreprise technologique a été escroqué de 4,3 millions de yuans en 10 minutes », « Le taux de réussite de la fraude à l'IA est proche de 100 % », « La fraude à l'IA a éclaté dans de nombreux endroits du pays », etc., et de nombreux policiers ont également publié des cas de fraude dans les télécommunications liés à la technologie de l'IA.

Les informations publiées par le Centre antifraude du Bureau municipal de la sécurité publique de Wenzhou le 22 mai montrent : « Je pense que vous ne me traiterez pas mal et me contacterez dès que vous recevrez la photo du message texte, M. Chen. Un citoyen de Wenzhou a reçu un message de chantage du « Détective privé » et a joint une capture d'écran d'une vidéo dite indécente de M. Chen et d'une femme, mais la vidéo pertinente a été synthétisée par l'IA. M. Chen a appelé la police à l'aide. L'affaire fait actuellement l'objet d'une enquête.

Par coïncidence, le compte WeChat officiel de Ping An Baotou a révélé le 20 mai que le bureau d'enquête sur la cybercriminalité dans les télécommunications du bureau de sécurité publique de la ville de Baotou a récemment détecté un cas de fraude dans les télécommunications utilisant la technologie intelligente de l'IA, M. Guo, le représentant légal d'une entreprise technologique à Fuzhou. City, a reçu une vidéo WeChat de son ami. Après avoir confirmé le visage et la voix de son ami par appel vidéo, M. Guo a transféré 4,3 millions de yuans sur le compte de l'autre partie en 10 minutes. Ce n'est que lorsqu'il a contacté son ami après avoir transféré l'argent que M. Guo s'est rendu compte qu'il avait été trompé. Avec l'aide de la police de Baotou, 3,3684 millions de yuans de fonds frauduleux sur le compte frauduleux ont finalement été interceptés, mais 931 600 yuans ont été transférés.

Su Xiaorui, consultant senior dans le secteur financier analysé par Analysys, a déclaré qu'à mesure que l'application de la technologie de l'IA mûrit progressivement et que le seuil d'application est abaissé, utiliser l'IA pour commettre une fraude en prétendant être réel est devenu une nouvelle tendance pour les criminels.

Divulgation excessive de la vie privée

En fait, la lutte contre la fraude dans les télécommunications est devenue une tâche clé pour les régulateurs ces dernières années. Grâce à de multiples canaux en ligne et hors ligne tels que la police, les banques, les communautés et les médias, des alertes précoces détaillées et des divulgations de diverses méthodes de fraude dans les télécommunications ont été effectuées. , mais il existe de nombreuses astuces contre la fraude télécom.

Cependant, en raison de multiples avertissements, les utilisateurs deviennent de plus en plus vigilants contre la fraude télécom. Lors de cette discussion sur le thème de la fraude liée à l'IA, de nombreux utilisateurs ont également souligné l'importance de protéger les informations personnelles et de ne pas prendre à la légère tout ce qui touche à l'argent.

Wang Pengbo, analyste en chef de Broadcom Consulting, estime également que les progrès de la technologie ont rendu plus difficile la prévention de la fraude dans les télécommunications, mais la raison de l'apparition fréquente de la fraude dans les télécommunications reste la fuite excessive des informations personnelles des utilisateurs dans le l’ère de l’information. Les journalistes du Beijing Business Daily ont également interrogé de nombreux lecteurs. Un utilisateur qui avait été confronté à une arnaque au retour sur une plateforme de commerce électronique a souligné que l'escroc avait clairement fourni son nom de compte, les produits achetés et l'adresse de récolte sur le téléphone, ce qui avait finalement causé ses propres pertes importantes. .

À une époque de progrès global de la numérisation, les informations personnelles sont généralement collectées par diverses plateformes, ce qui offre des opportunités pour l'émergence d'un nouveau modèle de fraude par l'IA. Lorsque la fraude rencontre l’IA, le taux de réussite de la fraude est proche de 100 %. Su Xiaorui a souligné que les nouvelles technologies, y compris l'IA, devraient être neutres en elles-mêmes. Même si elles peuvent apporter du confort à la production et à la vie, elles doivent également être attentives aux différents risques qu'elles cachent.

Quel impact cela aura-t-il sur la reconnaissance faciale et le paiement palmaire

Selon le contenu du rapport de police, les méthodes d'utilisation de la technologie de l'IA pour commettre une fraude incluent principalement la synthèse vocale, le changement de visage de l'IA et le vol d'identifiants WeChat, l'extraction de fichiers vocaux ou l'installation de versions non officielles (plug-ins) et la transmission des fichiers précédents. enregistrements vocaux à vos amis WeChat. Gagnez en confiance. Après un examen minutieux, la technologie de l’IA peut être utilisée pour identifier les personnes fraudées et trouver des cibles.

Par rapport aux méthodes de fraude traditionnelles, la fraude par l'IA implique des informations biométriques telles que des visages et des empreintes vocales. À l'ère numérique, les informations biométriques telles que les empreintes digitales, les empreintes vocales, les visages et même les iris sont devenues les « clés » permettant d'ouvrir des comptes financiers. Cela signifie également qu'en plus des codes de vérification conventionnels et des informations sur les numéros d'identification, les utilisateurs actuels doivent protéger leur vie privée. Les informations incluent également de plus en plus d’informations biométriques personnelles.

Selon des enquêtes antérieures menées par des journalistes du Beijing Business Daily, en particulier dans le domaine financier, l'émergence de nouvelles technologies et de nouvelles choses peut facilement devenir un levier permettant aux escrocs de commettre des escroqueries sur des utilisateurs sans méfiance. Après la publication de la méthode de fraude par « échange de visage » par l'IA, de nombreux utilisateurs ont également exprimé leurs inquiétudes quant à la sécurité de la reconnaissance faciale et d'autres méthodes, et ont demandé si les fraudeurs pourraient utiliser la technologie de l'IA pour voler des comptes financiers personnels.

Bien que la fraude à l'IA ait été largement discutée, WeChat a également officiellement lancé un nouveau mode de paiement appelé paiement par paume. Lors des discussions sur le paiement palmaire, certains utilisateurs ont également mentionné des problèmes concernant la collecte d’informations sur les empreintes palmaires et la sécurité des paiements. Selon les rapports, contrairement à la reconnaissance des empreintes digitales, qui utilise les lignes épidermiques du bout des doigts, la reconnaissance des empreintes palmaires utilise les veines de la paume de la main pour l'identification.

Tout en profitant de la commodité apportée par les nouvelles technologies, les institutions devraient réfléchir à la manière de gérer des problèmes tels que la fraude provoquée par les nouvelles technologies. Parlant de l'application des nouvelles technologies dans le domaine financier, Wang Pengbo a souligné que si une institution souhaite mettre en œuvre de nouvelles technologies, elle doit parvenir à un équilibre entre la manière de protéger la vie privée, la lutte contre la fraude et la facilité d'utilisation pour les utilisateurs, et à préparer au moins les mécanismes de prévention et de réponse à l’avance.

"Prenons l'exemple du paiement palmaire. La collecte et l'utilisation à grande échelle d'informations personnelles manquent en fait de soutien juridique. Comment éviter la collecte excessive d'informations, comment empêcher la fuite d'informations biométriques personnelles qui devraient être top secrètes et comment le faire. faites-le. Un bon stockage des données, comment assurer la sécurité des informations personnelles afin d'y accéder... Il n'y a actuellement aucune bonne explication à ces problèmes, a déclaré Wang Pengbo, à mesure que la majorité des utilisateurs acceptent progressivement la protection de la vie privée, les nouvelles technologies. doit être vulgarisé auprès des utilisateurs individuels. C’est plus difficile

.

Vérification croisée avant transfert

Pour les consommateurs, il est plus important de garder leurs « sacs d'argent ». À cet égard, Wang Pengbo a déclaré que les consommateurs doivent d'abord être plus vigilants en matière de transferts, ils doivent vérifier soigneusement l'authenticité des informations et contacter rapidement les sources concernées par les canaux formels pour une vérification croisée.

Su Xiaorui a souligné qu'il faut considérer cela à trois niveaux : premièrement, du côté réglementaire, des rappels de risques et des alertes précoces doivent être émis au public en temps opportun, l'introduction de talents scientifiques et technologiques doit être encore renforcée. au sein de l'équipe chargée de l'application de la loi, et les nouvelles caractéristiques des nouveaux types de fraude électronique doivent être résumées et affinées. Le nouveau modèle consiste à établir un certain nombre de cas majeurs et importants pour choquer le marché, deuxièmement, du côté des plateformes, comme les achats. plateformes, plateformes sociales, plateformes de paiement, etc. où les fraudeurs résident et sont fréquemment utilisés, il est nécessaire de renforcer la gestion du contrôle des risques et d'adopter des mesures d'interception raisonnables. Lorsque le compte ou le contenu du chat est anormal, des rappels sont émis aux utilisateurs. en temps opportun ; troisièmement, du côté de l'utilisateur, ne faites pas confiance aux appels et aux messages texte inconnus et vérifiez les informations d'identité de l'autre partie par les canaux officiels avant de transférer ou d'effectuer un paiement.

Liao Meng, journaliste du Beijing Business Daily

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!