alerte! L’IA peut conduire à la prolifération de fausses informations

Selon Science and Technology Daily, après l'émergence de l'intelligence artificielle générative (IA), en plus d'affecter certains postes professionnels et de poser de nouveaux défis au système de droit d'auteur existant, elle peut également être utilisée pour diffuser de fausses informations sur les réseaux sociaux. ne font que créer de nouveaux dangers, mais amplifient également les dangers existants, mettant ainsi en danger la stabilité économique et sociale.

Sur la base de prévisions raisonnables basées sur la situation réelle, les activités de désinformation soutenues par l'IA peuvent être principalement utilisées dans les quatre aspects suivants :

①Créez de fausses nouvelles.

L'objectif principal ici est de déformer et de falsifier les informations des médias officiels, d'éliminer l'ancienne méthode de production de contenu rétrospective consistant à "commencer par une image et de s'appuyer sur l'édition pour le reste", et à la place de définir des exigences - saisir certains éléments - générer automatiquement des graphiques. /text/ Mode entièrement automatisé pour la vidéo.

②.Répandre des rumeurs.

Les fausses nouvelles peuvent être créées rapidement, automatisées et regroupées pour se propager rapidement. Si elles sont associées à l'ajout de « professionnels » qui connaissent bien les nouveaux médias, les mécanismes de tonalité des médias sociaux et qui connaissent bien la théorie de la communication ou du journalisme, cela peut être le cas. atteint. "Un mensonge répété mille fois deviendra la vérité." De plus, parce que les rumeurs sont également très fantaisistes, elles attirent naturellement beaucoup d'attention et de discussions lorsqu'elles sont diffusées sur Internet. Au contraire, réfuter les rumeurs nécessite non seulement de « se casser les jambes », mais aussi parce qu'elles sont « trop correctes ». Et personne ne regarde.

③ Combinez l'IA générative et les fonctionnalités des médias sociaux pour mettre en œuvre la tactique de la « mer de spam ».

Versez du contenu « amusant pour les mamelons » tel que des actualités de divertissement et des informations sur les potins dans l'ensemble du réseau, occupant tout le champ de vision de l'utilisateur, afin de chasser les nouvelles et les informations sérieuses et de contrôler complètement les informations circulant dans les médias sociaux. Grâce à une coopération approfondie avec les sociétés de divertissement, les acteurs en coulisses peuvent obtenir des avantages supplémentaires tout en atteignant les objectifs tactiques établis.

④ Utilisez la technologie de synthèse profonde pour falsifier des comptes et perturber l'ordre normal des médias sociaux.

Explorer des informations provenant de comptes officiels et de comptes personnels d'agences gouvernementales, d'entreprises, d'institutions, d'organisations sociales, de célébrités/grands V/leaders d'opinion, etc., y compris, mais sans s'y limiter, des images et des textes, des images faciales, des voix, etc., et en utilisant ces corpus et matériaux pour générer de faux contenus. Non seulement il peut causer des problèmes à la victime, mais il peut aussi semer des problèmes, susciter des troubles et confondre la vérité avec des mensonges.

Plus important encore, que ce soit dans un but lucratif ou pour réaliser leurs arrière-pensées, les actions des producteurs et diffuseurs de fausses informations sont par nature illégales, et ils ignoreront naturellement les contraintes des lois, règlements, réglementations des plateformes, etc., d'où trois difficultés majeures - difficile à examiner, difficile à superviser et difficile à imposer des sanctions.

① Difficile de donner un avis.

Les exigences actuelles en matière de contenu génératif d'IA sur diverses plates-formes peuvent être résumées comme « l'autodiscipline du téléchargeur », c'est-à-dire que l'utilisateur effectue de manière proactive une identification accrocheuse pour indiquer clairement au public que le contenu est produit par l'IA. "Méfiez-vous des messieurs et non des méchants"". Bien sûr, les utilisateurs normaux agiront conformément aux règles, mais les utilisateurs illégaux peuvent complètement éviter les enchères, ralentir les enchères ou réduire les enchères.

②La surveillance est difficile.

Avant que l’IA ne soit appliquée au domaine de la génération de contenu, il est bien connu que les fausses nouvelles sur Internet poussent comme de la mauvaise herbe et sont difficiles à éradiquer. À cet égard, la méthode de gestion traditionnelle est une combinaison de filtrage des mégadonnées + d'acceptation de rapports, en se concentrant sur la répression des comptes illégaux et en se concentrant sur le marquage de leurs comptes associés. C'est une manière honnête et irréprochable de traiter ce problème. Mais le problème est qu'après l'introduction de l'IA par des utilisateurs peu scrupuleux, si l'état précédent est considéré comme un incendie de forêt sporadique et ponctuel, alors les fausses informations qui doivent être traitées et rectifiées deviendront un incendie majeur et la direction consommera beaucoup d'énergie. main d'œuvre, ressources matérielles, La difficulté augmente de façon exponentielle.

③La punition est difficile.

En fin de compte, la punition pose deux problèmes. L'un est que les lois et réglementations en vigueur ne sont pas suffisamment complètes, et l'autre est qu'elle est difficile à attraper en raison de son caractère secret. Cependant, il n’y a pas si longtemps, des avis ont été recueillis auprès du public sur les dispositions légales applicables contre la cyber-violence, et on pense qu’elles seront bientôt mises en œuvre en détail. On s’attend à ce qu’à mesure que la gouvernance des fausses informations générées par l’IA progresse, la construction juridique correspondante suive le mouvement.

Azhi a mentionné à plusieurs reprises dans des questions sur l'IA générative que l'IA n'est pas fondamentalement différente des nouvelles technologies apparues dans l'histoire. Elle n'a rien à voir avec le bien ou le mal, le bien ou le mal. utilisé. Il ne fait aucun doute qu’elle constitue un nouveau moteur dans l’industrie de l’Internet et un nouveau réservoir sur le marché financier. Cependant, l’accent aveuglément et unilatéral mis sur sa supériorité technologique est surtout le fait d’opportunistes et uniquement dans un but lucratif. Nous devons considérer la technologie innovante de l’IA générative de manière objective et globale et prendre des mesures préventives pour éviter les risques provoqués par son utilisation abusive.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!