La nouvelle recherche de Tsinghua décrypte le cocon d'informations ! Nouvelle théorie de la dynamique de l'information publiée dans la sous-revue Nature

Le développement rapide de la nouvelle génération d’informations et de technologies intelligentes pousse l’humanité à évoluer progressivement vers une société intelligente. Grâce à la technologie numérique et aux algorithmes de recommandation intelligents, les médias et les plateformes deviennent de plus en plus attentionnés et peuvent toujours répondre aux préférences et aux besoins personnalisés des gens aussi rapidement et précisément que possible.

Cependant, dans le même temps, des recommandations intelligentes et précises ont conduit à la fermentation continue du phénomène de « salle de cocon d'informations ». Des personnes ayant des points de vue similaires forment des groupes dans le cyberespace, et des préférences de valeurs spécifiques sont rassemblées et amplifiées dans le groupe. , formant progressivement des opinions extrêmes.

Toute vision extrême des célébrités ou des événements sociaux peut être utilisée comme un outil de participation et d'influence idéologique, alimentant les flammes dans le cyberespace et dans le monde réel et attisant « l'opinion publique en colère ».

Même ainsi, nous en savons encore très peu sur les cocons d'informations : quel est le sérieux des cocons d'informations dans les systèmes en ligne réels ? Il y a un manque de recherches empiriques à grande échelle ; quel est le mécanisme de formation des cocons d’information ? Manque de soutien théorique de base ; comment résoudre le problème du cocon d’information ? Il y a un manque de moyens efficaces.

Récemment, le Centre de recherche en sciences urbaines et en informatique du Département d'électronique de l'Université Tsinghua et l'École de politique publique et de gestion ont collaboré pour la première fois entre les disciplines grâce à des recherches empiriques à grande échelle et à une modélisation théorique de la dynamique de l'information. Des recherches empiriques et théoriques à grande échelle ont révélé des informations sur les médias d'information. Le mécanisme interne et les limites de transition de phase de l'émergence de la salle de cocon fournissent de nouvelles idées pour comprendre le système social complexe d'interaction entre l'homme et l'intelligence dans la société intelligente actuelle.

Le résultat a été publié en ligne dans Nature Machine Intelligence sous le titre "La dynamique adaptative Human-IA conduit à l'émergence de cocons d'information".

Lien papier : https://www.nature.com/articles/s42256-023-00731-4

Lien code et données : https://github.com/tsinghua-fib- lab/Adaptive-Information-Dynamic-Model

Ce résultat se concentre sur deux scénarios typiques d'actualités et de vidéos. En analysant 570 millions de données sur le comportement des utilisateurs et en utilisant l'entropie de l'information pour mesurer la gravité du cocooning de l'information, il a été constaté qu'après un. année d'interaction, plus de 57 % des utilisateurs actifs ont connu divers degrés de baisse de l'entropie de l'information, marquant la gravité des cocons d'informations dans les systèmes réels.

Basé sur des résultats empiriques, ce résultat propose un modèle de dynamique de l'information adaptative de l'intelligence humaine pour modéliser la boucle de rétroaction clé entre les humains et les algorithmes de recommandation, et caractériser l'information à travers la loi d'évolution du processus de changement de phase d'entropie de l'information système.

Ce modèle révèle le processus de changement de phase et les limites du changement de phase du système complexe « salle de cocon d'informations partielles sur la diversité et salle de cocon d'informations profondes » du point de vue de la mécanique statistique hors équilibre, fournissant une base pour le contrôle de l'intelligence humaine. systèmes sociaux complexes et interactifs. Le problème du cocon d'information fournit une base théorique et inspire la conception ultérieure pour briser le cocon d'information en équilibrant les retours positifs et négatifs du système et la poussée précise de l'algorithme et l'exploration libre de l'utilisateur, puis réaliser une approche responsable. algorithme de recommandation.

Vue d'ensemble du papier

En tant que technologie disruptive émergente, l'intelligence artificielle modifie profondément la production humaine, le mode de vie et la façon de penser, et a un impact significatif et profond sur le développement économique et le progrès social. Parmi eux, les algorithmes de recommandation, en tant que technologie d'intelligence artificielle la plus largement utilisée, peuvent atténuer efficacement le problème de la surcharge d'informations et affecter grandement ce que les gens voient, entendent et pensent.

Cependant, l'algorithme de recommandation est également une arme à double tranchant. Les recommandations personnalisées qu'il fournit rendront les informations exposées de plus en plus homogènes et progressivement piégées dans un cocon d'informations. Cette information homogène limitera non seulement les horizons des gens et les éloignera du collectif et de la société, mais encouragera également les conflits et les divisions sociales.

Par conséquent, afin de freiner l’apparition de cocons d’informations, comprendre le mécanisme qui les sous-tend est la première étape.

Il y a eu des études sur le problème de l'homogénéité de l'information [1-5], dont la plupart se concentrent sur le comportement humain ou les algorithmes intelligents. Grâce à des méthodes de recherche empiriques, l'étude a mis en évidence les facteurs potentiels d'un rassemblement homogène de foule sur les réseaux sociaux ou l'effet de filtrage des algorithmes. Cependant, en raison des limites des données et de la méthodologie, seules des conclusions de corrélation peuvent être fournies.

Récemment, certaines études empiriques [25,26] ont mené une analyse causale. Cependant, ces études ne fournissent toujours pas d’analyse et d’explication du mécanisme sous-jacent. De plus, les algorithmes de recommandation actuels sont principalement basés sur des méthodes d’apprentissage profond de l’intelligence artificielle en boîte noire, et les centaines de millions de paramètres qui les sous-tendent rendent plus difficile la compréhension des causes profondes des cocons d’informations.

Visant le problème du cocooning de sources d'informations inconnues, l'équipe de recherche s'est concentrée sur deux scénarios typiques : les actualités et la vidéo. Grâce à des recherches empiriques à grande échelle, il a été constaté qu'au cours d'un an d'interaction, plus de 57 % des utilisateurs actifs. a connu différents degrés d'information. Déclin de la diversité et a souligné que l'appariement basé sur la similarité et les commentaires positifs et négatifs sont des éléments clés qui affectent le processus d'homogénéisation de l'information.

De plus, sur la base de découvertes empiriques et de pratiques dans le domaine des algorithmes de recommandation, l'équipe de recherche s'est inspirée de l'idée de la thermodynamique stochastique et a proposé de manière créative un modèle de dynamique de l'information adaptative à l'intelligence humaine.

Ce modèle modélise de manière mécaniste la boucle de rétroaction clé entre les humains et les algorithmes de recommandation en décrivant deux mécanismes de base basés sur la correspondance de similarité et l'utilisation du retour, et décrit le processus de changement de phase du système à travers l'évolution de l'entropie des informations système.

Grâce à des expériences de simulation et à des analyses théoriques, le processus de changement de phase et les limites de changement de phase du système complexe « salle de cocon d'informations partielles sur la diversité et salle de cocon d'informations profondes » sont révélés, afin de contrôler les informations dans un complexe interactif d'intelligence humaine. systèmes sociaux Le problème de la maison cocon fournit une base théorique et des méthodes pratiques. Modèle de dynamique de l'information adaptative à l'intelligence humaine , représente La gravité du cocon d'informations du monde réel et ses facteurs d'influence ont été analysés.

Plus précisément, l'équipe de recherche a utilisé l'entropie de l'information pour caractériser la diversité des informations reçues par les utilisateurs et a constaté que plus de 57 % des utilisateurs actifs ont connu divers degrés de déclin de la diversité de l'information et que leur vision était progressivement limitée par les algorithmes de recommandation. Cocon d’informations étroit.

Grâce à une analyse plus approfondie, l'équipe de recherche a découvert que la force de l'algorithme de recommandation basé sur la correspondance de similarité et les commentaires positifs et négatifs sont des facteurs clés qui affectent la création de cocons d'informations. Cette étude empirique quantifie pour la première fois non seulement la gravité des cocons d’informations dans les systèmes d’information en ligne réels à grande échelle, mais jette également les bases du modèle théorique ultérieur.

(a-c) Concentrez-vous sur deux scénarios typiques d'actualités et de vidéos pour quantifier la gravité du cocon d'information dans le monde réel (d-f) La similarité correspondant à la force et les commentaires positifs et négatifs affectent la formation de ; cocon d’informations.

Sur la base de conclusions empiriques et de pratiques dans le domaine des algorithmes de recommandation, combinées à la théorie de la thermodynamique stochastique, l'équipe de recherche a proposé de manière créative un modèle de dynamique de l'information adaptative à l'intelligence humaine.

Ce modèle utilise l'entropie de l'information pour représenter la diversité des informations auxquelles les utilisateurs sont exposés, et utilise la distribution de l'entropie des informations système pour représenter l'état du système.

Différent des modèles d'apprentissage profond qui s'appuient sur des centaines de millions de paramètres, le modèle proposé s'appuie uniquement sur deux mécanismes de base basés sur la correspondance de similarité et les commentaires des utilisateurs pour modéliser de manière mécaniste les commentaires clés entre les humains et les algorithmes de recommandation, et les utiliser. équations dynamiques stochastiques pour décrire le processus d'interaction dynamique complexe entre les humains et l'intelligence.

Parmi eux,

représente la répartition des intérêts observée de l'utilisateur l,

représente la distribution caractéristique de l'élément k,

représente la force de correspondance basée sur la similarité, l'utilisation des commentaires positifs et les commentaires négatifs. respectivement. Utilisation des commentaires, intensité d'exploration gratuite.

Sur la base de la formule ci-dessus, nous pouvons dériver l'équation de Focke-Planck décrivant les préférences observées des utilisateurs sur divers sujets. De plus, grâce à la méthode d'approximation du champ moyen, nous pouvons enfin dériver l'entropie des informations reçues par la distribution de l'utilisateur. dans la population.

L'équipe de recherche a souligné que sous différents espaces de paramètres, le système social complexe interactif entre l'homme et l'intelligence a trois états : la diversification, la salle de cocon d'informations partielle et la salle de cocon d'informations profondes, et ces trois états du système sont respectivement contrôlés par trois informations différentes Caractérisé par la distribution d'entropie.

Des expériences de simulation à grande échelle et des analyses empiriques ont en outre vérifié le pouvoir explicatif et l'efficacité du modèle proposé.

Avec l'augmentation (a) de la force de correspondance basée sur la similarité ou (b) de l'utilisation de la rétroaction positive, les systèmes sociaux complexes interactifs entre intelligence humaine et humaine sont passés d'un état diversifié à un cocon d'information partiel. état, puis au processus de transition de phase de l'état de cocon d'informations de profondeur. La ligne pointillée rouge est la ligne théorique et l'histogramme est la ligne de simulation.

L'équipe de recherche a découvert qu'à mesure que la force de la correspondance basée sur la similarité ou l'utilisation de la rétroaction positive augmente, le système complexe présente une transition de phase d'un état diversifié à un état de cocon d'informations partiel, puis à un cocon d'informations profond. état.

Cependant, si le taux d'utilisation des retours négatifs ou l'intensité de l'exploration libre augmente, le système subira un processus de transition de phase inverse, c'est-à-dire d'un cocon d'information profond à un cocon d'information partiel, et enfin à un état diversifié. Les quatre processus de transition de phase ci-dessus ont été systématiquement vérifiés par une analyse théorique et des expériences de simulation à grande échelle.

Avec (a) l'augmentation de l'utilisation des commentaires négatifs ou (b) l'augmentation de l'intensité de l'exploration libre, le système social complexe interactif entre l'homme et l'intelligence est passé d'un état de cocon d'informations profond à un état de cocon d'informations partiel. , puis au processus de transition de phase inverse de l'état de diversification. La ligne pointillée rouge est la ligne théorique et l'histogramme est la ligne de simulation.

Grâce à une analyse conjointe, l'équipe de recherche a démontré le diagramme de changement de phase du système global piloté par l'entraînement conjoint de quatre éléments basé sur la recommandation de similarité, l'utilisation de commentaires positifs et négatifs et l'exploration libre, et a révélé le mécanisme inhérent de émergence dans le cocon informationnel.

Plus précisément, la correspondance basée sur la similarité sert de champ de force efficace pour promouvoir des systèmes interactifs complexes allant de la diversité à l'homogénéité. La rétroaction positive amplifie encore ce champ de force, ce qui entraîne une réduction de la diversité des informations.

Et les retours négatifs et l'exploration libre introduisent des perturbations dans le système en résistant à l'effet du champ de force effectif, favorisant ainsi la diversité des informations.

Concernant la limite de transition de phase, les résultats de prédiction théorique et les résultats expérimentaux de simulation montrent un haut degré de cohérence, en même temps, un grand nombre d'expériences de simulation et d'analyses empiriques, telles que les fonctions de substitution, la distribution d'entropie des informations mesurées. , etc., ont en outre vérifié la robustesse du modèle proposé en matière de sexe et d'efficacité.

Diagramme de changement de phase du système, (a-b) diagramme de changement de phase du système en trois dimensions basé sur des données de scène vidéo et d'actualité, (c-e) diagramme de changement de phase du système en deux dimensions basé sur des données de scène vidéo, (f-h) système en deux dimensions diagramme de changement de phase basé sur les données de la scène d'actualité Diagramme de transition de phase du système.

Avec l'application généralisée de la technologie de l'intelligence artificielle, les interactions complexes entre les humains et les systèmes intelligents constituent un système complexe d'interaction homme-intelligence impliquant plusieurs entités et de multiples retours.

L'intelligence artificielle actuelle est principalement basée sur la technologie d'apprentissage profond, et sa nature de boîte noire entrave encore plus une compréhension approfondie des caractéristiques dynamiques et des comportements émergents dans des systèmes interactifs aussi complexes.

Le modèle adaptatif de dynamique de l'information proposé par l'équipe de recherche fournit un outil théorique puissant pour l'étude approfondie de divers systèmes complexes d'interaction homme-intelligence en fournissant une modélisation mécaniste du comportement émergent des cocons d'information. De plus, le modèle théorique proposé a une importance pratique pour la conception d’algorithmes de recommandation responsables.

Cette étude met en évidence deux méthodes efficaces de cocooning d'informations, à savoir promouvoir l'utilisation efficace des commentaires négatifs et modéliser les préférences des utilisateurs dans une nouvelle perspective d'apprentissage des commentaires négatifs des utilisateurs et promouvoir l'exploration libre des utilisateurs en augmentant la liberté des utilisateurs ; et l'autonomie pour consommer votre propre contenu afin d'élargir vos horizons d'information.

Pour résumer, ce résultat de recherche souligne non seulement la direction d'amélioration pratique de la conception d'algorithmes de recommandation, mais fournit également des outils théoriques pour comprendre les systèmes sociaux complexes interactifs entre l'intelligence humaine et inspirer des recherches connexes ultérieures sur les systèmes complexes pour l'IA.

Introduction aux auteurs

Pu Jinghua, étudiant en doctorat, et Liu Jiazhen, boursier postdoctoral, du Centre de recherche en sciences urbaines et en informatique du Département d'électronique de l'Université Tsinghua sont les co-premiers auteurs de l'article, Le professeur agrégé Li Yong est l'auteur correspondant ; le professeur adjoint Zhang Fang et le professeur Su de l'École de politique publique et de gestion Tsinghua sont le co-auteur.

Ce résultat de recherche est soutenu par le projet majeur Innovation scientifique et technologique 2030 - « Intelligence artificielle de nouvelle génération » et par la Fondation des sciences naturelles de Chine.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!