Tsinghuas neue Forschung entschlüsselt den Informationskokonraum! Neue Theorie der Informationsdynamik in der Unterzeitschrift „Nature' veröffentlicht

Die rasante Entwicklung der neuen Generation von Informationen und intelligenter Technologie drängt die Menschheit dazu, schrittweise in eine intelligente Gesellschaft überzugehen. Mit der Unterstützung digitaler Technologie und intelligenter Empfehlungsalgorithmen werden Medien und Plattformen immer rücksichtsvoller und können die individuellen Vorlieben und Bedürfnisse der Menschen immer schnellstmöglich und genau erfüllen.

Allerdings haben intelligente und präzise Empfehlungen dazu geführt, dass das Phänomen des „Information Cocoon Room“ kontinuierlich gärt. Menschen mit ähnlichen Ansichten bilden Gruppen im Cyberspace, und bestimmte Wertpräferenzen werden in der Gruppe nach und nach verstärkt extreme Meinungen bilden.

Jede extreme Sichtweise auf Prominente oder gesellschaftliche Ereignisse kann als Instrument zur ideologischen Beteiligung und Einflussnahme genutzt werden, das Feuer im Cyberspace und in der realen Welt weiter anheizen und eine „turbulente öffentliche Meinung“ anheizen.

Allerdings wissen wir noch sehr wenig über Informationskokons: Wie ernst sind Informationskokons in realen Online-Systemen? Es mangelt an groß angelegter empirischer Forschung; was ist der Entstehungsmechanismus von Informationskokons? Mangel an grundlegender theoretischer Unterstützung; wie kann das Problem des Informationskokons gelöst werden? Es mangelt an wirksamen Mitteln.

Kürzlich haben das Urban Science and Computing Research Center der Abteilung für Elektronik der Tsinghua-Universität und die School of Public Policy and Management zum ersten Mal disziplinübergreifend zusammengearbeitet Umfangreiche empirische Datenforschung und Theorie enthüllten die Informationen über Informationsmedien. Der interne Mechanismus und die Phasenübergangsgrenzen der Entstehung von Kokonräumen liefern neue Ideen für das Verständnis des komplexen sozialen Systems der Mensch-Intelligenz-Interaktion in der gegenwärtigen intelligenten Gesellschaft.

Das Ergebnis wurde online in Nature Machine Intelligence unter dem Titel „Human-AI adaptive Dynamics Drives the Emergenz von Informationskokons“ veröffentlicht.

Papierlink: https://www.nature.com/articles/s42256-023-00731-4

Code- und Datenlink: https://github.com/tsinghua-fib- lab/Adaptive-Information-Dynamic-Model

Dieses Ergebnis konzentriert sich auf zwei typische Szenarien von Nachrichten und Videos. Durch die Analyse von 570 Millionen Benutzerverhaltensdaten und die Verwendung der Informationsentropie zur Messung der Schwere des Informationscocoonings wurde festgestellt, dass nach einem Im Jahr der Interaktion haben mehr als 57 % der aktiven Benutzer einen unterschiedlich starken Rückgang der Informationsentropie erlebt, was die Ernsthaftigkeit von Informationskokons in realen Systemen unterstreicht.

Basierend auf empirischen Erkenntnissen schlägt dieses Ergebnis ein adaptives Informationsdynamikmodell zwischen Mensch und Intelligenz vor, um die wichtige Rückkopplungsschleife zwischen Menschen und Empfehlungsalgorithmen zu modellieren und Informationen durch das Evolutionsgesetz des Cocoon-Phasenänderungsprozesses der Systeminformationsentropie zu charakterisieren.

Dieses Modell enthüllt den Phasenänderungsprozess und die Phasenänderungsgrenzen des komplexen Systems „Diversität – partieller Informationskokonraum – tiefer Informationskokonraum“ aus der Perspektive der statistischen Nichtgleichgewichtsmechanik und bietet eine Grundlage für die Steuerung der menschlichen Intelligenz Das Problem des Informationskokons liefert eine theoretische Grundlage und inspiriert nachfolgende Entwürfe, um den Informationskokon zu durchbrechen, indem das positive und negative Feedback des Systems und der präzise Push des Algorithmus mit der freien Erkundung des Benutzers in Einklang gebracht werden, und dann eine verantwortungsvolle Lösung zu realisieren Empfehlungsalgorithmus.

Paper Overview

Als aufkommende disruptive Technologie verändert künstliche Intelligenz die menschliche Produktion, den Lebensstil und die Denkweise tiefgreifend und hat erhebliche und weitreichende Auswirkungen auf die wirtschaftliche Entwicklung und den sozialen Fortschritt. Unter anderem können Empfehlungsalgorithmen als die am weitesten verbreitete Technologie der künstlichen Intelligenz das Problem der Informationsüberflutung wirksam lindern und einen großen Einfluss darauf haben, was Menschen sehen, hören und denken.

Der Empfehlungsalgorithmus ist jedoch auch ein zweischneidiges Schwert. Die personalisierten Empfehlungen, die er liefert, führen dazu, dass die Informationen, denen die Menschen ausgesetzt sind, immer homogener werden und nach und nach in einem Informationskokon gefangen sind. Diese homogene Information wird nicht nur den Horizont der Menschen einschränken und sie vom Kollektiv und der Gesellschaft entfremden, sondern auch soziale Konflikte und Spaltungen begünstigen.

Um das Auftreten von Informationskokons einzudämmen, ist es daher der erste Schritt, den Mechanismus dahinter zu verstehen.

Es gibt Studien zum Problem der Informationshomogenität [1-5], die sich größtenteils auf menschliches Verhalten oder intelligente Algorithmen konzentrieren. Durch empirische Forschungsmethoden wies die Studie auf die potenziellen Faktoren einer homogenen Massenansammlung in sozialen Medien oder die Filterwirkung von Algorithmen hin. Aufgrund der Einschränkungen von Daten und Methodik können jedoch nur Korrelationsschlussfolgerungen geliefert werden.

Kürzlich wurden in einigen empirischen Studien [25,26] kausale Analysen durchgeführt. Diese Studien liefern jedoch noch keine Analyse und Erklärung des zugrunde liegenden Mechanismus. Darüber hinaus basieren die meisten aktuellen Empfehlungsalgorithmen auf Black-Box-Deep-Learning-Methoden der künstlichen Intelligenz, und die Hunderte Millionen Parameter, die dahinter stehen, erschweren es uns, Einblicke in die Grundursachen von Informationskokons zu gewinnen.

Um das Problem des Cocoonings unbekannter Informationsquellen zu untersuchen, konzentrierte sich das Forschungsteam auf zwei typische Szenarien: Nachrichten und Videos. Durch groß angelegte empirische Untersuchungen stellten sie fest, dass mehr als 57 % der aktiven Benutzer während eines Jahres Interaktion erlebten Unterschiedlicher Grad an Informationen, Rückgang der Vielfalt, und wies darauf hin, dass ähnlichkeitsbasiertes Matching sowie positives und negatives Feedback Schlüsselelemente sind, die den Prozess der Informationshomogenisierung beeinflussen.

Darüber hinaus ließ sich das Forschungsteam auf der Grundlage empirischer Erkenntnisse und Praxis im Bereich der Empfehlungsalgorithmen von der Idee der stochastischen Thermodynamik inspirieren und schlug auf kreative Weise ein adaptives Informationsdynamikmodell zwischen Mensch und Intelligenz vor.

Dieses Modell modelliert mechanistisch die wichtige Rückkopplungsschleife zwischen Menschen und Empfehlungsalgorithmen, indem es zwei grundlegende Mechanismen beschreibt, die auf Ähnlichkeitsabgleich und Rückkopplungsnutzung basieren, und den Systemphasenänderungsprozess durch die Entwicklung der Systeminformationsentropie darstellt.

Durch Simulationsexperimente und theoretische Analysen werden der Phasenänderungsprozess und die Phasenänderungsgrenzen des komplexen Systems „Diversität – partieller Informationskokonraum – tiefer Informationskokonraum“ aufgedeckt, um Informationen im interaktiven Komplex zwischen Mensch und Intelligenz zu steuern soziale Systeme Das Cocoon-House-Problem liefert theoretische Grundlagen und praktische Methoden.

Human-Intelligence Adaptive Information Dynamics Model

Technische Kernpunkte

Das Forschungsteam konzentriert sich auf zwei typische Inhaltsempfehlungsszenarien: Nachrichten und Videos sowie durch empirische Analyse umfangreicher realer Daten , stellt dar: Der Schweregrad des realen Informationskokons und seine Einflussfaktoren wurden analysiert.

Konkret verwendete das Forschungsteam die Informationsentropie, um die Vielfalt der von Benutzern empfangenen Informationen zu charakterisieren, und stellte fest, dass mehr als 57 % der aktiven Benutzer einen unterschiedlich starken Rückgang der Informationsvielfalt erlebten und ihre Sicht durch Empfehlungsalgorithmen allmählich eingeschränkt wurde. Schmaler Informationskokon.

Durch weitere Analysen stellte das Forschungsteam fest, dass die Stärke des Empfehlungsalgorithmus, der auf Ähnlichkeitsabgleich sowie positivem und negativem Feedback basiert, Schlüsselfaktoren sind, die die Bildung von Informationskokons beeinflussen. Diese empirische Studie quantifiziert nicht nur erstmals den Schweregrad des Information Cocooning in realen großen Online-Informationssystemen, sondern legt auch den Grundstein für das nachfolgende theoretische Modell.

(a-c) Konzentrieren Sie sich auf zwei typische Szenarien von Nachrichten und Videos, um die Schwere des Informationskokons in der realen Welt zu quantifizieren; (d-f) Ähnlichkeitsanpassungsstärke und positives und negatives Feedback beeinflussen die Bildung von Informationskokon.

Basierend auf empirischen Schlussfolgerungen und der Praxis im Bereich der Empfehlungsalgorithmen, kombiniert mit der Theorie der stochastischen Thermodynamik, schlug das Forschungsteam auf kreative Weise ein adaptives Informationsdynamikmodell zwischen Mensch und Intelligenz vor.

Dieses Modell verwendet die Informationsentropie, um die Vielfalt der Informationen darzustellen, denen Benutzer ausgesetzt sind, und verwendet die Entropieverteilung der Systeminformationen, um den Zustand des Systems darzustellen.

Im Gegensatz zu Deep-Learning-Modellen, die auf Hunderten Millionen Parametern basieren, basiert das vorgeschlagene Modell nur auf zwei grundlegenden Mechanismen, die auf Ähnlichkeitsabgleich und Benutzerfeedback basieren, um das Schlüsselfeedback zwischen Menschen und Empfehlungsalgorithmen mechanistisch zu modellieren und zu verwenden stochastische dynamische Gleichungen zur Beschreibung des komplexen dynamischen Interaktionsprozesses zwischen Mensch und Intelligenz.

Unter diesen repräsentiert die beobachtete Interessenverteilung von Benutzer l, repräsentiert die charakteristische Verteilung von Element k, repräsentiert ähnlichkeitsbasierte Matching-Stärke, positive Feedback-Nutzung und negatives Feedback bzw. Feedbacknutzung, freie Erkundungsintensität.

Basierend auf der obigen Formel können wir die Focke-Planck-Gleichung ableiten, die die beobachteten Präferenzen der Benutzer zu verschiedenen Themen beschreibt. Darüber hinaus können wir durch die Methode der mittleren Feldnäherung schließlich die vom Benutzer erhaltene Informationsentropie ableiten in der Bevölkerung.

Das Forschungsteam wies darauf hin, dass das interaktive komplexe soziale System Mensch-Intelligenz unter verschiedenen Parameterräumen drei Zustände aufweist: Diversifizierung, Teilinformationskokonraum und Tiefeninformationskokonraum, und diese drei Systemzustände werden jeweils durch drei verschiedene Informationscharakteristika gesteuert durch die Entropieverteilung.

Groß angelegte Simulationsexperimente und empirische Analysen bestätigten die Erklärungskraft und Wirksamkeit des vorgeschlagenen Modells weiter.

Mit der Zunahme (a) der auf Ähnlichkeit basierenden Matching-Stärke oder (b) der positiven Feedback-Nutzung haben sich interaktive komplexe soziale Systeme zwischen Mensch und Intelligenz von einem diversifizierten Zustand zu einem teilweisen Informationskokon entwickelt. Zustand und dann zum Phasenübergangsprozess des Tiefeninformationskokonzustands. Die rot gepunktete Linie ist die theoretische Linie und das Histogramm ist die Simulationslinie.

Das Forschungsteam stellte fest, dass das komplexe System mit zunehmender Stärke des auf Ähnlichkeit basierenden Matchings oder der Nutzung von positivem Feedback einen Phasenübergang von einem diversifizierten Zustand zu einem Zustand eines partiellen Informationskokons und dann zu einem tiefen Informationskokon zeigt Zustand.

Wenn jedoch die negative Feedback-Nutzungsrate oder die Intensität der freien Erkundung erhöht wird, durchläuft das System einen umgekehrten Phasenübergangsprozess, d. h. von einem tiefen Informationskokon zu einem teilweisen Informationskokon und schließlich zu einem diversifizierten Zustand. Die oben genannten vier Phasenübergangsprozesse wurden durch theoretische Analysen und groß angelegte Simulationsexperimente konsequent verifiziert.

Mit (a) der Zunahme der Nutzung negativer Rückmeldungen oder (b) der Zunahme der Intensität der freien Erkundung hat sich das interaktive komplexe soziale System Mensch-Intelligenz von einem tiefen Informationskokon-Zustand zu einem teilweisen Informationskokon-Zustand entwickelt und dann zum umgekehrten Phasenübergangsprozess des Diversifizierungszustands. Die rot gepunktete Linie ist die theoretische Linie und das Histogramm ist die Simulationslinie.

Durch eine gemeinsame Analyse demonstrierte das Forschungsteam das Phasenänderungsdiagramm des Gesamtsystems, das durch den gemeinsamen Antrieb von vier Elementen basierend auf Ähnlichkeitsempfehlung, Nutzung von positivem und negativem Feedback und freier Erkundung angetrieben wird, und enthüllte den inhärenten Mechanismus davon Entstehung im Informationskokon.

Konkret dient ähnlichkeitsbasiertes Matching als wirksames Kraftfeld zur Förderung komplexer interaktiver Systeme von Diversität bis Homogenität. Positives Feedback verstärkt dieses Kraftfeld weiter, was zu einer verringerten Informationsvielfalt führt.

Und negatives Feedback und freie Erkundung führen zu Störungen im System, indem sie der Wirkung des effektiven Kraftfeldes widerstehen und dadurch die Informationsvielfalt fördern.

In Bezug auf die Phasenübergangsgrenze weisen die theoretischen Vorhersageergebnisse und die experimentellen Simulationsergebnisse ein hohes Maß an Konsistenz auf. Gleichzeitig wurde eine große Anzahl von Simulationsexperimenten und empirischen Analysen durchgeführt, z. B. Substitutionsfunktionen und gemessene Informationsentropieverteilung usw. bestätigten die Robustheit des vorgeschlagenen Modells weiter.

Systemphasenänderungsdiagramm, (a-b) dreidimensionales Systemphasenänderungsdiagramm basierend auf Video- und Nachrichtenszenendaten, (c-e) zweidimensionales Systemphasenänderungsdiagramm basierend auf Videoszenendaten, (f-h) zweidimensionales System Phasenänderungsdiagramm basierend auf Nachrichtenszenendaten Systemphasenübergangsdiagramm.

Mit der weit verbreiteten Anwendung der Technologie der künstlichen Intelligenz bilden die komplexen Interaktionen zwischen Menschen und intelligenten Systemen ein komplexes Mensch-Intelligenz-Interaktionssystem, das mehrere Einheiten und mehrere Rückmeldungen umfasst.

Die aktuelle künstliche Intelligenz basiert größtenteils auf Deep-Learning-Technologie, und ihr Black-Box-Charakter erschwert zusätzlich ein tiefes Verständnis der dynamischen Eigenschaften und entstehenden Verhaltensweisen in solch komplexen interaktiven Systemen.

Das vom Forschungsteam vorgeschlagene adaptive Informationsdynamikmodell bietet ein leistungsstarkes theoretisches Werkzeug für die eingehende Untersuchung verschiedener komplexer Interaktionssysteme zwischen Mensch und Intelligenz, indem es eine mechanistische Modellierung des entstehenden Verhaltens von Informationskokons bereitstellt. Darüber hinaus hat das vorgeschlagene theoretische Modell praktische Leitbedeutung für die verantwortungsvolle Gestaltung von Empfehlungsalgorithmen.

Diese Studie zeigt zwei wirksame Methoden für das Informations-Cocooning auf, nämlich die Förderung der effektiven Nutzung von negativem Feedback und die Modellierung von Benutzerpräferenzen aus einer neuen Perspektive des Erlernens des negativen Feedbacks von Benutzern und die Förderung der freien Erkundung der Benutzer durch Erhöhung der Benutzerfreiheit und die Autonomie, Ihre eigenen Inhalte zu konsumieren, um Ihren Informationshorizont zu erweitern.

Zusammenfassend lässt sich sagen, dass dieses Forschungsergebnis nicht nur die praktische Verbesserungsrichtung für das Design von Empfehlungsalgorithmen aufzeigt, sondern auch theoretische Werkzeuge zum Verständnis interaktiver komplexer sozialer Systeme zwischen Mensch und Intelligenz bereitstellt, um nachfolgende verwandte Forschung zu komplexen Systemen für KI zu inspirieren.

Vorstellung an die Autoren

Doktorand Pu Jinghua und Postdoktorand Liu Jiazhen vom Urban Science and Computing Research Center der Abteilung für Elektronik der Tsinghua-Universität sind die Co-Erstautoren des Artikels. Der außerordentliche Professor Li Yong ist der korrespondierende Autor; der Assistenzprofessor Zhang Fang und Su von der Tsinghua School of Public Policy and Management Professor Jun sind der Co-Autor.

Dieses Forschungsergebnis wird vom Großprojekt Science and Technology Innovation 2030 – „New Generation Artificial Intelligence“ und der Natural Science Foundation of China unterstützt.

Das obige ist der detaillierte Inhalt vonTsinghuas neue Forschung entschlüsselt den Informationskokonraum! Neue Theorie der Informationsdynamik in der Unterzeitschrift „Nature' veröffentlicht. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!