Wie modelliert GNN raumzeitliche Informationen? Eine Übersicht über „Spatial-temporal Graph Neural Network' an der Queen Mary University of London, eine kurze Erläuterung der Methode des räumlich-zeitlichen Graph Neural Network

​Diese leistungsstarken Algorithmen haben in den letzten Jahren großes Interesse geweckt. Diese Leistung basiert jedoch auf der Annahme einer statischen Diagrammstruktur, die die Leistung von neuronalen Diagrammnetzen einschränkt, wenn sich Daten im Laufe der Zeit ändern. Das sequentielle graphische neuronale Netzwerk ist eine Erweiterung des graphischen neuronalen Netzwerks, das Zeitfaktoren berücksichtigt.

In den letzten Jahren wurden verschiedene sequentielle graphische neuronale Netzwerkalgorithmen vorgeschlagen und haben in mehreren zeitbezogenen Anwendungen eine Leistung erzielt, die anderen Deep-Learning-Algorithmen überlegen ist. In dieser Rezension werden interessante Themen im Zusammenhang mit neuronalen Netzen mit räumlichen und zeitlichen Graphen erörtert, darunter Algorithmen, Anwendungen und offene Herausforderungen.

Papieradresse: https://www.php.cn/link/1915523773b16865a73a38acc952ccda

1. Einführung

Graph Neural Network (GNN) ist eine Art Deep-Learning-Modell, das speziell für die Verarbeitung von Diagrammstrukturdaten entwickelt wurde . Diese Modelle nutzen die Graphtopologie, um aussagekräftige Darstellungen der Knoten und Kanten des Graphen zu lernen. Graphische neuronale Netze sind eine Erweiterung traditioneller Faltungs-neuronaler Netze und haben sich bei Aufgaben wie der Diagrammklassifizierung, der Knotenklassifizierung und der Verbindungsvorhersage als effektiv erwiesen. Einer der Hauptvorteile von GNNs besteht darin, dass sie auch dann eine gute Leistung beibehalten, wenn die Größe des zugrunde liegenden Diagramms zunimmt, da die Anzahl der lernbaren Parameter unabhängig von der Anzahl der Knoten im Diagramm ist. Graphische neuronale Netze (GNN) werden häufig in verschiedenen Bereichen wie Empfehlungssystemen, Arzneimittelentwicklung und -biologie sowie Ressourcenzuweisung in autonomen Systemen eingesetzt. Diese Modelle sind jedoch auf statische Diagrammdaten beschränkt, bei denen die Diagrammstruktur festgelegt ist. In den letzten Jahren haben zeitveränderliche Diagrammdaten zunehmend Aufmerksamkeit erregt, da sie in verschiedenen Systemen auftauchen und wertvolle zeitliche Informationen enthalten. Zu den Anwendungen zeitveränderlicher Diagrammdaten gehören multivariate Zeitreihendaten, soziale Netzwerke, audiovisuelle Systeme usw.

Um dieser Nachfrage gerecht zu werden, ist eine neue GNN-Familie entstanden: das spatiotemporale GNN, das sowohl die räumlichen als auch die zeitlichen Dimensionen der Daten berücksichtigt, indem es die zeitliche Darstellung der Diagrammstruktur lernt. Dieses Papier bietet einen umfassenden Überblick über modernste räumlich-zeitliche graphische neuronale Netze. Dieser Artikel beginnt mit einem kurzen Überblick über verschiedene Arten von neuronalen Netzen mit raumzeitlichen Graphen und deren Grundannahmen. Die spezifischen Algorithmen, die in raumzeitlichen GNNs verwendet werden, werden detaillierter untersucht und bieten gleichzeitig eine nützliche Taxonomie für die Gruppierung dieser Modelle. Das Papier bietet außerdem einen Überblick über verschiedene Anwendungen raumzeitlicher GNNs und hebt Schlüsselbereiche hervor, in denen diese Modelle verwendet wurden, um hochmoderne Ergebnisse zu erzielen. Abschließend werden die Herausforderungen des Fachgebiets und zukünftige Forschungsrichtungen diskutiert. Zusammenfassend zielt dieser Aufsatz darauf ab, eine umfassende und eingehende Untersuchung raumzeitlicher graphischer neuronaler Netze bereitzustellen und den aktuellen Stand des Fachgebiets, die wichtigsten Herausforderungen, die noch angegangen werden müssen, und die spannenden zukünftigen Möglichkeiten dieser Modelle hervorzuheben.

2. Algorithmus

Raum-Zeit-Graph-Neuronale Netzwerke können aus algorithmischer Sicht in zwei Kategorien unterteilt werden: spektralbasiert und raumbasiert. Eine weitere Klassifizierungskategorie sind Methoden, die Zeitvariationen einführen: ein anderer Algorithmus für maschinelles Lernen oder die Definition der Zeit in einer Diagrammstruktur.

2.1 Hybrides neuronales Netzwerk mit raumzeitlichem Graphen

Hybrides neuronales Netzwerk mit raumzeitlichem Graphen besteht aus zwei Hauptkomponenten: einer räumlichen Komponente und einer zeitlichen Komponente. In hybriden räumlich-zeitlichen graphischen neuronalen Netzwerken werden graphische neuronale Netzwerkalgorithmen verwendet, um räumliche Abhängigkeiten in Daten zu modellieren.

2.2 Solo-Graph Neural Network

Eine andere Möglichkeit, Zeit in einem räumlich-zeitlichen Graphen-Neuronalen Netzwerk zu modellieren, besteht darin, den Zeitrahmen im GNN selbst zu definieren. Es wurden verschiedene Methoden vorgeschlagen, darunter: Zeit als Kanten definieren, Zeit als Signale in GNNs eingeben, Zeit als Untergraphen modellieren und andere Architekturen für maschinelles Lernen in GNNs einbetten (Abbildung 2). 3. Anwendungen

3.1 Multivariable Zeitreihenvorhersage Zu den Anwendungen gehören Verkehrsprognosen, Covid-Prognosen, Photovoltaik-Stromverbrauch, RSU-Kommunikation und seismische Anwendungen.

3.2 Charakterinteraktion

Beim maschinellen Lernen und Computer Vision ist das Lernen von räumlich-zeitlichen Domänen immer noch ein sehr herausforderndes Problem. Die größte Herausforderung besteht darin, Interaktionen zwischen Objekten und übergeordneten Konzepten in großen raumzeitlichen Kontexten zu modellieren [18]. Bei solch einer schwierigen Lernaufgabe ist es entscheidend, räumliche Beziehungen, lokale Erscheinungen sowie komplexe Interaktionen und Veränderungen im Laufe der Zeit effektiv zu modellieren. [18] führte ein räumlich-zeitliches graphisches neuronales Netzwerkmodell ein, das sich in Raum und Zeit wiederholt und sich zur Erfassung des lokalen Erscheinungsbilds und komplexer Interaktionen auf hoher Ebene verschiedener Entitäten und Objekte in sich verändernden Weltszenen eignet [18].

3.3 Dynamische Graphdarstellung

Sequentielles Lernen der Graphdarstellung wurde schon immer als ein sehr wichtiger Aspekt beim maschinellen Lernen von Graphen angesehen [15,31]. Mit Blick auf die Einschränkung, dass bestehende Methoden auf diskreten Schnappschüssen von Sequenzdiagrammen basieren und keine leistungsstarken Darstellungen erfassen können, [3] wurde eine dynamische Lernmethode für die Darstellung von Graphen vorgeschlagen, die auf neuronalen Netzen mit räumlichen und zeitlichen Graphen basiert. Darüber hinaus verwenden [15] jetzt raumzeitliches GNN, um Gehirnkarten dynamisch darzustellen. Multi-Target-Tracking Das Multi-Target-Tracking in Videos basiert stark auf der Modellierung der räumlich-zeitlichen Interaktionen zwischen Zielen [16]. [16] schlugen einen Algorithmus für ein räumlich-zeitliches graphisches neuronales Netzwerk vor, um die räumlichen und zeitlichen Interaktionen zwischen Objekten zu modellieren.

3.4 Gebärdensprachdolmetschen

Gebärdensprache nutzt eine visuell-manuelle Methode zur Bedeutungsvermittlung und ist das wichtigste Kommunikationsmittel für gehörlose und schwerhörige Gruppen. Um die Kommunikationslücke zwischen gesprochenen Sprachbenutzern und Gebärdensprachbenutzern zu schließen, wird maschinelle Lerntechnologie eingeführt. Traditionell ist die neuronale maschinelle Übersetzung weit verbreitet, es sind jedoch fortschrittlichere Methoden erforderlich, um die räumlichen Eigenschaften von Gebärdensprachen zu erfassen. [13] schlugen ein Gebärdensprachübersetzungssystem vor, das auf einem neuronalen Netzwerk mit räumlichen und zeitlichen Graphen basiert und über eine starke Fähigkeit zur Erfassung der raumzeitlichen Struktur der Gebärdensprache verfügt und im Vergleich zur herkömmlichen neuronalen maschinellen Übersetzungsmethode die beste Leistung erzielt [13].

3.5 Technologie-Wachstumsranking

Das Verständnis der Wachstumsrate der Technologie ist ein zentraler Schlüssel für die Geschäftsstrategie der Technologieabteilung. Darüber hinaus kann die Prognose der Wachstumsraten von Technologien und ihrer Beziehungen untereinander Geschäftsentscheidungen in den Bereichen Produktdefinition, Marketingstrategien und Forschung und Entwicklung unterstützen. [32] schlugen eine Vorhersagemethode für das Wachstumsranking der Technologie sozialer Netzwerke vor, die auf einem neuronalen Netzwerk mit räumlichen und zeitlichen Diagrammen basiert.

4. Fazit

Graphische neuronale Netze haben in den letzten Jahren großes Interesse erfahren. Diese leistungsstarken Algorithmen erweitern Deep-Learning-Modelle auf nichteuklidische Räume. Graph-Neuronale Netze sind jedoch auf statische Graph-Strukturannahmen beschränkt, was die Leistung von Graph-Neuronalen Netzen einschränkt, wenn sich Daten im Laufe der Zeit ändern. Das sequentielle graphische neuronale Netzwerk ist eine Erweiterung des graphischen neuronalen Netzwerks, das Zeitfaktoren berücksichtigt. Dieser Artikel bietet einen umfassenden Überblick über räumlich-zeitliche graphische neuronale Netze. In diesem Artikel wird eine Taxonomie vorgeschlagen, die räumlich-zeitliche graphische neuronale Netze auf der Grundlage zeitvariabler Methoden in zwei Kategorien unterteilt. Das breite Anwendungsspektrum raumzeitlicher graphischer neuronaler Netze wird ebenfalls diskutiert. Abschließend werden zukünftige Forschungsrichtungen vorgeschlagen, die auf den offenen Herausforderungen basieren, mit denen neuronale Netze mit räumlichen und zeitlichen Graphen derzeit konfrontiert sind.

Referenzen:​​​https://www.php.cn/link/1915523773b16865a73a38acc952ccda​​

Das obige ist der detaillierte Inhalt vonWie modelliert GNN raumzeitliche Informationen? Eine Übersicht über „Spatial-temporal Graph Neural Network' an der Queen Mary University of London, eine kurze Erläuterung der Methode des räumlich-zeitlichen Graph Neural Network. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!