Neuronale Netze haben auch räumliches Bewusstsein! Lernen Sie, Karten in Minecraft zu erstellen, veröffentlicht im Nature-Untermagazin

Dies ist das erste Mal, dass Menschen gezeigt haben, dass neuronale Netze ihre eigenen Karten erstellen können. Stellen Sie sich vor, Sie befinden sich in einer fremden Stadt. Auch wenn die Umgebung zunächst unbekannt ist, können Sie die Umgebung erkunden und schließlich in Ihrem Gehirn eine Karte der Umgebung zeichnen, die Gebäude, Straßen, Schilder usw. enthält, die miteinander interagieren . Positionsbeziehung zwischen ihnen. Diese Fähigkeit, räumliche Karten im Gehirn zu konstruieren, liegt höheren Arten der Kognition beim Menschen zugrunde: Beispielsweise wird die Theorie aufgestellt, dass Sprache durch kartenähnliche Strukturen im Gehirn kodiert wird. Allerdings können selbst die fortschrittlichsten künstlichen Intelligenzen und neuronalen Netze eine solche Karte nicht aus dem Nichts erstellen. Matt Thomson, Assistenzprofessor für Computerbiologie und Forscher am Heritage Medical Research Institute, sagte: „Man hat das Gefühl, dass selbst die fortschrittlichsten Modelle der künstlichen Intelligenz nicht wirklich intelligent sind. Sie können Probleme wie wir nicht lösen; sie können unbewiesene mathematische Ergebnisse nicht beweisen.“ „Wir glauben, dass das daran liegt, dass sie nicht im konzeptionellen Raum navigieren können; das Lösen komplexer Probleme ist so, als würde man sich im konzeptionellen Raum bewegen, wie Navigation. KI ähnelt eher dem Auswendiglernen. Zurück – man gibt ihr einen Input und sie gibt.“ Sie erhalten eine Antwort, können jedoch keine unterschiedlichen Ideen synthetisieren.“ Kürzlich wurde in einem neuen Artikel des Thomson Laboratory festgestellt, dass neuronale Netze mithilfe eines Algorithmus namens „Predictive Coding“ räumliche Karten konstruieren können. Das Papier wurde am 18. Juli in der Zeitschrift Nature Machine Intelligence veröffentlicht.

1. Papieradresse: https://www.nature.com/articles/s42256-024-00863-1

2. Codeadresse: https://github.com/jgornet/predictive-coding-recovers-maps

Doktorand James Gornet leitete das Team beim Aufbau einer Umgebung in Minecraft, die komplexe Elemente (wie Bäume, Flüsse, Höhlen) einbezog. Sie zeichneten Videos von Spielern auf, die zufällig durch das Gebiet gingen, und nutzten die Videos, um ein neuronales Netzwerk zu trainieren, das mit einem prädiktiven Codierungsalgorithmus ausgestattet war.

Untersuchungen haben ergeben, dass neuronale Netze lernen, wie Objekte in der Minecraft-Welt organisiert sind, und die Umgebung „vorhersagen“ können, auf die Spieler treffen, wenn sie sich durch den Weltraum bewegen.

Durch die Kombination des prädiktiven Codierungsalgorithmus und des Minecraft-Spiels wurde dem neuronalen Netzwerk erfolgreich „gelehrt“, wie man räumliche Karten erstellt und diese räumlichen Karten dann verwendet, um nachfolgende Frames des Videos vorherzusagen Das vorhergesagte Bild und das endgültige Bild betrugen nur 0,094 %.

Noch wichtiger ist, dass das Forschungsteam das neuronale Netzwerk „öffnete“ (gleichbedeutend mit der Untersuchung der inneren Struktur) und herausfand, dass die Darstellungen verschiedener Objekte relativ zueinander räumlich gespeichert sind. Mit anderen Worten: Sie sahen eine Karte der Minecraft-Umgebung, die in einem neuronalen Netzwerk gespeichert war.

Neuronale Netze können durch Karten navigieren, die ihnen von menschlichen Designern bereitgestellt wurden, beispielsweise durch selbstfahrende Autos mithilfe von GPS. Dies ist jedoch das erste Mal, dass Menschen gezeigt haben, dass neuronale Netze ihre eigenen Karten erstellen können. Diese Fähigkeit, Informationen räumlich zu speichern und zu organisieren, wird letztendlich dazu beitragen, dass neuronale Netze „intelligenter“ werden und es ihnen ermöglichen, wirklich komplexe Probleme wie Menschen zu lösen.

Dieses Projekt demonstriert die wahren räumlichen Wahrnehmungsfähigkeiten der KI, die in Technologien wie OpenAIs Sora, das einige seltsame Störungen aufweist, immer noch nicht zu sehen sind.

James Gornet ist Student in der Abteilung für Computational and Neural Systems (CNS) am Caltech, die sich mit Neurowissenschaften, maschinellem Lernen, Mathematik, Statistik und Biologie befasst.

„Das CNS-Programm bietet James wirklich die Möglichkeit, einzigartige Arbeit zu leisten, die anderswo nicht möglich wäre“, sagte Thomson. „Wir verfolgen einen biologisch inspirierten Ansatz des maschinellen Lernens, der es uns ermöglicht, die Eigenschaften des Gehirns in künstlichen neuronalen Netzen zurückzuentwickeln, und wir hoffen, dass wir am Caltech ein sehr aufgeschlossenes Team für diese Art haben.“ Arbeit. 》

Neuronale Netze, die prädiktive Codierung durchführen

Inspiriert durch die implizite räumliche Darstellung im prädiktiven Codierungsproblem entwickelten die Forscher eine rechnerische Implementierung eines prädiktiven Codierungsagenten und untersuchten das Verhalten des Agenten beim Erkunden einer virtuellen Umgebung. Räumliche Darstellung erlernt.

Sie begannen mit der Erstellung einer Umgebung unter Verwendung der Malmö-Umgebung in Minecraft. Die physische Umgebung hat eine Größe von 40 × 65 Kacheln und umfasst drei Aspekte der visuellen Szene: Eine Höhle bietet einen globalen visuellen Orientierungspunkt, ein Wald ermöglicht Ähnlichkeit zwischen visuellen Szenen und ein Fluss mit einer Brücke begrenzt die Art und Weise, wie der Agent durchquert die Umwelt (Abb. 1a).

1. Der Agent folgt einem durch eine A*-Suche bestimmten Pfad, um den kürzesten Pfad zwischen zufällig ausgewählten Orten zu finden, und erhält auf jedem Pfad ein visuelles Bild.

2. Um eine prädiktive Codierung durchzuführen, baute der Autor ein Encoder-Decoder-Faltungs-Neuronales Netzwerk auf, der Encoder übernimmt die ResNet-18-Architektur und der Decoder übernimmt die transponierte Faltungs-ResNet-18-Architektur (Abbildung 1b). Die Encoder-Decoder-Architektur verwendet die U-Net-Architektur, um die codierten latenten Einheiten an den Decoder zu übergeben.
3. Mehrkopf-Aufmerksamkeitsprozesse kodieren latente Einheitssequenzen, um vergangene visuelle Beobachtungsgeschichten zu kodieren. Die mehrköpfige Aufmerksamkeit hat h = 8 Köpfe. Für eine latente Codierungseinheit der Abmessung D = C × H × B, mit Höhe H, Breite W und Kanal C betragen die Abmessungen eines einzelnen Kopfes d = C × H × B/h.

   

   Der prädiktive Encoder verwendet die Strategie zur Minimierung des mittleren quadratischen Fehlers, um die Differenz zwischen dem vorhergesagten Beobachtungswert und dem tatsächlichen Beobachtungswert auszugleichen.

Trainingsdetails:

• Anzahl der Proben: 82.630
• Evolutionen: 200
• Optimierer: Nesterov-Impulsgradientenabstieg
• Gewichtsabfall: 5 × 10^(-6)
• Anfängliche Lernrate: 10^( - 1)
• Lernratenplanung: Nach dem OneCycle

-Training erreicht der prädiktive Encoder eine gute visuelle Wiedergabetreue und der mittlere quadratische Fehler zwischen dem vorhergesagten Bild und dem realen Bild beträgt 0,094 (dargestellt in Abbildung 1c).

Weitere Einzelheiten finden Sie im Originalpapier.

Referenzlink:

https://techxplore.com/news/2024-07-neural-network-minecraft.html

https://www.tomshardware.com/tech-industry/artificial-intelligence/neural- network-learns-to-make-maps-with-minecraft-code-available-on-github

Das obige ist der detaillierte Inhalt vonNeuronale Netze haben auch räumliches Bewusstsein! Lernen Sie, Karten in Minecraft zu erstellen, veröffentlicht im Nature-Untermagazin. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!