Ilyas erste Aktion, nachdem er seinen Job aufgegeben hatte: Mir gefiel diese Zeitung, und die Internetnutzer beeilten sich, sie zu lesen

Seit Ilya Sutskever offiziell seinen Rücktritt von OpenAI bekannt gegeben hat, ist sein nächster Schritt in den Mittelpunkt aller Aufmerksamkeit gerückt.

Manche Leute achten sogar genau auf jede seiner Bewegungen.

Nein, Ilya mochte ❤️ einfach eine neue Arbeit –

– und die Internetnutzer beeilten sich, sie zu mögen:

Die Arbeit kommt vom MIT, der Autor schlug eine Hypothese vor, die lässt sich in einem Satz wie folgt zusammenfassen:

Neuronale Netze werden mit unterschiedlichen Zielen auf unterschiedliche Daten und Modalitäten trainiert und neigen dazu, in ihrem Repräsentationsraum einen gemeinsamen Repräsentationsraum zu bilden .

Sie nannten diese Spekulation die „Platonische Repräsentationshypothese“ in Anlehnung an Platons Höhlengleichnis und seine Vorstellungen über die Natur der idealen Realität.

Die Auswahl von Ilya ist immer noch garantiert, nachdem sie es gelesen hatten:

Nachdem sie es gelesen hatten, verwendeten sie „Anna“. Zusammenfassend lässt sich der Eröffnungssatz von „Karenina“ zusammenfassen: Alle glücklichen Sprachmodelle sind ähnlich, und jedes unglückliche Sprachmodell hat sein eigenes Unglück.

Um Whiteheads berühmtes Sprichwort zu paraphrasieren: Alles maschinelle Lernen ist eine Fußnote zu Platon.

Wir haben auch einen Blick darauf geworfen und der allgemeine Inhalt lautet:

Der Autor analysierte die

Repräsentationskonvergenz

(Repräsentationskonvergenz) des KI-Systems, also die Darstellung von Datenpunkten in verschiedenen Neuronale Netzwerkmodelle werden in verschiedenen Modellarchitekturen, Trainingszielen und sogar Datenmodalitäten immer ähnlicher. Was treibt diese Konvergenz voran? Wird sich dieser Trend fortsetzen? Wo ist sein endgültiges Ziel?

Nach einer Reihe von Analysen und Experimenten spekulierten die Forscher, dass diese Konvergenz tatsächlich einen Endpunkt und ein treibendes Prinzip hat:

Verschiedene Modelle streben danach, eine genaue Darstellung der Realität zu erreichen

. Ein Bild zur Erklärung:

wobei Bild

(X)

und Text (Y) unterschiedliche Projektionen einer gemeinsamen zugrunde liegenden Realität (Z) sind. Die Forscher spekulieren, dass Repräsentationslernalgorithmen zu einer einheitlichen Darstellung von Z konvergieren werden und dass die Zunahme der Modellgröße und die Vielfalt von Daten und Aufgaben Schlüsselfaktoren für diese Konvergenz sind. Ich kann nur sagen, dass es sich tatsächlich um eine Frage handelt, die Ilya interessiert. Sie ist zu tiefgreifend und wir verstehen sie nicht sehr gut. Bitten wir die KI, sie bei der Interpretation zu helfen und sie mit allen zu teilen~

Beweise, die Konvergenz darstellen

Zunächst hat der Autor eine große Anzahl früherer verwandter Studien analysiert und auch selbst Experimente durchgeführt und eine Reihe von Beweisen für Konvergenz erstellt, die Konvergenz, Umfang und Leistung sowie modalübergreifende Konvergenz demonstrieren verschiedener Modelle.

Ps: Diese Forschung konzentriert sich auf die Vektoreinbettungsdarstellung, das heißt, Daten werden in Vektorform umgewandelt und die Ähnlichkeit oder der Abstand zwischen Datenpunkten wird durch die Kernelfunktion beschrieben. Das Konzept der „Darstellungsausrichtung“ in diesem Artikel bedeutet, dass die beiden Darstellungen als ausgerichtet gelten, wenn zwei unterschiedliche Darstellungsmethoden ähnliche Datenstrukturen offenbaren.

1. Die Konvergenz verschiedener Modelle mit unterschiedlichen Architekturen und Zielen ist in der Regel konsistent in ihrer zugrunde liegenden Darstellung.

Die Anzahl der Systeme, die auf vorab trainierten Grundmodellen basieren, nimmt allmählich zu, und einige Modelle werden zur Standard-Kernarchitektur für Multitasking. Diese breite Anwendbarkeit in einer Vielzahl von Anwendungen spiegelt ihre gewisse Vielseitigkeit bei den Datendarstellungsmethoden wider.

Während dieser Trend darauf hindeutet, dass KI-Systeme zu einem kleineren Satz von Basismodellen konvergieren, beweist er nicht, dass verschiedene Basismodelle dieselbe Darstellung bilden.

Jedoch haben einige neuere Untersuchungen zum Modell-Stitching(Modell-Stitching) ergeben, dass die Darstellungen der mittleren Ebene von Bildklassifizierungsmodellen gut ausgerichtet werden können, selbst wenn sie auf verschiedenen Datensätzen trainiert werden.

Einige Untersuchungen haben beispielsweise ergeben, dass die frühen Schichten von Faltungsnetzwerken, die auf den Datensätzen ImageNet und Places365 trainiert wurden, ausgetauscht werden können, was darauf hindeutet, dass sie ähnliche anfängliche visuelle Darstellungen gelernt haben. Es gibt auch Studien, die eine große Anzahl von „Rosetta-Neuronen“ entdeckt haben, also Neuronen mit sehr ähnlichen Aktivierungsmustern in verschiedenen visuellen Modellen...

2 Je größer die Modellgröße und Leistung, desto besser die Darstellung Je höher die Ausrichtung.

Die Forscher haben die Ausrichtung von 78 Modellen

mithilfe der Methode des gegenseitigen nächsten Nachbarn am Places-365-Datensatz gemessen und ihre Downstream-Aufgabenleistung anhand des Vision-Task-Adaption-Benchmarks VTAB bewertet.

Es wurde festgestellt, dass die Darstellungsausrichtung zwischen Modellclustern mit stärkerer Generalisierungsfähigkeit deutlich höher war.

Frühere Studien haben beobachtet, dass die CKA-Kernel-Ausrichtung zwischen größeren Modellen höher ist. Theoretisch gibt es auch Studien, die belegen, dass auch die internen Aktivierungen von Modellen mit ähnlicher Ausgabeleistung ähnlich sein müssen.

3. Konvergenz der Modelldarstellung in verschiedenen Modi.

Forscher verwendeten die Methode des gegenseitigen nächsten Nachbarn, um die Ausrichtung des Wikipedia-Bilddatensatzes WIT zu messen.

Die Ergebnisse zeigen eine lineare Beziehung zwischen der sprachlich-visuellen Ausrichtung und den Ergebnissen der Sprachmodellierung, wobei der allgemeine Trend dahin geht, dass leistungsfähigere Sprachmodelle besser mit leistungsfähigeren visuellen Modellen übereinstimmen.

4. Das Modell und die Gehirndarstellung weisen ebenfalls einen gewissen Grad an Konsistenz auf, möglicherweise aufgrund ähnlicher Daten- und Aufgabenbeschränkungen.

Eine Studie aus dem Jahr 2014 ergab, dass die Aktivierung der mittleren Schicht des neuronalen Netzwerks stark mit dem Aktivierungsmuster des visuellen Bereichs des Gehirns korreliert, möglicherweise aufgrund ähnlicher visueller Aufgaben und Datenbeschränkungen.

Seitdem haben Studien außerdem herausgefunden, dass die Verwendung unterschiedlicher Trainingsdaten die Ausrichtung von Gehirn- und Modelldarstellungen beeinflusst. Psychologische Untersuchungen haben außerdem herausgefunden, dass die Art und Weise, wie Menschen visuelle Ähnlichkeit wahrnehmen, in hohem Maße mit neuronalen Netzwerkmodellen übereinstimmt.

5. Der Grad der Ausrichtung von Modelldarstellungen korreliert positiv mit der Leistung nachgelagerter Aufgaben.

Die Forscher verwendeten zwei nachgelagerte Aufgaben, um die Leistung des Modells zu bewerten: Hellaswag

(logisches Denken) und GSM8K (Mathematik) . Und verwenden Sie das DINOv2-Modell als Referenz, um die Ausrichtung anderer Sprachmodelle mit dem visuellen Modell zu messen.

Experimentelle Ergebnisse zeigen, dass Sprachmodelle, die besser auf das visuelle Modell abgestimmt sind, auch bei Hellaswag- und GSM8K-Aufgaben eine bessere Leistung erbringen. Die Visualisierungsergebnisse zeigen, dass eine klare positive Korrelation zwischen dem Grad der Ausrichtung und der Leistung nachgelagerter Aufgaben besteht.

Die bisherigen Recherchen werden hier nicht besprochen. Interessierte Familienmitglieder können das Originalpapier einsehen.

Ursachen der Konvergenz

Dann schlug das Forschungsteam durch theoretische Analysen und experimentelle Beobachtungen mögliche Gründe für die Darstellungskonvergenz vor und diskutierte, wie diese Faktoren zusammenwirken, um bei der Darstellung der realen Welt eine Konvergenz verschiedener Modelle zu bewirken.

Im Bereich des maschinellen Lernens besteht das Trainingsziel des Modells darin, den Vorhersagefehler der Trainingsdaten zu reduzieren. Um eine Überanpassung des Modells zu verhindern, werden während des Trainingsprozesses normalerweise Regularisierungsterme hinzugefügt. Die Regularisierung kann implizit oder explizit erfolgen.

In diesem Abschnitt veranschaulichen die Forscher, wie jeder der farbigen Abschnitte in der Abbildung unten eine Rolle bei der Förderung der Darstellungskonvergenz während dieses Optimierungsprozesses spielen kann. 1. Konvergenz durch Aufgabengeneralität Die Anzahl der Darstellungen für N Aufgaben ist geringer als die Anzahl der Darstellungen, die für M (M

Ein ähnliches Prinzip wurde bereits vorgeschlagen. Das Diagramm lautet wie folgt:

Darüber hinaus gibt es für einfache Aufgaben mehrere Lösungen, während es für schwierige Aufgaben weniger Lösungen gibt. Daher konvergiert die Darstellung des Modells mit zunehmender Aufgabenschwierigkeit tendenziell zu besseren, weniger Lösungen.

2. Modellkapazität führt zu Konvergenz (Konvergenz über Modellkapazität)

Wenn es eine global optimale Darstellung gibt, wird unter der Bedingung ausreichender Daten ein größeres Modell vorliegen effizienter sein.

Daher neigen größere Modelle, die unabhängig von ihrer Architektur dasselbe Trainingsziel verwenden, dazu, dieser optimalen Lösung zuzustreben. Wenn verschiedene Trainingsziele ähnliche Minima haben, sind größere Modelle effizienter beim Finden dieser Minima und tendieren zu ähnlichen Lösungen für alle Trainingsaufgaben. 3. Konvergenz durch Simplicity Bias Tiefe Netzwerke neigen dazu, nach einfachen Anpassungen an die Daten zu suchen. Diese inhärente Tendenz zur Einfachheit führt dazu, dass große Modelle tendenziell vereinfacht dargestellt werden, was zu Konvergenz führt.

Das heißt, größere Modelle haben eine größere Abdeckung und sind in der Lage, dieselben Daten auf alle möglichen Arten anzupassen. Die implizite Einfachheitspräferenz tiefer Netzwerke ermutigt jedoch größere Modelle, die einfachste dieser Lösungen zu finden.

Der Endpunkt der KonvergenzNach einer Reihe von Analysen und Experimenten schlugen die Forscher, wie eingangs erwähnt, die „Plato-Repräsentationshypothese“ vor und spekulierten über den Endpunkt dieser Konvergenz. Das heißt, verschiedene KI-Modelle konvergieren, obwohl sie auf unterschiedliche Daten und Ziele trainiert wurden, in ihren Darstellungsräumen zu einem gemeinsamen statistischen Modell, das die reale Welt darstellt, die die von uns beobachteten Daten generiert.

Sie konstruierten zunächst ein idealisiertes diskretes Ereignisweltmodell. Die Welt enthält eine Reihe diskreter Ereignisse Z, jedes Ereignis wird aus einer unbekannten Verteilung P(Z) entnommen. Jedes Ereignis kann durch die Beobachtungsfunktion obs auf unterschiedliche Weise beobachtet werden, z. B. Pixel, Töne, Text usw.

Als nächstes betrachtet der Autor eine Klasse kontrastiver Lernalgorithmen, die versuchen, eine Darstellung fX zu lernen, so dass das innere Produkt von fX(xa) und fX(xb) xa annähert und ) das Verhältnis der logarithmischen Quoten von

zum logarithmischen Wert darstellt Wahrscheinlichkeit, ein negatives Stichprobenpaar zu sein

(zufällig ausgewählt) .

Nach der mathematischen Ableitung stellte der Autor fest, dass dieser Algorithmus zu einer Kernelfunktion konvergiert, wenn die Daten glatt genug sind. Dies ist der Punkt gegenseitige Information (PMI) von xa und xb

Die Darstellung des Kernels fX.

Da die Studie eine idealisierte diskrete Welt betrachtet, ist die Beobachtungsfunktion obs bijektiv, sodass die PMI-Kerne von xa und xb gleich den PMI-Kernen der entsprechenden Ereignisse za und zb sind.

Das bedeutet, dass unabhängig davon, ob Darstellungen aus visuellen Daten

Forscher haben diese Theorie durch eine empirische Studie zur Farbe getestet. Unabhängig davon, ob die Farbdarstellung aus der Statistik des gleichzeitigen Auftretens von Pixeln in Bildern oder aus der Statistik des gleichzeitigen Auftretens von Wörtern in Texten gelernt wird, ähneln die resultierenden Farbabstände der menschlichen Wahrnehmung, und mit zunehmender Modellgröße wird diese Ähnlichkeit immer größer.

Dies steht im Einklang mit der theoretischen Analyse, das heißt, eine größere Modellfähigkeit kann die Statistiken von Beobachtungsdaten genauer modellieren und so einen PMI-Kernel erhalten, der der idealen Ereignisdarstellung näher kommt.

Einige abschließende Gedanken

Am Ende des Artikels fasst der Autor die möglichen Auswirkungen der Repräsentationskonvergenz auf das Gebiet der KI und zukünftige Forschungsrichtungen sowie mögliche Einschränkungen und Ausnahmen von der platonischen Repräsentationsannahme zusammen.

Sie wiesen darauf hin, dass die Konvergenz der Darstellung mit zunehmender Modellgröße unter anderem folgende Auswirkungen haben kann:

• Obwohl eine einfache Skalierung die Leistung verbessern kann, weisen verschiedene Methoden Unterschiede in der Skalierungseffizienz auf.
• Wenn es eine modalitätsunabhängige platonische Darstellung gibt, dann sollten Daten aus verschiedenen Modalitäten gemeinsam trainiert werden, um diese gemeinsame Darstellung zu finden. Dies erklärt, warum es von Vorteil ist, visuelle Daten zum Sprachmodelltraining hinzuzufügen und umgekehrt.
• Die Konvertierung zwischen ausgerichteten Darstellungen sollte relativ einfach sein, was erklären könnte: Die bedingte Generierung ist einfacher als die bedingungslose Generierung, und eine modalübergreifende Konvertierung kann auch ohne gepaarte Daten erreicht werden.
• Eine größere Modellgröße kann die Tendenz von Sprachmodellen, Inhalte zu fabrizieren, und einige ihrer Vorurteile verringern, sodass sie die Vorurteile in den Trainingsdaten genauer widerspiegeln, anstatt sie zu verschärfen.

Der Autor betont, dass die Prämisse der oben genannten Auswirkungen darin besteht, dass die Trainingsdaten zukünftiger Modelle ausreichend vielfältig und verlustfrei sein müssen, um wirklich zu einer Darstellung zu konvergieren, die die statistischen Gesetze der tatsächlichen Welt widerspiegelt.

Gleichzeitig stellte der Autor auch fest, dass Daten unterschiedlicher Modalitäten einzigartige Informationen enthalten können, was es schwierig machen kann, eine vollständige Darstellungskonvergenz zu erreichen, selbst wenn die Modellgröße zunimmt. Darüber hinaus stimmen derzeit nicht alle Darstellungen überein. Beispielsweise gibt es im Bereich der Robotik keine standardisierte Darstellungsweise. Forscher und Community-Präferenzen können dazu führen, dass Modelle sich menschlichen Darstellungen annähern und dabei andere mögliche Formen der Intelligenz ignorieren.

Und intelligente Systeme, die speziell für bestimmte Aufgaben entwickelt wurden, konvergieren möglicherweise nicht zu denselben Darstellungen wie die allgemeine Intelligenz.

Die Autoren betonen außerdem, dass Methoden zur Messung der Darstellungsausrichtung umstritten sind und unterschiedliche Messmethoden zu unterschiedlichen Schlussfolgerungen führen können. Auch wenn die Darstellungen verschiedener Modelle ähnlich sind, müssen noch Lücken erklärt werden, und es ist derzeit nicht möglich zu bestimmen, ob diese Lücke wichtig ist.

Für weitere Details und Argumentationsmethoden werde ich das Papier hier veröffentlichen~

Link zum Papier: https://arxiv.org/abs/2405.07987

Das obige ist der detaillierte Inhalt vonIlyas erste Aktion, nachdem er seinen Job aufgegeben hatte: Mir gefiel diese Zeitung, und die Internetnutzer beeilten sich, sie zu lesen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!