Numerischer Abstand basierend auf maschinellem Lernen: der Abstand zwischen Punkten im Raum

Dieser Artikel stammt aus dem öffentlichen WeChat-Konto „Leben im Informationszeitalter“. Der Autor lebt im Informationszeitalter. Um diesen Artikel erneut zu drucken, wenden Sie sich bitte an das öffentliche Konto Living in the Information Age.

Beim maschinellen Lernen besteht ein Grundkonzept darin, den Unterschied zwischen zwei Stichproben zu beurteilen, um die Ähnlichkeit und Kategorieinformationen zwischen den beiden Stichproben bewerten zu können. Das Maß zur Beurteilung dieser Ähnlichkeit ist der Abstand zwischen zwei Stichproben im Merkmalsraum.

Es gibt viele Messmethoden, die auf unterschiedlichen Dateneigenschaften basieren. Im Allgemeinen definieren Sie für zwei Datenproben x, y eine Funktion d (x, y). Wenn sie als Abstand zwischen den beiden Proben definiert ist, muss d (x, y) die folgenden Grundeigenschaften erfüllen:

• Nichtnegativität: d(x,y)>=0
• Identität: d(x,y)=0 ⇔ x=y
• Symmetrie: d(x,y)=d(y, x)
• Dreieck Ungleichung: d(x, y)

Im Allgemeinen umfassen gängige Abstandsmaße: Abstand von Punkten im Raum, Zeichenfolge. Es gibt vier Arten von Abständen und Ähnlichkeiten zwischen ihnen Mengen und Abstand zwischen Variablen-/Konzeptverteilungen.

Heute stellen wir zunächst die Entfernung der am häufigsten verwendeten Punkte im Weltraum vor.

Der Abstand zwischen Punkten im Raum umfasst die folgenden Typen:

1. Der euklidische Abstand ist für Menschen zweifellos der Abstand zwischen zwei Punkten Abstand dazwischen. Schüler, die Mathematik in der Mittelstufe studiert haben, wissen alle, wie man den Abstand zwischen zwei Punkten im kartesischen Koordinatensystem im zweidimensionalen Raum berechnet N-dimensionaler Raum Die euklidische Distanz ist:

2. Manhattan-Distanz

Das Konzept der Manhattan-Distanz stammt aus Manhattan, New York, das viele horizontale und vertikale Blöcke hat. Wenn ein Taxifahrer in einer solchen Nachbarschaft von einem Punkt zum anderen laufen möchte, ist es sinnlos, die Luftlinie zu berechnen, da das Taxi nicht über die Gebäude fliegen kann. Daher wird diese Entfernung normalerweise durch Subtraktion und Addition der Ost-West- bzw. Nord-Süd-Abstände zweier Punkte berechnet. Dies ist die tatsächliche Entfernung, die das Taxi zurücklegen muss.

Wie in der Abbildung gezeigt, sind die rote Linie und die gelbe Linie die Manhattan-Abstände zweier verschiedener Pfade. Mathematisch gesehen ist die Berechnungsmethode für die Manhattan-Entfernung im zweidimensionalen Raum wie folgt:

3. Tschebyscheff-Entfernung (Tschebyscheff-Entfernung)

Die Tschebyscheff-Entfernung ist definiert als die numerische Differenz jeder Koordinate zwischen zwei Punkten Maximalwert.

Das intuitivste Beispiel ist der König im Schach, weil er sich seitwärts, gerade und diagonal bewegen kann, aber immer nur ein Feld gleichzeitig bewegen kann, also ist die Tschebyscheff-Distanz, wenn er zu einem anderen Feld ziehen muss Mindestabstand, der für das Gitter erforderlich ist.

4. Minkowski-Distanz

Minkowski-Distanz selbst ist keine spezielle Distanz, sondern eine Kombination mehrerer Distanzen (Manhattan-Distanz, Euklidische Distanz, Tschebyscheff-Distanz), zusammengefasst in einer Formel.

Es ist definiert als: Für zwei n-dimensionale Variablen beträgt der Mindestabstand:

Wenn p=1, können Sie sehen, dass

die Manhattan-Entfernung zu diesem Zeitpunkt ist.

Wenn p = 2, können Sie sehen, dass

der euklidische Abstand zu diesem Zeitpunkt ist.

Wenn p=∞, können Sie sehen, dass

die Tschebyscheff-Distanz ist.

5. Standardisierter euklidischer Abstand

Der euklidische Abstand kann den geradlinigen Abstand zwischen zwei Punkten messen, kann jedoch in einigen Fällen durch unterschiedliche Einheiten beeinflusst werden. Besteht zum Beispiel ein Höhenunterschied von 5 mm und gleichzeitig ein Gewichtsunterschied von 5 kg, kann die Wahrnehmung völlig anders ausfallen. Wenn wir drei Modelle gruppieren möchten, lauten ihre jeweiligen Attribute wie folgt:

A: 65000000 mg (d. h. 65 kg), 1,74 m

B: 60000000 mg (d. h. 60 kg), 1,70 m

C: 65000000 mg ( d.h. 65 kg), 1,40 Meter

Nach unserem normalen Verständnis sind A und B Modelle mit besseren Figuren und sollten in die gleiche Kategorie eingeordnet werden. Bei der tatsächlichen Berechnung in den oben genannten Einheiten stellt sich jedoch heraus, dass die Differenz zwischen A und B größer ist als die Differenz zwischen A und C. Der Grund liegt darin, dass die unterschiedlichen Maßeinheiten der Attribute zu übermäßigen numerischen Unterschieden führen. Wenn die gleichen Daten auf eine andere Einheit geändert werden.

A: 65 kg, 174 cm

B: 60 kg, 170 cm

C: 65 kg, 140 cm

Dann erhalten wir das Ergebnis, das wir uns vorgestellt haben, indem wir A und B in dieselbe Kategorie einordnen. Um solche Unterschiede aufgrund unterschiedlicher Maßeinheiten zu vermeiden, müssen wir daher einen standardisierten euklidischen Abstand einführen. Bei dieser Distanzberechnung wird jede Komponente auf ein Intervall mit gleichem Mittelwert und gleicher Varianz normiert.

Angenommen, der Mittelwert (Mittelwert) des Stichprobensatzes Komponente. Nach einer einfachen Ableitung können wir die standardisierte Formel für den euklidischen Abstand zwischen zwei n-dimensionalen Vektoren erhalten: Euklidischer Abstand). Durch diesen Vorgang beseitigen wir effektiv die Unterschiede zwischen verschiedenen Gewichtseinheiten.

6. Lance- und Williams-Distanz

Lance-Distanz wird auch Canberra-Distanz genannt,

Es ist ein dimensionsloser Indikator, der die Unterschiede zwischen Min-Distanz und verschiedenen Indikatoren überwindet. Er weist dimensionsbezogene Mängel auf ist unempfindlich gegenüber großen Singulärwerten und eignet sich daher besonders für Daten mit Planungsfehlern. Dieser Abstand berücksichtigt jedoch auch nicht die Korrelation zwischen Variablen. Wenn Sie daher die Korrelation zwischen Variablen berücksichtigen müssen, benötigen Sie immer noch die Mahalanobis-Distanz.

7. Mahalanobis-Distanz

Gibt es nach der Normalisierung der Werte keine Probleme? Nicht unbedingt. Wenn beispielsweise in einem eindimensionalen Beispiel zwei Klassen vorhanden sind, hat eine Klasse einen Mittelwert von 0 und eine Varianz von 0,1 und die andere Klasse hat einen Mittelwert von 5 und eine Varianz von 5. Wenn also ein Punkt mit einem Wert von 2 zu welcher Kategorie gehören sollte? Wir gehen instinktiv davon aus, dass es sich um die zweite Kategorie handeln muss, da es offensichtlich unwahrscheinlich ist, dass die erste Kategorie zahlenmäßig 2 erreicht. Aber tatsächlich muss die Zahl 2, wenn man sie aus der Entfernung berechnet, zur ersten Kategorie gehören.

In einer Dimension mit geringer Varianz kann also ein kleiner Unterschied zu einem Ausreißer werden. In der folgenden Abbildung haben A und B beispielsweise den gleichen Abstand vom Ursprung, aber da die gesamte Probe entlang der horizontalen Achse verteilt ist, ist es wahrscheinlicher, dass Punkt B ein Punkt in der Probe ist, während Punkt A eher ein Punkt in der Probe ist wahrscheinlich ein Ausreißer.

Probleme können auch auftreten, wenn die Abmessungen nicht unabhängig und identisch verteilt sind. In der Abbildung unten sind beispielsweise Punkt A und Punkt B gleich dem Abstand vom Ursprung, die Hauptverteilung ist jedoch ähnlich f(x) =x, also ist A eher ein Ausreißer.

Wir können also sehen, dass in diesem Fall auch die standardisierte euklidische Distanz Probleme haben wird, also müssen wir die Mahalanobis-Distanz einführen.

Der Mahalanobis-Abstand dreht die Variablen entsprechend den Hauptkomponenten, um die Dimensionen unabhängig voneinander zu machen, und standardisiert sie dann, um die Dimensionen gleichmäßig zu verteilen. Die Hauptkomponente ist die Richtung des Eigenvektors. Sie müssen also nur entsprechend der Richtung des Eigenvektors rotieren und dann die Eigenwerte mal skalieren. Nachdem das obige Bild beispielsweise transformiert wurde, wird das folgende Ergebnis erhalten:

Es ist ersichtlich, dass die Ausreißer erfolgreich getrennt wurden.

Der Mahalanobis-Abstand wurde vom indischen Mathematiker Mahalanobis vorgeschlagen und stellt den Kovarianzabstand der Daten dar. Es handelt sich um eine effiziente Methode zur Berechnung der Ähnlichkeit zweier unbekannter Stichprobensätze.

Für einen multivariaten Vektor

mit Mittelwert

und Kovarianzmatrix Σ beträgt sein Mahalanobis-Abstand (der Mahalanobis-Abstand eines einzelnen Datenpunkts):

Für der Grad der Differenz zwischen zwei Zufallsvariablen Matrix, dann wird der Mahalanobis-Abstand zum euklidischen Abstand vereinfacht. Wenn die Kovarianzmatrix eine Diagonalmatrix ist, wird der Mahalanobis-Abstand zum standardisierten euklidischen Abstand.

8. Kosinusabstand

Wie der Name schon sagt, ergibt sich der Kosinusabstand aus dem Kosinus des Winkels in der Geometrie. Er kann verwendet werden, um die Differenz in der Richtung zweier Vektoren zu messen, anstatt Abstand oder Länge. Wenn der Kosinuswert 0 ist, sind die beiden Vektoren orthogonal und der eingeschlossene Winkel beträgt 90 Grad. Je kleiner der Winkel, desto näher liegt der Kosinuswert bei 1 und die Richtung ist konsistenter.

Im N-dimensionalen Raum beträgt der Kosinusabstand:

Es ist erwähnenswert, dass der Kosinusabstand die Dreiecksungleichung nicht erfüllt.

9. Geodätische Distanz

Unter der geodätischen Distanz versteht man ursprünglich den kürzesten Abstand zwischen den Oberflächen von Kugeln. Wenn der Merkmalsraum eine Ebene ist, ist der geodätische Abstand der euklidische Abstand. In der nichteuklidischen Geometrie ist die kürzeste Linie zwischen zwei Punkten auf der Kugel der große Bogen, der die beiden Punkte verbindet. Auch die Seiten von Dreiecken und Polygonen auf der Kugel bestehen aus diesen großen Bögen.

10. Bray-Curtis-Distanz

Die Bray-Curtis-Distanz wird hauptsächlich in der Botanik, Ökologie und Umweltwissenschaften verwendet und kann zur Berechnung der Unterschiede zwischen Proben verwendet werden. Die Formel lautet:

Der Wert liegt zwischen [0, 1]. Wenn beide Vektorkoordinaten 0 sind, ist der Wert bedeutungslos.

Das obige ist der detaillierte Inhalt vonNumerischer Abstand basierend auf maschinellem Lernen: der Abstand zwischen Punkten im Raum. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!