Tiefe neuronale Netze zur Klassifizierungskalibrierung und Regressionskalibrierung

Deep Neural Network ist ein leistungsstarkes Modell für maschinelles Lernen, das automatisch Funktionen und Muster lernen kann. In praktischen Anwendungen muss die Ausgabe neuronaler Netze jedoch häufig kalibriert werden, um Leistung und Zuverlässigkeit zu verbessern. Klassifizierungskalibrierung und Regressionskalibrierung sind häufig verwendete Kalibrierungstechniken und haben unterschiedliche Prinzipien und Anwendungen. In diesem Artikel werden die Funktionsprinzipien und Anwendungsszenarien dieser beiden Technologien ausführlich vorgestellt.

1. Klassifizierungskalibrierung

Die Klassifizierungskalibrierung dient der Verbesserung der Zuverlässigkeit und Genauigkeit des Klassifikators. Dies wird durch Anpassen des vom Klassifikator ausgegebenen Wahrscheinlichkeitsverteilungsvektors erreicht. Bei einem Klassifizierungsproblem gibt ein neuronales Netzwerk einen Vektor aus, der die vorhergesagte Wahrscheinlichkeit jeder Klasse darstellt. Allerdings sind diese Wahrscheinlichkeiten nicht immer genau und können zu hoch oder zu niedrig verzerrt sein. Das Ziel der Klassifizierungskalibrierung besteht darin, diese Wahrscheinlichkeiten so anzupassen, dass sie der wahren Wahrscheinlichkeitsverteilung näher kommen. Dies verbessert die Leistung des Klassifikators und macht ihn zuverlässiger bei der Vorhersage der Wahrscheinlichkeiten verschiedener Klassen.

Zu den häufig verwendeten Klassifizierungskalibrierungsmethoden gehören die folgenden zwei:

1. Temperaturskalierung

Temperaturskalierung ist eine einfache und effektive Klassifizierungskalibrierungstechnologie, deren Prinzip auf dem neuronalen Netzwerk basiert. Die Ausgabe wird skaliert , wodurch die Konfidenz des Klassifikators angepasst wird. Insbesondere skaliert die Temperaturskalierung die Ausgabe der letzten Schicht des neuronalen Netzwerks durch Einführung eines Temperaturparameters T, der die ursprüngliche Vorhersagewahrscheinlichkeit p in die kalibrierte Wahrscheinlichkeit q umwandelt:

q_i=\frac{p_i^{\frac{1}{T}}}{\sum_{j=1}^K p_j^{\frac{1}{T}}}

wobei i die i-te Kategorie und K die darstellt Gesamtzahl der Kategorien. Wenn T = 1, ändert die Temperaturskalierung die ursprüngliche Vorhersagewahrscheinlichkeit nicht. Wenn T > 1, erhöht die Temperaturskalierung die Zuverlässigkeit des Klassifikators, wodurch die Vorhersagewahrscheinlichkeit konzentrierter und sicherer wird des Klassifikators macht die vorhergesagten Wahrscheinlichkeiten diffuser und vorsichtiger.

Die Vorteile der Temperaturskalierung bestehen darin, dass sie einfach zu implementieren, kostengünstig und ohne Neuschulung des Modells kalibrierbar ist. Es ist jedoch nicht garantiert, dass die Temperaturskalierung die Leistung des Klassifikators in allen Fällen effektiv verbessert, da sie davon ausgeht, dass die Fehler aller Kategorien unabhängig sind und sich auf derselben Skala befinden, was in praktischen Anwendungen nicht unbedingt zutrifft.

2.Platt-Kalibrierung (Platt-Skalierung)

Die Platt-Kalibrierung ist eine relativ traditionelle Klassifizierungskalibrierungsmethode, die auf dem logistischen Regressionsmodell basiert und die Ausgabe des neuronalen Netzwerks anpasst, um die kalibrierte Wahrscheinlichkeitsverteilung zu erhalten. Insbesondere führt die Platt-Kalibrierung ein binäres logistisches Regressionsmodell ein, um die Ausgabe des neuronalen Netzwerks anzupassen und eine neue Wahrscheinlichkeitsverteilung zu erhalten. Die Eingabe des logistischen Regressionsmodells ist die Ausgabe oder das Merkmal des neuronalen Netzwerks, und die Ausgabe ist ein Wahrscheinlichkeitswert zwischen 0 und 1. Durch Anpassen eines logistischen Regressionsmodells kann der korrigierte Wahrscheinlichkeitswert für jede Kategorie erhalten werden.

Der Vorteil der Platt-Kalibrierung besteht darin, dass sie die Vorhersagewahrscheinlichkeit genauer schätzen kann und für eine Vielzahl unterschiedlicher Klassifizierungsprobleme geeignet ist. Die Platt-Kalibrierung erfordert jedoch eine Modellanpassung, sodass der Rechenaufwand hoch ist und eine große Menge an gekennzeichneten Daten erforderlich ist, um das logistische Regressionsmodell zu trainieren.

2. Regressionskalibrierung

Regressionskalibrierung bezieht sich auf die Korrektur der Ausgabe des Regressionsmodells, um es zuverlässiger und genauer zu machen. Bei Regressionsproblemen ist die Ausgabe eines neuronalen Netzwerks normalerweise ein kontinuierlicher reeller Wert, der den Wert der vorhergesagten Zielvariablen darstellt. Diese vorhergesagten Werte können jedoch eine Verzerrung oder Varianz aufweisen, sodass eine Regressionskalibrierung erforderlich ist, um die Genauigkeit und Zuverlässigkeit der Vorhersagen zu verbessern.

Zu den häufig verwendeten Regressionskalibrierungsmethoden gehören die folgenden zwei:

1. Historische Durchschnittskalibrierung

Die historische Durchschnittskalibrierung ist eine einfache und effektive Regressionskalibrierungstechnologie, deren Prinzip darin besteht, historische Daten zu berechnen Mittelwert und Varianz der Zielvariablen und passen Sie dann den vorhergesagten Wert des neuronalen Netzwerks an. Insbesondere erhält die historische Durchschnittskalibrierung einen Kalibrierungsfaktor durch Berechnen des Mittelwerts und der Varianz historischer Daten und korrigiert dann den vorhergesagten Wert des neuronalen Netzwerks, um ihn näher an den wahren Zielwert heranzuführen. Der Vorteil der historischen Durchschnittskalibrierung besteht darin, dass sie einfach und benutzerfreundlich ist, keine zusätzlichen Trainingsdaten und Rechenkosten erfordert und für eine Vielzahl unterschiedlicher Regressionsprobleme geeignet ist.

2. Lineare Regressionskalibrierung

Die lineare Regressionskalibrierung ist eine Regressionskalibrierungstechnologie, die auf einem linearen Regressionsmodell basiert. Ihr Prinzip besteht darin, den vorhergesagten Wert des neuronalen Netzwerks durch Anpassen eines linearen Modells an den wahren Zielwert abzubilden . Insbesondere verwendet die lineare Regressionskalibrierung zusätzliche gekennzeichnete Daten, um ein lineares Regressionsmodell zu trainieren, wobei der vorhergesagte Wert des neuronalen Netzwerks als Eingabe und der wahre Zielwert als Ausgabe verwendet werden, um eine lineare Abbildungsfunktion zu erhalten, wodurch die Vorhersage anhand der Vorhersagen des neuronalen Netzwerks durchgeführt wird Wert.

Der Vorteil der linearen Regressionskalibrierung besteht darin, dass sie die Beziehung zwischen dem vorhergesagten Wert und dem Zielwert genauer schätzen kann und für verschiedene Regressionsprobleme geeignet ist. Die Anpassung linearer Regressionsmodelle erfordert jedoch eine große Menge beschrifteter Daten und Rechenkosten und ist bei Regressionsproblemen mit nichtlinearen Beziehungen möglicherweise nicht effektiv.

Im Allgemeinen sind Klassifizierungskalibrierung und Regressionskalibrierung gängige Kalibrierungstechniken in tiefen neuronalen Netzen, die die Leistung und Zuverlässigkeit des Modells verbessern können. Durch die Klassifizierungskalibrierung wird hauptsächlich die Konfidenz des Klassifikators angepasst, um die Vorhersagewahrscheinlichkeit genauer zu machen. Durch die Regressionskalibrierung werden die Vorhersageergebnisse hauptsächlich durch Korrektur der Verzerrung und Varianz des vorhergesagten Werts näher an den wahren Zielwert gebracht. In praktischen Anwendungen ist es notwendig, basierend auf spezifischen Problemen eine geeignete Kalibrierungsmethode auszuwählen und diese mit anderen Techniken zu kombinieren, um die Leistung des Modells zu optimieren.

Das obige ist der detaillierte Inhalt vonTiefe neuronale Netze zur Klassifizierungskalibrierung und Regressionskalibrierung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!