Introduction des normes vectorielles dans l'apprentissage automatique : normes L1, L2 et L∞

La norme vectorielle est une mesure de la taille du vecteur et est largement utilisée pour évaluer les erreurs du modèle. Joue un rôle important dans l’apprentissage automatique et l’apprentissage profond.

Un projet d'apprentissage automatique peut être considéré comme un vecteur à n dimensions, où chaque dimension représente un attribut des données. Par conséquent, nous pouvons calculer la distance qui les sépare à l’aide de mesures de similarité vectorielles standard, telles que la distance de Manhattan, la distance euclidienne, etc. En termes simples, la norme est une fonction qui nous aide à quantifier la taille d'un vecteur.

Propriétés de la norme vectorielle

La norme vectorielle satisfait les 4 propriétés suivantes :

• Non-négativité : Elle est toujours non négative.
• Déterministe : Il n'est nul que lorsque le vecteur est nul.
• Inégalité triangulaire : La norme de la somme de deux vecteurs ne dépasse pas la somme de leurs normes.
• Homogénéité : Multiplier un vecteur par un scalaire multiplie la norme du vecteur par la valeur absolue du scalaire.

Normes vectorielles communes dans l'apprentissage automatique

Norme L1

Le symbole de la norme L1 est ||v||1 pour calculer la distance de Manhattan entre l'origine et l'espace vectoriel, et la norme L1 is Calcule la somme des valeurs vectorielles absolues. En apprentissage automatique, nous utilisons généralement la norme L1 lorsque la rareté des vecteurs est importante.

Formule : ||v||1= |b1|+ |b2|+|b3|

Norme L2

Le symbole de la norme L2 est ||v||2 Le nombre est également appelée norme euclidienne. La norme L2 est calculée comme la racine carrée de la somme des valeurs carrées du vecteur. Puisqu'il s'agit d'une fonction différentiable, la norme L2 est la plus couramment utilisée pour l'optimisation dans l'apprentissage automatique.

Formule : ||v||2= sqrt [ (b1)2+ (b2)2+ (b3)2]

Norme maximale vectorielle

Le symbole de la norme maximale est || v||inf, L∞ peut également être représenté par la notation infinie, et la norme maximale est calculée comme la valeur maximale du vecteur renvoyé.

Formule : ||v||inf= max( |b1| , |b2| , |b3| )

De nombreuses applications, telles que la recherche d'informations, la personnalisation, la classification de documents, le traitement d'images, etc. calcul qui repose sur la similitude ou la dissemblance entre les éléments. Deux éléments sont considérés comme similaires si la distance qui les sépare est faible et vice versa.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!