向量範數是衡量向量大小的指標,廣泛應用於評估模型誤差。在機器學習和深度學習中扮演重要角色。
機器學習的項目可以視為n維向量,其中每個維度表示資料的屬性。因此,我們可以使用標準的基於向量的相似性度量來計算它們之間的距離,例如曼哈頓距離、歐幾里德距離等。簡而言之,範數是一種函數,它可以幫助我們量化向量的大小。
向量範數滿足以下4種性質:
#L1範數
L1範數的符號是||v||1計算從原點到向量空間的曼哈頓距離,L1範數是計算絕對向量值的總和。在機器學習中,我們通常在向量的稀疏性很重要時使用L1範數。
公式:||v||1= |b1| |b2| |b3|
L2範數
L2範數的符號是||v||2這種範數也稱為歐幾里德範數,L2範數計算為向量平方值總和的平方根,由於是可微函數,L2範數最常用於機器學習中的最佳化。
公式:||v||2= sqrt [ (b1)2 (b2)2 (b3)2]
向量最大範數
最大範數的符號是||v||inf,也可以用無窮大符號表示L∞,最大範數計算為回傳向量的最大值。
公式:||v||inf= max( |b1| , |b2| , |b3| )
許多應用程式,如資訊檢索、個人化、文件分類、影像處理等,都依賴項目之間相似性或不相似性的計算。如果兩個項目之間的距離較小,則認為兩個項目相似,反之亦然。
以上是介紹機器學習中的向量範數:L1、L2和L∞範數的詳細內容。更多資訊請關注PHP中文網其他相關文章!