???????范數(shù)（Norm）是一種關(guān)于向量的函數(shù)，是向量“長度”概念及其推廣。在線性代數(shù)、泛函分析及相關(guān)的數(shù)學(xué)領(lǐng)域，可用范數(shù)來度量一個向量的“長度”。在中學(xué)里我們學(xué)過一個向量的模長(長度)是向量中各元素平方和的平方根，比如向量(3,4)的模長就是5，這里模長其實是向量(3,4)的一種范數(shù)——L2范數(shù)，向量的范數(shù)除了L2范數(shù)外，還有其他定義，如L0范數(shù)、L1范數(shù)和L∞范數(shù)，下面將一一介紹上述提及的這幾個范數(shù)概念。

1 L0范數(shù)

???????若向量X = (x1, x2, …, xn)，則向量X的L0范數(shù)為

[{left| {f{x}} ight|_0} = {f{x}}中所有非零元素個數(shù)
]

???????若向量A = (0, 3, 6)，向量A中有1個元素為0，2個非零元素 (3和6)，則A對應(yīng)L0范數(shù)為

[{left| {f{A}} ight|_0} = {m{2}}
]

???????在機器學(xué)習(xí)中壓縮感知(compressive sensing)領(lǐng)域，很多時候希望最小化目標(biāo)向量的 L0范數(shù)。但L0范數(shù)的最優(yōu)化在數(shù)學(xué)上被認(rèn)為是個NP-hard問題，即求解很復(fù)雜，所以許多壓縮感知模型是將最小化目標(biāo)向量的 L0范數(shù)轉(zhuǎn)化為最小化目標(biāo)向量的 L1范數(shù)。

2 L1范數(shù)

???????若向量X = (x1, x2, …, xn)，則向量X的L1范數(shù)為

[egin{array}{l}
{left| {f{x}} ight|_1} = left| {{x_1}} ight| + left| {{x_2}} ight| + cdots left| {{x_n}} ight| \
quad ;;{m{ = }}sumlimits_{i = 1}^n {left| {{x_i}} ight|} \
end{array}]

???????若向量A = (0, 3, 6)，則A對應(yīng)L1范數(shù)為

[{left| {f{A}} ight|_1} = left| {m{0}} ight|{m{ + }}left| {m{3}} ight|{m{ + }}left| {m{6}} ight|{m{ = 3 + 6 = 9}}
]

???????最小化目標(biāo)向量的 L1范數(shù)求解比最小化目標(biāo)向量的 L0范數(shù)容易些，可通過最優(yōu)化算法得到對應(yīng)的可行解。但L1范數(shù)有一個問題，就是L1范數(shù)的導(dǎo)數(shù)不易求，所以許多機器學(xué)習(xí)問題中遇到 L1范數(shù)最小化問題會轉(zhuǎn)為L2范數(shù)最小化問題。

3 L2范數(shù)

???????若向量X = (x1, x2, …, xn)，則向量X的L2范數(shù)為

[ egin{array}{l}
{left| {f{x}} ight|_2} = sqrt {{{left| {{x_1}} ight|}^{m{2}}}{m{ + }}{{left| {{x_{m{2}}}} ight|}^{m{2}}}{m{ + }} cdots {m{ + }}{{left| {{x_n}} ight|}^{m{2}}}} \
quad ;;{m{ = }}sqrt {sumlimits_{i = 1}^n {{{left| {{x_i}} ight|}^2}} } \
end{array} ]

???????若向量A = (2, 3, 6)，則A對應(yīng)L2范數(shù)為

[{left| {f{A}} ight|_2} = sqrt {{2^2} + {3^2} + {6^2}} = sqrt {4 + 9 + 36} = sqrt {49} = 7
]

4 L∞范數(shù)

???????若向量X = (x1, x2, …, xn)，則向量X的L∞范數(shù)為

[{left| {f{x}} ight|_infty } = max left( {left| {{x_1}} ight|left| {{x_{m{2}}}} ight| cdots left| {{x_n}} ight|} ight)
]

???????若向量A = (2, 3, 6)，則A對應(yīng)L∞范數(shù)為

[{left| {f{A}} ight|_infty } = max left( {2,3,6} ight) = 6
]

5 Lp范數(shù)

???????Lp范數(shù)實際上將L1范數(shù)、L2范數(shù)和L∞范數(shù)統(tǒng)一到一個框架體系中。

???????若向量X = (x1, x2, …, xn)，則向量X的Lp范數(shù)為

[ egin{array}{l}
{left| {f{x}} ight|_p} = sqrt[p]{{{{left| {{x_1}} ight|}^p}{m{ + }}{{left| {{x_{m{2}}}} ight|}^p}{m{ + }} cdots {m{ + }}{{left| {{x_n}} ight|}^p}}} \
quad ;;{m{ = }}sqrt[p]{{sumlimits_{i = 1}^n {{{left| {{x_i}} ight|}^p}} }} \
end{array} ]

???????關(guān)于Lp范數(shù)的幾何解釋可以用單位圓來說明。單位圓是無窮個向量終點組成的集合，這些向量必須滿足Lp范數(shù)為1且起點為原點。

???????對于L1范數(shù)，它在R2空間中的單位圓是正方形。

???????對于L2范數(shù)，它在R2空間中的單位圓是圓形。

???????對于L∞范數(shù)，它是R2空間中的單位圓也是一個正方形。

???????對于任何p范數(shù)，它是一個超橢圓（具有全等軸）。下面圖為p取不同數(shù)值，Lp范數(shù)對應(yīng)的單位圓。

圖1 不同p對應(yīng)的單位圓

總結(jié)

以上是生活随笔為你收集整理的范数的概念的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。