Robust PCA
生活随笔
收集整理的這篇文章主要介紹了
Robust PCA
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
Robust PCA?
1. PCA
? ? ? ?PCA是Principal Component Analysis的縮寫,翻譯為主元分析。它是一種對(duì)數(shù)據(jù)進(jìn)行分析的技術(shù),最重要的應(yīng)用是對(duì)原有數(shù)據(jù)進(jìn)行簡(jiǎn)化。正如它的名字:主元分析,這種方法可以有效的找出數(shù)據(jù)中最“主要”的元素和結(jié)構(gòu),去除噪音和冗余,將原有的復(fù)雜數(shù)據(jù)降維,揭示隱藏在復(fù)雜數(shù)據(jù)背后的簡(jiǎn)單結(jié)構(gòu)。
? ? ??從線性代數(shù)的角度看,PCA的目標(biāo)就是使用另一組基去重新描述得到的數(shù)據(jù)空間。希望在這組新的基下,能盡量揭示原有的數(shù)據(jù)間的關(guān)系。這個(gè)維度即最重要的“主元”。PCA的目標(biāo)就是找到這樣的“主元”,最大程度的去除冗余和噪音的干擾。
2. RPCA ? ? 對(duì)于低秩矩陣X,假如X受到隨機(jī)噪聲的影響,則X的低秩性就會(huì)破壞,使X變成滿秩的。考慮同一副人臉的多幅圖像,如果將每一副人臉圖像看成是一個(gè)行向量,并將這些向量組成一個(gè)矩陣的話,那么可以肯定,理論上,這個(gè)矩陣應(yīng)當(dāng)是低秩的。但是,由于在實(shí)際操作中,每幅圖像會(huì)受到一定程度的影響,例如遮擋,噪聲,光照變化,平移等。這些干擾因素的作用可以看做是一個(gè)噪聲矩陣的作用。
? ? 與此類似的問題是視頻圖像中的物體檢測(cè)問題。由于固定攝像機(jī)拍攝的背景是相對(duì)穩(wěn)定的,所以其中的運(yùn)動(dòng)物體,例如行人,車輛,飛鳥等,可以看做是圖像矩陣中的稀疏噪聲。由于不同的圖像同時(shí)受到獨(dú)立的高斯噪聲的影響,所以,要將低秩分解技術(shù)為恢復(fù)圖像本源的信息提供了一個(gè)有力的工具。與經(jīng)典PCA問題一樣,魯棒PCA本質(zhì)上也是尋找數(shù)據(jù)在低維空間上的最佳投影問題。 ? ?在這里提一下最小二乘法,如下圖所示 ? ? ? ? ? ? ? ? ? ? 如左圖所示,未受噪聲干擾的樣本點(diǎn),張成的子空間為一維直線。如右圖所示,當(dāng)受到隨機(jī)噪聲干擾的樣本點(diǎn),低秩性被破壞,張成的空間為n維,通過最小二乘回歸的算法,可以將數(shù)據(jù)恢復(fù)到一維直線上。當(dāng)個(gè)別分量偏差比較大時(shí),用最小二乘的回歸算法會(huì)受到較大擾動(dòng)。如下圖:
RPCA就可以解決此類問題。 ? 由于rank和L0范數(shù)在優(yōu)化上存在非凸和非光滑特性,所以我們一般將它轉(zhuǎn)換成求解以下一個(gè)松弛的凸優(yōu)化問題:
? ? ??從線性代數(shù)的角度看,PCA的目標(biāo)就是使用另一組基去重新描述得到的數(shù)據(jù)空間。希望在這組新的基下,能盡量揭示原有的數(shù)據(jù)間的關(guān)系。這個(gè)維度即最重要的“主元”。PCA的目標(biāo)就是找到這樣的“主元”,最大程度的去除冗余和噪音的干擾。
2. RPCA ? ? 對(duì)于低秩矩陣X,假如X受到隨機(jī)噪聲的影響,則X的低秩性就會(huì)破壞,使X變成滿秩的。考慮同一副人臉的多幅圖像,如果將每一副人臉圖像看成是一個(gè)行向量,并將這些向量組成一個(gè)矩陣的話,那么可以肯定,理論上,這個(gè)矩陣應(yīng)當(dāng)是低秩的。但是,由于在實(shí)際操作中,每幅圖像會(huì)受到一定程度的影響,例如遮擋,噪聲,光照變化,平移等。這些干擾因素的作用可以看做是一個(gè)噪聲矩陣的作用。
? ? 與此類似的問題是視頻圖像中的物體檢測(cè)問題。由于固定攝像機(jī)拍攝的背景是相對(duì)穩(wěn)定的,所以其中的運(yùn)動(dòng)物體,例如行人,車輛,飛鳥等,可以看做是圖像矩陣中的稀疏噪聲。由于不同的圖像同時(shí)受到獨(dú)立的高斯噪聲的影響,所以,要將低秩分解技術(shù)為恢復(fù)圖像本源的信息提供了一個(gè)有力的工具。與經(jīng)典PCA問題一樣,魯棒PCA本質(zhì)上也是尋找數(shù)據(jù)在低維空間上的最佳投影問題。 ? ?在這里提一下最小二乘法,如下圖所示 ? ? ? ? ? ? ? ? ? ? 如左圖所示,未受噪聲干擾的樣本點(diǎn),張成的子空間為一維直線。如右圖所示,當(dāng)受到隨機(jī)噪聲干擾的樣本點(diǎn),低秩性被破壞,張成的空間為n維,通過最小二乘回歸的算法,可以將數(shù)據(jù)恢復(fù)到一維直線上。當(dāng)個(gè)別分量偏差比較大時(shí),用最小二乘的回歸算法會(huì)受到較大擾動(dòng)。如下圖:
RPCA就可以解決此類問題。 ? 由于rank和L0范數(shù)在優(yōu)化上存在非凸和非光滑特性,所以我們一般將它轉(zhuǎn)換成求解以下一個(gè)松弛的凸優(yōu)化問題:
總結(jié)
以上是生活随笔為你收集整理的Robust PCA的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 零基础Python小游戏
- 下一篇: 低秩矩阵表示(LRR)