压缩感知基本概括——三大基本问题
壓縮感知是對于N維的信號x,使用小的觀測維數M?N,設計一個M*N的測量矩陣Φ,得到測量結果y=?x,最終通過測得的y和已知的矩陣Φ來求得信號x。
x信號特點:具有稀疏性。即信號本身或者使用一組基地展開后大多數系數為0。
在壓縮感知研究中主要有三個問題
?
1.如何找到稀疏信號或者說如何使得信號變成稀疏信號
2.找到合適的測量矩陣Φ,測量矩陣必須滿足一定條件才能正確恢復信號
3.從測得的y中恢復出最開始的x信號。
一:如何使得信號變成稀疏信號——信號稀疏表示和分解方法
一般的信號都不滿足稀疏性的條件,這個時候我們就要考慮將此信號轉換到其他空間域以實現稀疏表示。例如幾個正弦信號疊加的信號在時域是連續的,我們可以通過傅里葉變換將原始信號變成在頻域上只有幾個頻率的稀疏信號。
信號的稀疏表示就是在選擇一組基函數,使用該基函數的少量線性組合準確表達原始信號,此時該基下的分解表示結果呈現出稀疏性。變換后信號的非零項個數K反映信號固有的自由度,可以用向量的Lo范數來表達向量中非零元素的個數。
信號變換的本質就是通過不同的角度不同的方法去“觀察認識一個信號”。
那具體怎么找到適合原始信號的稀疏表示方法呢?一般有兩種方法
1.一般基函數下的稀疏逼近
與過完備字典相對應,一般的標準正交基函數稱為完備字典。相對來說這種基函數是簡易的但不靈活的。就相當于找一組基函數來分解信號,可以類似于傅里葉變換。
常用的基函數(完備字典)有:沖激函數字典,單位階躍字典,傅里葉基和時間-尺度變換(小波變換)
2.過完備字典下的稀疏逼近
?
?
(兩個需要解決的問題 a找到過完備字典 b從過完備字典中找到與信號特點匹配的K個原子)
a:典型過完備字典
建立在標準正交基下的信號分解有一定局限性,對于信號都采用相同的基函數(相當于對所有的信號都粗暴的采用傅里葉變換,但是信號不一定都能達到優良的頻域稀疏),使用過完備字典,字典一般維數大于N維,從字典中選擇最適應信號特點的基函數來進行非線性稀疏逼近。
對于某個字典D,有L個原子(L?N),對于信號x,在過完備字典中選取K個原子對信號做K項逼近。定義逼近誤差,我們希望從D各種可能的組合中找到分解系數最稀疏的一組。
典型的過完備字典有:
由精細采樣生成的字典(例如傅里葉基增加更多的頻率波形)
?
?
Gabor字典
小波包與余弦包字典
?
?
級聯字典(多個完備字典級聯)
?
框架
b:過完備稀疏分解方法
一個重要的研究方向就是利用數學方法找到在信號在過完備字典中的最稀疏表達,這是一個NP-Hard問題,(NP指非確定性多項式,NP-Hard是指用一定數量的運算去解決多項式時間內可解決的問題)理論上很難求解,通過一定的近似轉換成L1范數優化求解問題,通過線性規劃來解決。
幾種常用的稀疏分解算法:
1.基追蹤(BP)算法
2.貪婪匹配追蹤(MP)算法
3.正交匹配追蹤(OMP)算法
二:如何從測得的y中恢復出原始信號x——稀疏信號的恢復
之所以先講信號的恢復而將矩陣的選擇放到第三部分的原因是因為矩陣性質和矩陣的設計是由信號恢復算法決定的。
稀疏信號的恢復類似于一個解碼過程,通過y反求信號x,這是一個從低維度的y而求出高維度x的問題,一般來說會有無窮多個解,而我們要做的就是利用信號稀疏性的特征找出無窮多個解里面的最優解??梢院茏匀坏南氲綇臒o窮多個解中找到最稀疏的那個解。這是一個L0范數的規劃問題。
P0:min‖x‖_0? ? ?s.t.?x=y
(規劃問題的解為滿足?x=y中非0元素數目最少的x)
上面的解又是一個NP-Hard問題,我們可以跟稀疏表示方法一樣的思路——轉換成求L1范數的線性規劃問題。
P1:min‖x‖_1? ? s.t.?x=y
(L1范數問題實際上是一個線性規劃問題,求滿足條件的原子的和的最小值)
問題來了:怎么才能把一個NP-Hard難的L0范數問題轉換成線性規劃問題L1問題呢?
這個問題就涉及到矩陣的選擇,只要矩陣滿足一定的性質,就能保證L0范數問題和L1范數問題的解一致。這個性質有多種表示方法會在第三講中討論。用的最廣的一種表示方法就是——矩陣RIP性質。
本講的重點放在求解L1范數的觀測次數和信號重構算法上
1.L1范數的觀測次數
我們只知道壓縮感知的核心在降維運算——使用盡可能少的探測維度探測高維度的信號,那么如果選擇L1范數法來恢復信號,要精確恢復稀疏信號x,觀測次數M至少為多少呢?
根據相關定理最小觀測次數M=O(k log?(N/k) )
?
2.信號重構算法
a.最小化L1范數算法—基追蹤算法(BP)
基追蹤問題是基于線性規劃的凸優化問題,追求全局最優,對噪聲抑制能力強但是計算量巨大。包括內點法,同倫算法等
b.貪婪類(匹配追蹤算法)
追求局部最優,計算速度較快
主要包括:匹配追蹤(MP),正交匹配追蹤(OMP),正則化正交匹配追蹤(ROMP),壓縮感知匹配追蹤(CoSaMP)
c.梯度類算法——二維稀疏圖像的重構
d.直接針對L0范數求解——迭代閾值算法
三:測量矩陣的設計
在壓縮感知中要想很好的恢復出稀疏信號,就需要測量矩陣的性能配合。不同的測量矩陣對于測量次數和恢復質量都會產生不同的影響。
那么測量矩陣到底需要具有什么樣的性質才能保證從觀測數據中準確重構信號呢?
最常用的一條就是滿足受限等距性質(RIP)
RIP性質定義:
如果存在常數δ_k∈[0,1)使得所有的向量x,‖x‖_0≤k都滿足:
(1-δ_k ) ‖x‖_2^2≤‖?x‖_2^2≤(1+δ_k ) ‖x‖_2^2
則矩陣?滿足K階RIP性質,簡記為RIP-(K,δ_k)
滿足K階RIP性質的矩陣隨機抽取其中K列,這些列之間是近似正交的。RIP常數δ_k越接近0,其任取k列所形成的子矩陣就越近于正交。
只有矩陣滿足RIP-(2K,√2-1),求解l1范數最小化問題就可以恢復所有的K-稀疏信號。
那么如何構造滿足RIP性質的矩陣呢?
1.隨機矩陣:Gaussian隨機矩陣和Bernoulli隨機矩陣
2.確定性矩陣——基于矩陣的列相干性
3.結構隨機矩陣
?
最近剛接觸壓縮感知領域,以上是梳理的關于壓縮感知的重要知識的學習筆記,以后應該還會進一步學習測量矩陣的設計和信號重構算法,新手啊難免有錯誤,歡迎大家指正,也非常歡迎與我交流壓縮感知的學習心得~~
?
總結
以上是生活随笔為你收集整理的压缩感知基本概括——三大基本问题的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 快速找到 Linux Kernel 中各
- 下一篇: R6025 - pure virtual