IGARSS2017_SSRN 读后感DEEP RESIDUAL NETWORKS FOR HYPERSPECTRAL IMAGE CLASSIFICATION
全文都在和CNN作比較
最強(qiáng)優(yōu)點(diǎn)魯棒性
v?Challenge:首先,Hughes現(xiàn)象是指隨著訓(xùn)練數(shù)據(jù)維數(shù)的增加,識別準(zhǔn)確率急劇下降,來自數(shù)百個頻譜帶[2]。 其次,它們的高空間分辨率使得小物體的識別成為可能,但增加了相鄰像素之間的高相關(guān)性。
v?3DCNN模型的分類精度隨層數(shù)的增加而減小。 DL模型最近的應(yīng)用表明,利用模型學(xué)習(xí)的特征而不是手工特征來分析HSI是一種新的趨勢。
v?Res網(wǎng)絡(luò)緩解了精度下降的影響,并取得了很好的分類性能,為每兩個卷積層添加身份映射到卷積神經(jīng)網(wǎng)絡(luò)來構(gòu)建深度殘差網(wǎng)絡(luò),卷積層可以如下制定。
??????????????????????
???????????????????????
在等式(1)中,Hk表示模型中第k層的輸出,Fk是第k卷積濾波器組,bk表示第k層的偏差,G是整形線性單元(Re LU)。給定足夠的標(biāo)記數(shù)據(jù),CNN可以產(chǎn)生比傳統(tǒng)的機(jī)器學(xué)習(xí)方法更準(zhǔn)確的分類結(jié)果。
v?批量標(biāo)準(zhǔn)化定義如下。
????????????
在等式(2)中,X表示特征批X的第i維,E表示期望值,VAR表示特征的方差。維度降低(DR)在HSI可視化和分類中起著重要的作用[11]。
v?在相似樣本上構(gòu)建概率分布并保留高維數(shù)據(jù)的局部結(jié)構(gòu)的t-SNE是一種將HSI數(shù)據(jù)嵌入到低維空間的降維方法。每次迭代的t-SNE結(jié)果通過Kullback-Leibler(KL)發(fā)散的最小化來執(zhí)行,其可以寫為如下。
??????
在等式(3)式中,P表示第i個樣本和第j個樣本的相似度,q表示投影特征空間中的相應(yīng)相似度。
v?殘差網(wǎng)絡(luò)可以如下表示。
??????????
在等式 (4)中,Xk是第k個單元的輸出,Wk是殘差結(jié)構(gòu)的參數(shù)。 堆疊的非線性層旨在構(gòu)造函數(shù)F(Xk,Wk)而不是直接映射期望的Xk + 1。 與CNN相比,深度剩余網(wǎng)絡(luò)1)更易于優(yōu)化; 2)有更多的代表能力; 3)更深層次的識別精度更高。
v?在不同數(shù)量的卷積核和不同層次的HSN分類中的CNN參數(shù)。受啟發(fā)[12],我們采用改進(jìn)的殘差網(wǎng)絡(luò)進(jìn)行HSI分類。 Tabel I顯示Res Nets和CNNs,其內(nèi)核數(shù)為{8,16,24,32,40},神經(jīng)層數(shù)量為{4,6,8,10}。所有深度學(xué)習(xí)模型的輸入數(shù)據(jù)是7×7×b HSI量,其中b是band number。
v?具有正則化方法的深度學(xué)習(xí)模型一致地產(chǎn)生比原始模型更高的分類準(zhǔn)確性。
v?梯度消失Although ?this ?phenomenon ?still ?exists ?in Res Net ?models, ?the ?classification ?accuracies ?of ?which ?are more robust than their CNN counterparts.
v?The classification maps of Res Nets in both datasets are much smoother than those of CNNs. ?
v?t-SNE(t-distributed stochastic neighbor embedding)是用于降維的一種機(jī)器學(xué)習(xí)算法,是由 Laurens van der Maaten 和 Geoffrey Hinton在08年提出來。此外,t-SNE 是一種非線性降維算法,非常適用于高維數(shù)據(jù)降維到2維或者3維,進(jìn)行可視化。?????t-SNE是由SNE(Stochastic Neighbor Embedding, SNE; Hinton and Roweis, 2002)發(fā)展而來。
?
總結(jié)
以上是生活随笔為你收集整理的IGARSS2017_SSRN 读后感DEEP RESIDUAL NETWORKS FOR HYPERSPECTRAL IMAGE CLASSIFICATION的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 光耦基本知识
- 下一篇: go.php跳转外部浏览器,Go调用浏览