DL之Xception:Xception算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略
DL之Xception:Xception算法的簡介(論文介紹)、架構詳解、案例應用等配圖集合之詳細攻略
?
?
目錄
Xception算法的簡介(論文介紹)
1、論文使用的數據集
Xception算法的架構詳解
Xception算法的案例應用
?
?
?
?
?
?
?
相關文章
DL之Xception:Xception算法的簡介(論文介紹)、架構詳解、案例應用等配圖集合之詳細攻略
DL之Xception:Xception算法的架構詳解
?
Xception算法的簡介(論文介紹)
? ? ? Xception即Extreme version of Inception。Xception是google繼Inception后提出的對InceptionV3的另一種改進,主要是采用深度可分離卷積(depthwiseseparable convolution)來替換原來InceptionV3中的卷積操作。在基本不增加網絡復雜度的前提下提高了模型的效果。但網絡復雜度沒有大幅降低。原因是作者加寬了網絡,使得參數數量和Inception v3差不多。因此Xception主要目的不在于模型壓縮,而是提高性能。
?
Abstract ?
? ? ?We present an interpretation of Inception modules in convolutional ?neural networks as being an intermediate step ?in-between regular convolution and the depthwise separable ?convolution operation (a depthwise convolution followed by ?a pointwise convolution). In this light, a depthwise separable ?convolution can be understood as an Inception module with ?a maximally large number of towers. This observation leads ?us to propose a novel deep convolutional neural network ?architecture inspired by Inception, where Inception modules ?have been replaced with depthwise separable convolutions. ?We show that this architecture, dubbed Xception, slightly ?outperforms Inception V3 on the ImageNet dataset (which ?Inception V3 was designed for), and significantly outperforms ?Inception V3 on a larger image classification dataset ?comprising 350 million images and 17,000 classes. Since ?the Xception architecture has the same number of parameters ?as Inception V3, the performance gains are not due ?to increased capacity but rather to a more efficient use of ?model parameters.
摘要
? ? ?我們將卷積神經網絡中的Inception 模塊解釋為正規化卷積和深度可分離卷積操作(深度卷積之后是點卷積)之間的中間步驟。從這個意義上講,深度可分離卷積可以理解為一個具有最大數量towers的Inception 模塊。基于此,我們提出了一種新穎的深度卷積神經網絡結構,該結構受到Inception的啟發,Inception模塊被深度可分卷積所取代。我們展示了這個被稱為Xception的架構,它在ImageNet數據集上稍微優于Inception V3 (Inception V3是為ImageNet數據集設計的),并且在包含3.5億張圖像和17,000個類的更大的圖像分類數據集上顯著優于Inception V3。由于Xception體系結構具有與Inception V3相同的參數數量,所以性能的提高不是由于容量的增加,而是由于更有效地使用了模型參數。
Conclusions ?
? ? ?We showed how convolutions and depthwise separable ?convolutions lie at both extremes of a discrete spectrum, ?with Inception modules being an intermediate point in between. ?This observation has led to us to propose replacing ?Inception modules with depthwise separable convolutions in ?neural computer vision architectures. We presented a novel ?architecture based on this idea, named Xception, which has ?a similar parameter count as Inception V3. Compared to ?Inception V3, Xception shows small gains in classification ?performance on the ImageNet dataset and large gains on the ?JFT dataset. We expect depthwise separable convolutions ?to become a cornerstone of convolutional neural network ?architecture design in the future, since they offer similar ?properties as Inception modules, yet are as easy to use as ?regular convolution layers.
結論
? ? ?我們展示了卷積和深度可分離卷積如何位于離散譜的兩個極端,Inception 模塊是兩者之間的一個中間點。這一發現促使我們提出在神經計算機視覺結構中,用深度可分卷積代替Inception 模塊。我們提出了一個基于這種思想的新架構,名為Xception,它的參數計數與Inception V3類似。與Inception V3相比,Xception在ImageNet數據集的分類性能上有小的提升,而在JFT數據集上則有大的提升。我們期望深度可分卷積在未來成為卷積神經網絡架構設計的基石,因為它們提供了與Inception 模塊類似的特性,但與常規卷積層一樣易于使用。
?
1、Xception架構
- Xception架構,是具有殘差連接的深度可分離卷積層的線性堆疊。
- SeparableConv,是修改后的深度可分離卷積。
?
?
1、論文使用的數據集
Dataset之JFT:JFT/FastEval14k數據集的簡介、下載、案例應用之詳細攻略
? ? ? ?為了評估在JFT上訓練的模型的性能,Xception算法的作者使用輔助數據集FastEval14k。FastEval14k是一個包含14,000個圖像的數據集,具有約6,000個類別的密集標注(平均每個圖像36.5個標簽)。在這個數據集上,使用平均精度對前100個預測(MAP @ 100)評估性能,并且將每個類別對MAP @ 100的貢獻加權,并評估該類別在社交媒體圖像中的常見性(因此也很重要)。
? ? ? ?此評估過程旨在捕獲社交媒體上頻繁出現的標簽的性能,這對Google的生產模型至關重要。
?
?
論文
Fran?ois Chollet.
Xception: Deep Learning with DepthwiseSeparable Convolutions, CVPR 2017.
https://arxiv.org/abs/1610.02357
?
?
Xception算法的架構詳解
DL之Xception:Xception算法的架構詳解
?
?
?
?
?
?
Xception算法的案例應用
后期更新……
1、DeepLabv3+采用修改的Xception架構
DL之DeepLabv3:DeepLab v3和DeepLabv3+算法的架構詳解
?
?
?
?
?
?
?
?
?
?
更多內容參考博客搭積木般構建深度學習網絡——Xception完整代碼解析
深度學習之基礎模型-Xception
總結
以上是生活随笔為你收集整理的DL之Xception:Xception算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: DL之NIN:Network in Ne
- 下一篇: Python语言学习之文件格式后缀那些事