深度学习100例-卷积神经网络(LeNet-5)深度学习里的“Hello Word” | 第22天
生活随笔
收集整理的這篇文章主要介紹了
深度学习100例-卷积神经网络(LeNet-5)深度学习里的“Hello Word” | 第22天
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
大家好,我是「K同學啊 」!
前幾天翻譯了一篇講十大CNN結構的文章(「多圖」圖解10大CNN架構),原作者思路十分清晰,從時間線上,將近年來CNN發展過程中一些比較重要的網絡模型做了一一介紹。我發現其中好像有幾個網絡模型并沒有在《深度學習100例》出現,接下一段時間我將圍繞這些網絡模型進行實戰講解。
在90年代,由于支持向量機(Support Vecotr Machine,SVM)等算法的發展,深度學習的發展受到了很大的阻礙(盡管Geoffery Hinton在1986年發明的BP算法(Backpropagation)解決了神經網絡的非線性分類學習的問題,但梯度消失的問題沒有得到很好的解決)。但Yann LeCun等人堅持不懈,依然在該領域苦苦研究。1998年,Yann LeCun提出了LeNet-5網絡。LeNet-5被譽為是卷積神經網絡的“Hello Word”,足以見其重要性。
LeNet-5 是最簡單的架構之一。它有 2 個卷積層和 3 個全連接層(LeNet-5 中的“5”——神經網絡的名稱通常來自于它們所具有的卷積層和全連接層的數量)。我們現在所知道的平均池化層被稱為子采樣層,它具有可訓練的權重。這個架構有大約60,000 個參數。
??刊物</
總結
以上是生活随笔為你收集整理的深度学习100例-卷积神经网络(LeNet-5)深度学习里的“Hello Word” | 第22天的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: AI算法又整新活,去海边跳一支舞!
- 下一篇: 二十万字!耗时90天