系列笔记 | 深度学习连载(6):卷积神经网络基础
點擊上方“AI有道”,選擇“星標”公眾號
重磅干貨,第一時間送達
卷積神經網絡其實早在80年代,就被神經網絡泰斗Lecun 提出[LeNet-5, LeCun 1980],但是由于當時的數據量、計算力等問題,沒有得到廣泛使用。
卷積神經網絡的靈感來自50年代的諾貝爾生物學獎。Hubel & Wiesel, 1959,貓負責視覺的大腦區域,對于細小的線段感興趣(而不是魚),這個區域離眼睛遠(而不是近)。
1.卷積層 Convolutional Layer
卷積層中有filter,在image空間中不斷滑動,進行點乘dot
filter 的dot的結果是一個數值,經過滑動dot,就會形成一個比原先照片小的層,厚度為1
filter可以有很多個,我們以6個filter為例
2.卷積過程 Convolutional Process
卷積的過程,就是一系列的卷積層的組合:
每一層提取的feature 從low lever,mid level,high level 到可以分類的級別
這里是一個圖片分類的過程:
3.卷積計算 Convolutional Compute
(1)activation map 大小的計算 以7*7大小的圖片為例
(2)zero padding
zero padding 可以保持圖片卷積后的大小
(3)計算
舉例:輸入圖片是32x32x3 有10個5x5的filter ,stride 是1 ,pad 2
輸出的大小? 參數的多少?
Output volume size: (32+2*2-5)/1+1 = 32 spatially, so 32x32x10
Number of parameters in this layer? each filter has 553 + 1 = 76 params => 76*10 = 760
(4)總結
本專欄圖片、公式很多來自臺灣大學李弘毅老師、斯坦福大學cs229、cs231n 、斯坦福大學cs224n課程。在這里,感謝這些經典課程,向他們致敬!
作者簡介:武強 蘭州大學博士,谷歌全球開發專家Google Develop Expert(GDE Machine Learing 方向)?
CSDN:https://me.csdn.net/dukuku5038?
知乎:https://www.zhihu.com/people/Dr.Wu/activities?
漫畫人工智能公眾號:DayuAI-Founder
系列筆記:?
系列筆記 | 深度學習連載(1):神經網絡
系列筆記 | 深度學習連載(2):梯度下降
系列筆記 | 深度學習連載(3):反向傳播
系列筆記 | 深度學習連載(4):優化技巧(上)
系列筆記 | 深度學習連載(5):優化技巧(下)
總結
以上是生活随笔為你收集整理的系列笔记 | 深度学习连载(6):卷积神经网络基础的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python:栈的理解与应用,让你快速入
- 下一篇: Python用户界面编程PyQt5的四种