全连接神经网络的两大缺陷
生活随笔
收集整理的這篇文章主要介紹了
全连接神经网络的两大缺陷
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
全連接神經網絡的兩大缺陷:
(1)在原理方面上:BP神經網絡仍然是有監督的傳統機器學習方法
根據上圖可知,網絡對原圖進行特征提取和分類,最后由人工標注好的標簽判斷原圖中是否存在貓。
(2)在結構方面上:參數居多,容易丟失空間信息
如果一個隱藏層特征圖像大小為100×100,輸入層的特征圖像大小為100×100,這意味著學習這一層需要100×100×100×100參數。如果以32位的浮點數進行存儲,就需要4×10^8的字節的存儲量,約等于400MB的參數量。僅僅這樣的一個網絡層,其模型參數量已經超過了AlexNet網絡的參數量,而100×100的特征圖像分辨率,已經低于很多任務能夠成功解決的下限。除了計算過程中需要存儲的海量的參數,還有海量的計算,這些都超過了當時硬件的能力,因此大大限制了網絡的大小,尤其是對于一些大的圖像輸入。
參考鏈接:https://tianchi.aliyun.com/course/311/3558
總結
以上是生活随笔為你收集整理的全连接神经网络的两大缺陷的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 计算机网口百兆改千兆,如何将电脑百兆网卡
- 下一篇: DSA与RSA