DL之CNN優(yōu)化技術：學習卷積神經網絡CNN的優(yōu)化、調參實踐、從代碼深刻認知CNN架構之練習技巧

?

?

?

?

目錄

卷積神經網絡CNN調參學習實踐

練習技巧

1、練習攻略一

2、VGG16練習攻略二

---

?

?

?

?

?

?

卷積神經網絡CNN調參學習實踐

DL之CNN：利用卷積神經網絡算法(2→2,基于Keras的API-Functional)利用MNIST(手寫數字圖片識別)數據集實現多分類預測
DL之CNN：利用卷積神經網絡算法(2→2,基于Keras的API-Sequential)利用MNIST(手寫數字圖片識別)數據集實現多分類預測

?

?

?

?

?

?

?

?

?

練習技巧

1、練習攻略一

訓練更多的epochs，看看這會不會提升分類的準確率？

嘗試把一些層的把激活函數，改成sigmoid。

你能找到一種簡單的方法來改變所有層的激活函數嗎？

畫出最大池化層的輸出，來替代卷積層的輸出。

在卷積層中用stride=2的卷積來替代2X2 max-pooling，分類精度有差異嗎？如果你一次又一次地優(yōu)化它呢？差異是任意變化的，你又要如何去衡量這個差異？在卷積層中用max-pooling比較stride有什么優(yōu)缺點？

改變層的參數，如內核、深度、大小等。使用的實踐和分類精度有什么差異？

增加或移除一些卷積層或全連接層。

你能在保持結果好的同時設計出更簡單的網絡嗎？

修改函數式模型，增加另一個卷積層與全連接層之前的卷積層相連。

修改函數式模型，讓它同時輸出預測類別的獨熱編碼數組和整數形式的結果，這樣我們之后就不需要再使用numpy.argmax()。

不看源碼，自己重寫程序。

向朋友解釋程序是如何工作的。

?

2、VGG16練習攻略二

• 嘗試使用VGG16模型的其它層來作為傳輸層。它如何影響訓練和分類的準確性？
• 改變我們添加的新的分類層。你能通過增加或減少全連接層的節(jié)點數量來提高分類精度嗎？
• 如果你在新的分類器中移除隨機失活層會發(fā)生什么？
• 改變遷移學習和微調時的學習率。
• 嘗試微調整個VGG16模型。它如何影響訓練和測試集的分類精度？為什么?
• 試著從一開始就進行微調，這樣新的分類層就會和VGG16模型的所有卷積層一起開始訓練。您可能需要降低優(yōu)化器的學習速度。
• 給測試集和訓練集添加一些圖像。這樣能使性能提升嗎？
• 嘗試刪除一些刀和湯匙的圖像，使所有類別的圖像數目相等。這是否改善了混淆矩陣中的數字？
• Use another dataset.
• 使用另一個數據集。
• 使用Keras中另一個預訓練模型。
• 向朋友解釋程序如何工作。

?

?

?

?

?

?

?

?

總結

以上是生活随笔為你收集整理的DL之CNN优化技术：学习卷积神经网络CNN的优化、实践经验(练习调参)、从代码深刻认知CNN架构之练习技巧的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。