验证集精度高于训练集精度的原因分析
生活随笔
收集整理的這篇文章主要介紹了
验证集精度高于训练集精度的原因分析
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
- 🔗 運行環境:python3
- 🚩 作者:K同學啊
- 🥇 精選專欄:《深度學習100例》
- 🔥 選自專欄:《新手入門深度學習》
- 📚 推薦專欄:《Matplotlib教程》
- 🧿 優秀專欄:《Python入門100題》
-
數據集太小的話,如果數據集切分的不均勻,或者說訓練集和測試集的分布不均勻
-
訓練集的數據做了一系列的增廣,如旋轉,仿射,模糊,添加噪點等操作;過多的增廣使得訓練集分布產生了變化。
-
模型正則化過多,比如訓練時dropout過多,和驗證時的模型相差較大,驗證時是不會有dropout的。
-
訓練的精度是每個batch產生的,而驗證的精度一般是一個epoch后產生的,驗證時的模型是訓練一個個batch之后的,有一個的滯后性;可以說訓練得差不多的模型用來驗證,當然精度要高一點。
總結
以上是生活随笔為你收集整理的验证集精度高于训练集精度的原因分析的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: PMP、软考高项考后总结
- 下一篇: 随机微分方程学习笔记04 Ito公式