目錄

• 偏差和方差
• 過(guò)擬合
• • 原因
  • 解決辦法
• 欠擬合
• • 原因
  • 解決辦法

偏差和方差

偏差用來(lái)描述模型輸出結(jié)果的期望和樣本真實(shí)結(jié)果的差距。
方差用來(lái)描述模型對(duì)于給定值的輸出穩(wěn)定性。
具體的可以看下圖：

過(guò)擬合指的就是高方差，欠擬合則是高偏差。

過(guò)擬合

原因

模型的復(fù)雜度（維度）過(guò)高。

模型擬合了數(shù)據(jù)集中的噪聲。

數(shù)據(jù)集太小，無(wú)法了解其真實(shí)分布。

模型的迭代次數(shù)過(guò)多。

解決辦法

增加訓(xùn)練數(shù)據(jù)，做數(shù)據(jù)增強(qiáng)。

降低模型復(fù)雜度。

減少特征數(shù)。

添加正則化約束。

使用BN。

使用DropOut

提前結(jié)束訓(xùn)練。

欠擬合

原因

模型沒(méi)有很好地捕捉到數(shù)據(jù)特征，不能很好地?cái)M合數(shù)據(jù)。

解決辦法

提高模型復(fù)雜度。

增加更多的特征。

降低正則化約束。

總結(jié)

以上是生活随笔為你收集整理的过拟合、欠拟合的原因和解决办法的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。