?

目錄

一、欠擬合

?二、過擬合

三、模型分析?

四、正則化

4-1、L2正則化

4-2、L1正則化

---

一、欠擬合

機器學習的特征過少，導致預測不準確。（訓練集和測試集表現都不好）

解決方法：增加數據的特征數量。

?二、過擬合

機器學習的特征過多，導致預測錯誤。 （訓練集表現很好，但測試集表現不好）

解決方法：

三、模型分析?

左邊模型過于簡單，擬合情況比較糟糕。（欠擬合）

中間的模型既不簡單，也不復雜，比較理想。

右邊模型過于復雜，泛化性不好，主要影響來自于高次項，如果能減小高次項的影響，就可以用該模型。（減小高次項權重：正則化）（過擬合）

四、正則化

4-1、L2正則化

作用：使一些參數減小（趨近于0），削弱某個特征的影響。

優點：越小的參數模型越簡單，越簡單的模型越不容易產生過擬合。

?損失函數：

?：懲罰項（權重乘方）?，讓權重系數變小。（減小了高次項的影響）

代表：嶺回歸。

4-2、L1正則化

作用：使得一些w的值直接為0，刪除某個特征的影響。

代表：LASSO回歸。

總結

以上是生活随笔為你收集整理的机器学习（12）欠拟合过拟合、模型分析与正则化的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。