MSE、MAE等误差计算方法学习
轉自:http://blog.sina.com.cn/s/blog_628033fa0100kjjy.html
1.常見誤差計算方法:
SSE(和方差、誤差平方和):The sum of squares due to error
MSE(均方差、方差):Mean squared error
RMSE(均方根、標準差):Root mean squared error
R-square(確定系數):Coefficient of determination
Adjusted R-square:Degree-of-freedom adjusted coefficient of determination
一、SSE(和方差)
該統計參數計算的是擬合數據和原始數據對應點的誤差的平方和,計算公式如下
二、MSE(均方差)
該統計參數是預測數據和原始數據對應點誤差的平方和的均值,也就是SSE/n,和SSE沒有太大的區別,計算公式如下
三、RMSE(均方根)
該統計參數,也叫回歸系統的擬合標準差,是MSE的平方根,計算公式如下
在這之前,我們所有的誤差參數都是基于預測值(y_hat)和原始值(y)之間的誤差(即點對點)。
從下面開始是所有的誤差都是相對原始數據平均值(y_ba)而展開的(即點對全)!!!
四、R-square(確定系數)
在講確定系數之前,我們需要介紹另外兩個參數SSR和SST,因為確定系數就是由它們兩個決定的:
(1)SSR:Sum of squares of the regression,即預測數據與原始數據均值之差的平方和,公式如下
(2)SST:Total sum of squares,即原始數據和均值之差的平方和,公式如下
“確定系數”是定義為SSR和SST的比值,故
“確定系數”是通過數據的變化來表征一個擬合的好壞。由上面的表達式可以知道“確定系數”的正常取值范圍為[0 1],越接近1,表明方程的變量對y的解釋能力越強,這個模型對數據擬合的也較好。
2020-12-26更新————————
2.MAE
https://blog.csdn.net/capecape/article/details/78623897
Mean Absolute Error ,平均絕對誤差
是絕對誤差的平均值
能更好地反映預測值誤差的實際情況.
3.RMSE和MAE比較
RMSE也就是第二范數,MAE是第一范數,范數的計算公式:
k越大,即指數越大,對異常值(較大的值)越敏感,RMSE相較于MAE更敏感;
但當異常值少時,符合正態分布,RMSE就表現更好了。
4.MSE到底有沒有根號??
https://discuss.pytorch.org/t/how-is-the-mseloss-implemented/12972
torch在實現時非常簡單,就是((input-target)**2).mean(),平方然后均值這個樣子。
https://blog.csdn.net/xiaowei_cqu/article/details/9004193(待看)
天啦,一直都沒有,是我記錯了。。那個根號應該是針對L2距離(也就是L2范數)的,就是歐幾里得距離,而不是MSE
但是這個均值,我還是有問題,為什么不是針對樣本,而是針對每個值呢?我明白了,你最后獲得這個不也是得需要/len(x)的嘛,也就是針對每個樣本的損失了~~~.mean()算是針對每個特征的損失了。
總結
以上是生活随笔為你收集整理的MSE、MAE等误差计算方法学习的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 简单的英文情侣网名128个
- 下一篇: 天门山在哪里