均方误差、平方差、方差、均方差、协方差(重点)
一,均方誤差?
作為機(jī)器學(xué)習(xí)中常常用于損失函數(shù)的方法,均方誤差頻繁的出現(xiàn)在機(jī)器學(xué)習(xí)的各種算法中,但是由于是舶來(lái)品,又和其他的幾個(gè)概念特別像,所以常常在跟他人描述的時(shí)候說(shuō)成其他方法的名字。?
均方誤差的數(shù)學(xué)表達(dá)為:?
?
如上圖所示,通過(guò)計(jì)算每個(gè)預(yù)測(cè)值和實(shí)際值之間的差值的平方和再求平均,機(jī)器學(xué)習(xí)中它經(jīng)常被用于表示預(yù)測(cè)值和實(shí)際值相差的程度。?
二,平方差?
平方差的定義很簡(jiǎn)單,顧名思義就是兩個(gè)數(shù)先做平方然后再求差值:?
?
三,方差以及期望?
方差是在概率論和統(tǒng)計(jì)方差衡量隨機(jī)變量或一組數(shù)據(jù)時(shí)離散程度的度量。概率論中方差用來(lái)度量隨機(jī)變量和其數(shù)學(xué)期望(即均值)之間的偏離程度。其數(shù)學(xué)公式為:?
其中D(X)表示數(shù)據(jù)集X的方差,表示集合D的數(shù)學(xué)期望(即均值):
四,標(biāo)準(zhǔn)差(均方差)?
對(duì)方差開(kāi)平方就是均方差,而均方差又稱(chēng)標(biāo)準(zhǔn)差,即:?
?
發(fā)現(xiàn)沒(méi)有,方差與我們要處理的數(shù)據(jù)的量綱是不一致的,雖然能很好的描述數(shù)據(jù)與均值的偏離程度,但是處理結(jié)果是不符合我們的直觀(guān)思維的。?
舉個(gè)例子:比如一個(gè)班男生的平均身高是170cm,標(biāo)準(zhǔn)差是10cm,那么方差就是100cm^2。可以進(jìn)行的比較簡(jiǎn)便的描述是本班男生身高分布是170±10cm,方差就無(wú)法做到這點(diǎn)。
五,協(xié)方差?
協(xié)方差:如果隨機(jī)變量X和Y的方差DX>0,DY>0成立,則稱(chēng)E[(X-EX)(Y-EY)]為隨機(jī)變量X與Y的協(xié)方差,記為Cov(X,Y),即:?
Cov(X,Y)=E[(X-EX)(Y-EY)]=E(XY)-EX*EY?
其中:?
?
可見(jiàn)協(xié)方差的本質(zhì)上是一個(gè)期望。?
稱(chēng)為隨機(jī)變量X,Y的相關(guān)系數(shù),若=0 則稱(chēng)X與Y是不相關(guān)的,若則表示X,Y有相關(guān)性。?
COV(X,Y)是描述隨機(jī)變量X與Y之間偏差關(guān)聯(lián)程度的,比如研究父親身高X與孩子身高Y之間的關(guān)系。
來(lái)源:https://blog.csdn.net/u010312937/article/details/78681457
總結(jié)
以上是生活随笔為你收集整理的均方误差、平方差、方差、均方差、协方差(重点)的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 花呗出账单后还能分期还款吗
- 下一篇: 交通银行分期费率0.35%