支持向量机核函数
當(dāng)我們要去判斷一個(gè)非線性的區(qū)域,我們會(huì)選擇用非線性
函數(shù)來(lái)擬合。
問(wèn)題是?能不能選擇別的特征變量?或者有沒(méi)有比這些高階項(xiàng)更好的特征變量?
因?yàn)?我們并不知道?這些高階項(xiàng)是不是我們真正需要的?我們之前談到?計(jì)算機(jī)
視覺(jué)的時(shí)候?提到過(guò)這時(shí)的輸入是一個(gè)有很多像素的圖像?我們看到如果用高階項(xiàng)
作為特征變量?運(yùn)算量將是非常大的?因?yàn)?有太多的高階項(xiàng)需要被計(jì)算?
?
構(gòu)建核函數(shù)(這里用高斯核函數(shù))
k(x,l(i))是高斯核函數(shù)的簡(jiǎn)寫(xiě)。
?
用高斯核函數(shù)來(lái)計(jì)算兩者的相似度:
?
?
通過(guò)計(jì)算我們能得到三個(gè)新的特征變量f1,f2,f3。
?
例子我們選一個(gè)l(1),得到他的高斯函數(shù)
下圖為他的三維坐標(biāo)圖,在(3,5)這點(diǎn)高斯函數(shù)的值為1.
?
二維圖:
?
σ取值對(duì)核函數(shù)的影響:
我們發(fā)現(xiàn)σ越小梯度越大,反之梯度越小。
?
通過(guò)轉(zhuǎn)換變量我們可以得到如下的預(yù)測(cè)函數(shù):
?
從哪里去得到l點(diǎn)
直接用訓(xùn)練樣本作為標(biāo)識(shí)點(diǎn)
?
計(jì)算相應(yīng)的新的特征值:
相應(yīng)的預(yù)測(cè)函數(shù)和代價(jià)函數(shù):
?
θTMθ為運(yùn)算技巧,對(duì)結(jié)果不會(huì)產(chǎn)生較大影響,會(huì)提高運(yùn)算速度。
?
核函數(shù)的偏差和方差:
?
轉(zhuǎn)載于:https://www.cnblogs.com/zhengzhe/p/7411072.html
總結(jié)
- 上一篇: 链家秋招内推编程笔试题目
- 下一篇: 神在夏至祭降下了神谕(oracle)