kernel method是針對(duì)低維線性不可分而提出的一種解決方法，在PRML中有一章節(jié)的介紹，對(duì)其理解，也是迭代更進(jìn)的過(guò)程。

簡(jiǎn)單來(lái)說(shuō)，kernel method是一種低維和高維特征空間映射的方法，利用低維內(nèi)積的函數(shù)來(lái)表征高維內(nèi)積，即高維的內(nèi)積用低維內(nèi)積的函數(shù)來(lái)表示，這個(gè)低維內(nèi)積的函數(shù)就是kernel function。

1、首先，說(shuō)明kernel method的示例？

1）問(wèn)題提出：

將二維線性不可分映射到三維，就可以實(shí)現(xiàn)超平面的線性可分。

2）如何映射呢？

利用原空間中的已知信息來(lái)計(jì)算新空間中的內(nèi)積，新空間是高維，直接計(jì)算內(nèi)積運(yùn)算量大，而通過(guò)原空間低維的內(nèi)積函數(shù)運(yùn)算則可避免這一問(wèn)題，同時(shí)又能起到高維線性可分下的內(nèi)積效果。

3）內(nèi)積是一種相似性度量（正交的，內(nèi)積為零），如此，可定義內(nèi)積函數(shù)為：

通過(guò)核函數(shù)，可實(shí)現(xiàn)：

2、其次，我們說(shuō)怎么樣的內(nèi)積函數(shù)符合核函數(shù)要求？

Mercer定理，任何半正定的函數(shù)都可以作為核函數(shù)。

其論證過(guò)程，包括內(nèi)積矩陣，待進(jìn)一步學(xué)習(xí)。

3、目前核函數(shù)有哪些？

徑向基和高斯核是比較常用的，至于高斯核可以映射到無(wú)限維這個(gè)推理也有待進(jìn)一步看相關(guān)資料。

4、關(guān)于DL和Kernel的思考

DL在高維、非線性上是很好的模型，而kernel漸漸被冷落，其原因是否還在于kernel核函數(shù)的普適性以及高維計(jì)算的問(wèn)題，這個(gè)困惑有待進(jìn)一步求索。

圖片參考：https://blog.csdn.net/baimafujinji/article/details/79372911

?

總結(jié)

以上是生活随笔為你收集整理的Kernel Method的理解的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。