VC维理论
在看SVM原理時看到VC維理論,看了下視頻才了解了原理,貼上原視頻地址:http://open.163.com/movie/2008/1/U/O/M6SGF6VB4_M6SGJURUO.html
原理如下,我自己總結的,如有錯誤請指出~~
以二分類為例:
存在一個函數集H(二分類集),存在一個含有d個目標的集合,每個目標有兩種標記方式(正負兩種,這里設的是二分類),那么這d個目標的標記方式就有2^d種,對于函數集H,存在一個函數能夠實現對這2^d種正確分類,那么就說這個集合能被H分散,vc維即是這個分類器能分類的最大集合數,比如二分類的分類器,最多能分類3個目標,則稱二分類的vc維是3.
比如H是二分類器,目標分類是3,如下圖,
3個目標的標記方法有8種,如下:
每一種標記都能找到一個二分類器將其準確分類,比如:
但是當有4個點的時候,不能找到一個萬能的二分類器將4個點的所有可能標記都完全分開,比如下圖:
二分類器都是線性分,不能實現上述的分類圖形,所以二分類的vc維是3。
多維的以此類推。
總結
- 上一篇: php 页面加载进度条,HTML5/CS
- 下一篇: python3 while循环语句_py