什么是无监督学习(监督学习,半监督学习,无监督聚类)?
鏈接:https://www.zhihu.com/question/23194489/answer/25028661
來源:知乎
著作權(quán)歸作者所有。商業(yè)轉(zhuǎn)載請聯(lián)系作者獲得授權(quán),非商業(yè)轉(zhuǎn)載請注明出處。
這個(gè)問題可以回答得很簡單:是否有監(jiān)督(supervised),就看輸入數(shù)據(jù)是否有標(biāo)簽(label)。輸入數(shù)據(jù)有標(biāo)簽,則為有監(jiān)督學(xué)習(xí),沒標(biāo)簽則為無監(jiān)督學(xué)習(xí)。
但根據(jù)知乎慣例,答案還是要繼續(xù)擴(kuò)展的。
首先看什么是學(xué)習(xí)(learning)?一個(gè)成語就可概括:舉一反三。此處以高考為例,高考的題目在上考場前我們未必做過,但在高中三年我們做過很多很多題目,懂解題方法,因此考場上面對陌生問題也可以算出答案。機(jī)器學(xué)習(xí)的思路也類似:我們能不能利用一些訓(xùn)練數(shù)據(jù)(已經(jīng)做過的題),使機(jī)器能夠利用它們(解題方法)分析未知數(shù)據(jù)(高考的題目)?
最簡單也最普遍的一類機(jī)器學(xué)習(xí)算法就是分類(classification)。對于分類,輸入的訓(xùn)練數(shù)據(jù)有特征(feature),有標(biāo)簽(label)。所謂的學(xué)習(xí),其本質(zhì)就是找到特征和標(biāo)簽間的關(guān)系(mapping)。這樣當(dāng)有特征而無標(biāo)簽的未知數(shù)據(jù)輸入時(shí),我們就可以通過已有的關(guān)系得到未知數(shù)據(jù)標(biāo)簽。
在上述的分類過程中,如果所有訓(xùn)練數(shù)據(jù)都有標(biāo)簽,則為有監(jiān)督學(xué)習(xí)(supervised learning)。如果數(shù)據(jù)沒有標(biāo)簽,顯然就是無監(jiān)督學(xué)習(xí)(unsupervised learning)了,也即聚類(clustering)。
目前分類算法的效果還是不錯(cuò)的,但相對來講,聚類算法就有些慘不忍睹了。確實(shí),無監(jiān)督學(xué)習(xí)本身的特點(diǎn)使其難以得到如分類一樣近乎完美的結(jié)果。這也正如我們在高中做題,答案(標(biāo)簽)是非常重要的,假設(shè)兩個(gè)完全相同的人進(jìn)入高中,一個(gè)正常學(xué)習(xí),另一人做的所有題目都沒有答案,那么想必第一個(gè)人高考會(huì)發(fā)揮更好,第二個(gè)人會(huì)發(fā)瘋。
這時(shí)各位可能要問,既然分類如此之好,聚類如此之不靠譜,那為何我們還可以容忍聚類的存在?因?yàn)樵趯?shí)際應(yīng)用中,標(biāo)簽的獲取常常需要極大的人工工作量,有時(shí)甚至非常困難。例如在自然語言處理(NLP)中,Penn Chinese Treebank在2年里只完成了4000句話的標(biāo)簽……<img src="https://pic1.zhimg.com/4b92820e4df9ab2ed4d56243d981cdcc_b.jpg" data-rawwidth="302" data-rawheight="237" class="content_image" width="302">
這時(shí)有人可能會(huì)想,難道有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)就是非黑即白的關(guān)系嗎?有沒有灰呢?Good idea。灰是存在的。二者的中間帶就是半監(jiān)督學(xué)習(xí)(semi-supervised learning)。對于半監(jiān)督學(xué)習(xí),其訓(xùn)練數(shù)據(jù)的一部分是有標(biāo)簽的,另一部分沒有標(biāo)簽,而沒標(biāo)簽數(shù)據(jù)的數(shù)量常常極大于有標(biāo)簽數(shù)據(jù)數(shù)量(這也是符合現(xiàn)實(shí)情況的)。隱藏在半監(jiān)督學(xué)習(xí)下的基本規(guī)律在于:數(shù)據(jù)的分布必然不是完全隨機(jī)的,通過一些有標(biāo)簽數(shù)據(jù)的局部特征,以及更多沒標(biāo)簽數(shù)據(jù)的整體分布,就可以得到可以接受甚至是非常好的分類結(jié)果。(此處大量忽略細(xì)節(jié))
因此,learning家族的整體構(gòu)造是這樣的:
有監(jiān)督學(xué)習(xí)(分類,回歸)
?
半監(jiān)督學(xué)習(xí)(分類,回歸),transductive learning(分類,回歸)
?
半監(jiān)督聚類(有標(biāo)簽數(shù)據(jù)的標(biāo)簽不是確定的,類似于:肯定不是xxx,很可能是yyy)
?
無監(jiān)督學(xué)習(xí)(聚類)
[1] 各種教材
[2] Semi-Supervised Learning Tutorial, http://pages.cs.wisc.edu/~jerryzhu/pub/sslicml07.pdf?
總結(jié)
以上是生活随笔為你收集整理的什么是无监督学习(监督学习,半监督学习,无监督聚类)?的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 哪个牌子的揉面垫好
- 下一篇: 如何查阅相关工作所用到的文献资料