本節(jié)目錄：

無監(jiān)督學(xué)習(xí)

K-均值聚類

優(yōu)化目標(biāo)

隨機初始化

選擇聚類樹

1 無監(jiān)督學(xué)習(xí)
無監(jiān)督學(xué)習(xí)，即讓計算機學(xué)習(xí)無標(biāo)簽數(shù)據(jù)。

上邊的一系列點，沒有任何標(biāo)簽信息，我們需要的是找到一個算法，讓它為我們找找這個數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，以上圖數(shù)據(jù)為例，也就是把他們分成兩個分開的點集。
這個能夠找到圈出這些點集的算法 就是聚類算法。
無監(jiān)督學(xué)習(xí)算法用于市場分割、社交網(wǎng)絡(luò)分析等。
2.K-均值聚類算法
該算法接受一個未標(biāo)記的數(shù)據(jù)集，然后將數(shù)據(jù)聚類成不同組。
K-均值是一個迭代算法，假設(shè)我們想要將數(shù)據(jù)聚類成 n 個組，其方法為:
（1）首先選擇𝐾個隨機的點，稱為聚類中心（cluster centroids）；
（2）對于數(shù)據(jù)集中的每一個數(shù)據(jù)，按照距離𝐾個中心點的距離，將其與距離最近的中心點關(guān)聯(lián)起來，與同一個中心點關(guān)聯(lián)的所有點聚成一類。
（3）計算每一個組的平均值，
（4）將該組所關(guān)聯(lián)的中心點移動到平均值的位置。
重復(fù)步驟 2-4 直至中心點不再變化。
下面是聚類示例：



3 優(yōu)化目標(biāo)

4 隨機初始化

5 選擇聚類數(shù)
沒有所謂最好的選擇聚類數(shù)的方法，通常是需要根據(jù)不同的問題，人工進(jìn)行選擇的。選擇的時候思考我們運用 K-均值算法聚類的動機是什么，然后選擇能最好服務(wù)于該目的標(biāo)聚類數(shù)。
當(dāng)人們在討論，選擇聚類數(shù)目的方法時，有一個可能會談及的方法叫作“肘部法則”。關(guān) 于“肘部法則”，我們所需要做的是改變𝐾值，也就是聚類類別數(shù)目的總數(shù)。我們用一個聚類來運行 K 均值聚類方法。這就意味著，所有的數(shù)據(jù)都會分到一個聚類里，然后計算成本函數(shù)或者計算畸變函數(shù)𝐽。
𝐾代表聚類數(shù)字。

我們可能會得到一條類似于這樣的曲線。像一個人的肘部。這就是“肘部法則”所做的，
讓我們來看這樣一個圖，看起來就好像有一個很清楚的肘在那兒。好像人的手臂，如果你伸
出你的胳膊，那么這就是你的肩關(guān)節(jié)、肘關(guān)節(jié)、手。這就是“肘部法則”。你會發(fā)現(xiàn)這種模式，
它的畸變值會迅速下降，從 1 到 2，從 2 到 3 之后，你會在 3 的時候達(dá)到一個肘點。在此之
后，畸變值就下降的非常慢，看起來就像使用 3 個聚類來進(jìn)行聚類是正確的，這是因為那個
點是曲線的肘點，畸變值下降得很快，𝐾 = 3之后就下降得很慢，那么我們就選𝐾 = 3。當(dāng)你
應(yīng)用“肘部法則”的時候，如果你得到了一個像上面這樣的圖，那么這將是一種用來選擇聚類
個數(shù)的合理方法。

總結(jié)

以上是生活随笔為你收集整理的机器学习笔记十之聚类的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。