目錄

1）Unsupervised learning introduction

2）K-means algorithm

3）Optimization objective

4）Random initialization

5）Choosing the number of clusters

---

1）Unsupervised learning introduction

下圖是我們之前學習的監(jiān)督學習，監(jiān)督學習樣本是有標簽的，而另一張圖是無監(jiān)督學習樣本，是沒有標簽的。

2）K-means algorithm

k均值是最普及的聚類算法，算法接受一個未標記的數(shù)據(jù)集，然后將數(shù)據(jù)集聚類成不同的組。

k均值是一個迭代算法，假設我們想要將數(shù)據(jù)聚類成n個組，其方法為;

首先選擇K個隨機的點，稱為聚類中心；

對于數(shù)據(jù)集中的每一個數(shù)據(jù)，按照距離K個中心店的距離，將其與距離最近的中心點關聯(lián)起來，與同一個中心店關聯(lián)的所有點聚成一類，計算每一個組的平均值，將該組所關聯(lián)的中心點移動到平均值的位置。

重復上述步驟至中心點不再變化。

下面是一個聚類示例：

下面是K均值算法：

對于每一個樣例i，計算其應該屬于的類?：

對于每一個類k，重新計算平均值：

3）Optimization objective

和監(jiān)督學習類似，我們介紹代價函數(shù)：

?

?

4）Random initialization

我們前面介紹了K均值算法，代價函數(shù)為：

隨機初始化：

5）Choosing the number of clusters

聚類數(shù)的選擇這里提到了肘部法則，但更多的是根據(jù)實際問題來選擇。

總結

以上是生活随笔為你收集整理的机器学习笔记（十二）：聚类的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內容還不錯，歡迎將生活随笔推薦給好友。