1.簡介?

EM算法是一種迭代優化策略，由于它的計算方法中每一次迭代都分兩步，其中一個為期望步（E步），另一個為極大步（M步），所以算法被稱為EM算法（Expectation Maximization Algorithm）。EM算法受到缺失思想影響，最初是為了解決數據缺失情況下的參數估計問題。其基本思想是：首先根據己經給出的觀測數據，估計出模型參數的值；然后再依據上一步估計出的參數值估計缺失數據的值，再根據估計出的缺失數據加上之前己經觀測到的數據重新再對參數值進行估計，然后反復迭代，直至最后收斂，迭代結束。??

2.算法流程

介紹EM算法首先需要了解：極大似然估計和Jensen不等式。

初始化分布參數θ； 重復E、M步驟直到收斂：?
E步驟：根據參數θ初始值或上一次迭代所得參數值來計算出隱性變量的后驗概率（即隱性變量的期望），作為隱性變量的現估計值：

M步驟：將似然函數最大化以獲得新的參數值：?

3.EM算法優缺點

優點：算法簡單，穩定上升的步驟能非常可靠地找到“最優的收斂值?
缺點：對初始值敏感，EM算法需要初始化參數θ，而參數θ的選擇直接影響收斂效率以及能否得到全局最優解。

4.EM算法應用

K-means聚類：E步驟為聚類過程，M步驟為更新類簇中心。?
GMM（高斯混合模型）。

---

引用《EM算法（Expectation Maximization Algorithm）詳解》

引用《EM算法》

總結

以上是生活随笔為你收集整理的EM算法简介的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。