一、隱馬爾科夫模型

????在馬爾科夫模型中，每一個(gè)狀態(tài)代表了一個(gè)可以觀察的事件，所以，馬爾科夫模型有時(shí)稱為可視馬爾科夫模型（visible Markov model，VMM），這在某種程度上限制了模型的適應(yīng)性。在隱馬爾科夫模型（HMM）中，我們不知道模型所經(jīng)過(guò)的狀態(tài)序列，而只知道狀態(tài)的概率函數(shù)，也就是說(shuō)觀察到的事件是狀態(tài)的隨機(jī)函數(shù)，此模型是一個(gè)雙重的隨機(jī)過(guò)程。其中，模型的狀態(tài)轉(zhuǎn)換過(guò)程是隱蔽的，可觀察事件的隨機(jī)過(guò)程是隱蔽的狀態(tài)轉(zhuǎn)換過(guò)程的隨機(jī)函數(shù)。

二、隱馬爾科夫模型的基本原理

????下圖是一個(gè)隱馬爾科夫模型的示意圖，用此圖來(lái)說(shuō)明HMM的原理。假設(shè)一個(gè)暗室中有N個(gè)口袋，每個(gè)口袋中有M種不同顏色的球。一個(gè)實(shí)驗(yàn)員根據(jù)某一概率分布隨機(jī)選取一個(gè)初始的口袋，從中根據(jù)不同顏色球的概率分布，隨機(jī)選取出一個(gè)球，并向室外的人報(bào)告該球的顏色。然后再根據(jù)口袋的概率分布選擇另一個(gè)口袋，根據(jù)不同顏色球的概率分布隨機(jī)選擇一個(gè)球，重復(fù)進(jìn)行這個(gè)過(guò)程。對(duì)于室外的觀察人員來(lái)說(shuō)，他只能觀察到不同顏色球的序列，口袋的序列不可觀察。在這個(gè)過(guò)程中，口袋對(duì)應(yīng)HMM中的狀態(tài)，球的顏色對(duì)應(yīng)HMM中狀態(tài)的輸出，從一個(gè)口袋到另一個(gè)口袋對(duì)應(yīng)于狀態(tài)的轉(zhuǎn)換，從口袋中取出球的顏色對(duì)應(yīng)于從一個(gè)狀態(tài)輸出的觀察符號(hào)。

2.1 HMM的組成部分

模型中狀態(tài)的數(shù)目N（口袋的數(shù)目）

從每個(gè)狀態(tài)可能輸出的不同符號(hào)的數(shù)目M（球的不同顏色的數(shù)目）

狀態(tài)轉(zhuǎn)移概率矩陣A={aij},其中
aij=P(qt=sj|qt?1,si),1≤i,j≤Naij≥0∑j=1Naij=1

從狀態(tài)Sj觀察到符號(hào)vk的概率分布B={bj(k)},其中
bj(k)=P(Ot=vk|qt=sj),1≤j≤N,1≤k≤Mbj(k)≥0∑k=1Mbj(k)=1
觀察符號(hào)的概率又稱為發(fā)射概率。

初始狀態(tài)的概率分布π={πi},其中
πi=P(q1=si),1≤i≤Nπi≥0∑i=1Nπi=1

????一般地，一個(gè)HMM記為一個(gè)五元組μ=(S,K,A,B,π),其中，S為狀態(tài)集合，K為輸出符號(hào)的集合，A為狀態(tài)轉(zhuǎn)移矩陣，B為符號(hào)的發(fā)射概率，π為初始狀態(tài)的概率分布。有時(shí)也記為μ=(A,B,π)

2.2 觀察序列的生成

????當(dāng)考慮潛在事件隨機(jī)地生成表面事件時(shí)，HMM非常有用。假設(shè)給定模型μ=(A,B,π)，那么觀察序列O=O1O2…OT可由下面的步驟產(chǎn)生：
1. 根據(jù)初始的狀態(tài)概率分布πi選擇一個(gè)初始的狀態(tài)q1=si
2. 設(shè)t=1
3. 根據(jù)狀態(tài)si的輸出概率分布bi(k)輸出O_t=v_k
4. 根據(jù)狀態(tài)轉(zhuǎn)移概率分布aij，將當(dāng)前t時(shí)刻的狀態(tài)轉(zhuǎn)移到新的狀態(tài)qt+1=sj
5. t=t+1, 如果t<T,重復(fù)執(zhí)行步驟3,4.否則，算法結(jié)束。

總結(jié)

以上是生活随笔為你收集整理的机器学习笔记（十三）——隐马尔科夫模型的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。