马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)
轉(zhuǎn)載自:?http://blog.sina.com.cn/s/blog_54d222750101dgz2.html
?
馬爾可夫網(wǎng)絡(luò),(馬爾可夫隨機(jī)場、無向圖模型)是關(guān)于一組有馬爾可夫性質(zhì)隨機(jī)變量的全聯(lián)合概率分布模型。
?????馬爾可夫網(wǎng)絡(luò)類似貝葉斯網(wǎng)絡(luò)用于表示依賴關(guān)系。但是,一方面它可以表示貝葉斯網(wǎng)絡(luò)無法表示的一些依賴關(guān)系,如循環(huán)依賴;另一方面,它不能表示貝葉斯網(wǎng)絡(luò)能夠表示的某些關(guān)系,如推導(dǎo)關(guān)系。馬爾可夫網(wǎng)絡(luò)的原型是易辛模型,最初是用來說明該模型的基本假設(shè)。
?????用前蘇聯(lián)數(shù)學(xué)家辛欽(1894-1959〕的話來說,就是承認(rèn)客觀世界中有這樣一種現(xiàn)象,其未來由現(xiàn)在決定的程度,使得我們關(guān)于過去的知識絲毫不影響這種決定性。這種在已知“現(xiàn)在”的條件下,“未來”與“過去”彼此獨立的特性就被稱為馬爾科夫性,具有這種性質(zhì)的隨機(jī)過程就叫做馬爾科夫過程,其最原始的模型就是馬爾科夫鏈。這即是對荷蘭數(shù)學(xué)家惠更斯(Ch. Huygens, 1629-1659)提出的無后效原理的概率推廣,也是對法國數(shù)學(xué)家拉普拉斯(P. S. Laplace, 1749-1827)機(jī)械決定論的否定。
????馬爾可夫性質(zhì):
????它指的是一個隨機(jī)變量序列按時間先后關(guān)系依次排開的時候,第N+1時刻的分布特性,與N時刻以前的隨機(jī)變量的取值無關(guān)。拿天氣來打個比方。如果我們假定天氣是馬爾可夫的,其意思就是我們假設(shè)今天的天氣僅僅與昨天的天氣存在概率上的關(guān)聯(lián),而與前天及前天以前的天氣沒有關(guān)系。其它如傳染病和謠言的傳播規(guī)律,就是馬爾可夫的。?
????隨機(jī)場:
????當(dāng)給每一個位置中按照某種分布隨機(jī)賦予相空間的一個值之后,其全體就叫做隨機(jī)場。我們不妨拿種地來打個比方。其中有兩個概念:位置(site),相空間(phase space)。“位置”好比是一畝畝農(nóng)田;“相空間”好比是種的各種莊稼。我們可以給不同的地種上不同的莊稼,這就好比給隨機(jī)場的每個“位置”,賦予相空間里不同的值。所以,俗氣點說,隨機(jī)場就是在哪塊地里種什么莊稼的事情。?
????馬爾可夫隨機(jī)場:
????也叫馬爾可夫網(wǎng),拿種地打比方,如果任何一塊地里種的莊稼的種類僅僅與它鄰近的地里種的莊稼的種類有關(guān),與其它地方的莊稼的種類無關(guān),那么這些地里種的莊稼的集合,就是一個馬爾可夫隨機(jī)場。
????無向圖模型也叫馬爾科夫隨機(jī)場(Markov?Random?Fields)或馬爾科夫網(wǎng)絡(luò)(Markov?Network),無向圖模型有一個簡單的獨立定義:兩個節(jié)點集A、B都與給定的第三個節(jié)點集C相互條件獨立,A、B節(jié)點之間的路徑都被C中的節(jié)點分開。
????相比之下,有向圖模型也叫貝葉斯網(wǎng)絡(luò)(Bayesian?networks)或信念網(wǎng)絡(luò)(Belief?Networks),有向圖模型有一個更復(fù)雜的獨立性觀念。
?
形式化定義:
?
形式上,一個馬爾可夫網(wǎng)絡(luò)包括:
- 一個無向圖?G?= (V,E),每個頂點?v?∈V?表示一個在集合的隨機(jī)變量,每條邊 {u,v} ∈?E?表示隨機(jī)變量u?和?v之間的一種依賴關(guān)系。
- 一個函數(shù)集合?(也稱為因子?或者?團(tuán)因子?有時也稱為特征),每一個??的定義域是圖G的團(tuán)或子團(tuán)k. 每一個?是從可能的特定聯(lián)合的指派(到元素k)到非負(fù)實數(shù)的映射。
聯(lián)合分布函數(shù):
-
聯(lián)合分布(吉布斯測度)用馬爾可夫網(wǎng)絡(luò)可以表示為:
其中是向量,是隨機(jī)變量在第k個團(tuán)的狀態(tài)(?是在第k個團(tuán)中包含的節(jié)點數(shù)。),乘積包括了圖中的所有團(tuán)。注意馬爾可夫性質(zhì)在團(tuán)內(nèi)的節(jié)點存在,在團(tuán)之間是不存在依賴關(guān)系的。這里,?是配分函數(shù),有
.
實際上,馬爾可夫網(wǎng)聯(lián)絡(luò)經(jīng)常表示為對數(shù)線性模型。通過引入特征函數(shù)?,得到
和
以及劃分函數(shù)
?。
其中,是權(quán)重,是勢函數(shù),映射團(tuán)到實數(shù)。這些函數(shù)有時亦稱為吉布斯勢;術(shù)語勢?源于物理,通常從字面上理解為在臨近位置產(chǎn)生的勢能。
對數(shù)線性模型是對勢能的一種便捷的解釋方式。一個這樣的模型可以簡約的表示很多分布,特別是在領(lǐng)域很大的時候。另一方面,負(fù)的似然函數(shù)是凸函數(shù)也帶來便利。但是即便對數(shù)線性的馬爾可夫網(wǎng)絡(luò)似然函數(shù)是凸函數(shù),計算似然函數(shù)的梯度仍舊需要模型推理,而這樣的推理通常是難以計算的。
馬爾可夫性質(zhì):
????馬爾可夫網(wǎng)絡(luò)有這樣的馬爾可夫性質(zhì):圖的頂點u在狀態(tài)的概率只依賴頂點u的最近臨節(jié)點,并且頂點u對圖中的其他任何節(jié)點是條件獨立的。該性質(zhì)表示為
頂點u的最近臨節(jié)點集合?也稱為頂點u的馬爾可夫毯。
馬爾科夫隨機(jī)場 - 馬爾科夫鏈的數(shù)學(xué)描述
??????????????????????????????
?
????????????????????????????????
?
?????????????????????????????????
??????
????????????????????????????????
???????????????????????????
????????????????????????????????????
?
???????????????????????????????????
?
?
馬爾科夫隨機(jī)場 - 馬爾科夫隨機(jī)場的數(shù)學(xué)描述
???????????????????????????????????
??
????????????????????????????????
?
?
?
???????????????????????????????
?
????????????????????????????????
總結(jié)
以上是生活随笔為你收集整理的马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Oracle 表空间错误集锦
- 下一篇: uniitest怎么传参数