[深度学习] 什么是marginalization
論文中經(jīng)??吹竭@樣的描述:
Since we marginalize over all possible alignments z corresponding
谷歌翻譯顯示這個詞的意思是“邊緣化”,那么在數(shù)學(xué)中,邊緣化到底代表什么操作呢?
首先,邊緣化是概率論中的一個概念,它要求對一個變量的可能值求和,以確定另一個變量的邊緣貢獻。這個定義可能聽起來有點抽象,讓我們用一個例子來說明這一點。
假設(shè)我們對天氣如何影響英國人的幸福這一話題感興趣。我們可以把它寫成P(幸福|天氣),即給定天氣類型的情況下一個人的幸福水平的概率是多少。
假設(shè)我們有測量一個人幸福所需的設(shè)備和定義,并記錄了一個人所在的英格蘭和另一個人所在的蘇格蘭的天氣情況?,F(xiàn)在,通常來說蘇格蘭人比英格蘭人更幸福。問題是,人們總是有國籍的,所以在測量中我不能擺脫這個因素。所以我們實際測量的是P(幸福,國家|天氣),即我們同時關(guān)注幸福和國家。
邊緣化告訴我們,如果我們把所有國家的可能性都加起來,我們可以計算出我們想要的數(shù)量(記住,英國是由三個部分組成的:英格蘭、蘇格蘭和威爾士),即P(幸福,國家=英格蘭|天氣)+ P(幸福,國家=蘇格蘭|天氣)+ P(幸福,國家=威爾士|天氣)。
而就是這樣!邊緣化告訴我們,只要把一些概率加起來就能得到所需的概率量。一旦我們計算出了答案(它可以是一個單個值或一個分布),我們就可以得到我們想要的任何屬性(推理)。
回到上文的截圖,對于同一個輸入x,不同的對齊方式z可能得到相同的結(jié)果y,因此P(y|x)實際上是由P(y,z| x) 經(jīng)過邊緣化的結(jié)果,被邊緣的哪個變量就是z。
總結(jié)
以上是生活随笔為你收集整理的[深度学习] 什么是marginalization的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 嵌入式系统导论(彭蔓蔓等·人民邮电出版社
- 下一篇: HIVE函数集合(全)