MCMC笔记Metropilis-Hastings算法(MH算法)
1 前言
????????我們在MCMC筆記:齊次馬爾可夫鏈_UQI-LIUWJ的博客-CSDN博客?中介紹了平穩條件,當馬爾可夫鏈達到平穩狀態時(也就是各個狀態之間的轉移概率已經和時間無關了),那我們可以通過此時的馬爾可夫鏈轉移概率采集樣本。
? ? ? ? 比如我一開始時樣本x0,那么我就根據x0到其他狀態的轉移概率采樣,然后根據后續樣
????????那么現在的問題在于,什么時候達到平穩條件呢?或者說,我們怎么去找轉移概率呢?
????????在MCMC筆記:齊次馬爾可夫鏈_UQI-LIUWJ的博客-CSDN博客中,我們知道detailed balance?可以推出平穩條件。
? ? ? ? 但對于一般隨機求得的轉移概率q來說,
? ? ? ? 于是我們需要構造一個系數,使得
? ? ? ? 我們稱為接受率,當等式成立的時候,就是此時平穩條件的
?2 MH算法
2.1 α(接受率)的選取
我們令
此時
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ????
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
也即【】
所以此時滿足detailed balance,所以此時的馬爾可夫鏈滿足平穩狀態 ? ? ? ? ? ? ? ? ? ? ? ? ??
2.2 MH算法流程
Q是我們設計出來的概率分布,我們的目的是希望Q(x)趨近于P(x)
?
?接受率是α(x,x*)
參考內容
機器學習-白板推導系列(十三)-MCMC(Markov Chain Monte Carlo)筆記 - 知乎 (zhihu.com)
機器學習-白板推導系列(十三)-MCMC(Markov Chain Monte Carlo)_嗶哩嗶哩_bilibili
《新程序員》:云原生和全面數字化實踐50位技術專家共同創作,文字、視頻、音頻交互閱讀總結
以上是生活随笔為你收集整理的MCMC笔记Metropilis-Hastings算法(MH算法)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: MCMC笔记:齐次马尔可夫链
- 下一篇: MCMC笔记:吉布斯采样(Gibbs)