貝葉斯統(tǒng)計：Tweedie公式及其證明

Tweedie公式是貝葉斯統(tǒng)計中用來研究正態(tài)分布的均值問題的最重要的公式之一，不管是在經(jīng)典的對正態(tài)均值進(jìn)行區(qū)間估計、假設(shè)檢驗(yàn)等領(lǐng)域中，還是在現(xiàn)代貝葉斯統(tǒng)計用均值的特殊先驗(yàn)構(gòu)造其shrinkage estimator的領(lǐng)域中，Tweedie公式都是重要的基礎(chǔ)工具，所以這一篇我們一起學(xué)習(xí)一下這個公式及其證明。

Tweedie公式 考慮$y|\mu ～N(\mu ,{\sigma }^2)$，其中${\sigma }^2$已知，$\mu$服從先驗(yàn)概率密度$f(\mu )$，$y$的先驗(yàn)邊緣概率為
$$m(y)={\int }_{?\infty }^{+\infty }\frac{f(\mu )}{\sqrt{2\pi }\sigma }{e}^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}d\mu$$

而$\mu$的后驗(yàn)均值為
$$E[\mu |y]=y+\frac{d\ln m(y)}{dy}$$

證明
先計算score function $\frac{d\ln m(y)}{dy}$,
$$\begin{array}{rl}\frac{d\ln m(y)}{dy}& =\frac{1}{m(y)}\frac{d}{dy}m(y)\\ & =\frac{1}{m(y)}\frac{d}{dy}{\int }_{?\infty }^{+\infty }\frac{f(\mu )}{\sqrt{2\pi }\sigma }{e}^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}d\mu \\ & =\frac{1}{m(y)}{\int }_{?\infty }^{+\infty }\frac{f(\mu )}{\sqrt{2\pi }\sigma }\frac{d}{dy}{e}^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}d\mu \\ & =\frac{1}{m(y)}{\int }_{?\infty }^{+\infty }(\mu ?y)\frac{f(\mu )e^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}}{\sqrt{2\pi }\sigma }dy\end{array}$$

然后計算后驗(yàn)均值
$$\begin{array}{rl}E[\mu |y]& ={\int }_{?\infty }^{+\infty }\mu \frac{f(\mu )e^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}}{\sqrt{2\pi }\sigma m(y)}dy\\ & ={\int }_{?\infty }^{+\infty }[y+(\mu ?y)]\frac{f(\mu )e^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}}{\sqrt{2\pi }\sigma m(y)}dy\\ & =y{\int }_{?\infty }^{+\infty }\frac{f(\mu )e^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}}{\sqrt{2\pi }\sigma m(y)}dy+{\int }_{?\infty }^{+\infty }(\mu ?y)\frac{f(\mu )e^{?\frac{(y?\mu {)}^2}{2{\sigma }^2}}}{\sqrt{2\pi }\sigma m(y)}dy\\ & =y+\frac{d\ln m(y)}{dy}\end{array}$$

證畢

總結(jié)

以上是生活随笔為你收集整理的贝叶斯统计：Tweedie公式及其证明的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。