UA MATH566 統計理論1 充分統計量例題答案3

例1.18 $X_1,?,X_n{～}_{iid}N(\mu ,{\sigma }^2)$，驗證$T(X)=(\bar{X},SST)$是完備統計量。
先寫出樣本的聯合概率密度，
$$\begin{gathered} f(x_1,?,x_n)=\prod _{i=1}^n\{\frac{1}{\sqrt{2\pi \sigma }}\exp \left(?\frac{(X_i?\mu {)}^2}{2{\sigma }^2}\right)\} \\ =(2\pi {)}^{?n/2}{\sigma }^{?n}\exp \left(?\frac{1}{2{\sigma }^2}\sum _{i=1}^n(X_i?\mu {)}^2\right) \end{gathered}$$
我們把指數中的完全平方拆分一下，
$$\begin{gathered} \sum _{i=1}^n(X_i?\mu {)}^2=\sum _{i=1}^n(X_i?\bar{X}+\bar{X}?\mu {)}^2 \\ =\sum _{i=1}^n(X_i?\bar{X}{)}^2+n(\bar{X}?\mu {)}^2=SST+n(\bar{X}?\mu {)}^2 \end{gathered}$$
交叉項為0，因為
$$\sum _{i=1}^n(X_i?\bar{X})(\bar{X}?\mu )=(\bar{X}?\mu )(\sum _{i=1}^n{X}_i?n\bar{X})=0$$
因此
$$f(x_1,?,x_n)=(2\pi {)}^{?n/2}{\sigma }^{?n}\exp \left(?\frac{1}{2{\sigma }^2}[SST+n(\bar{X}?\mu {)}^2]\right)$$
它只與$(\bar{X},SST)$以及參數有關，根據Fisher-Neyman定理，$(\bar{X},SST)$是充分統計量。接下來驗證它的完備性。因為$\bar{X}$與$SST$互相獨立，所以可以分別考慮這兩者對$\mu$和${\sigma }^2$的完備性。對于樣本均值，考慮它對$N(\mu ,1)$的完備性，假設$h_1$是它的一個可測函數，則
$$\begin{gathered} E[h_1(\bar{X})]={\int }_{?\infty }^{+\infty }h(x)\frac{1}{\sqrt{2\pi }}\exp \left(?\frac{1}{2}(x?\mu {)}^2\right)dx=0 \\ ?{\int }_{?\infty }^{+\infty }h(x)\exp (?x^2/2)\exp (x\mu )=0 \end{gathered}$$
這是$h(x)\exp (?x^2/2)$的Laplace變換，根據Laplace變換的完備性，
$$h(x)\exp (?x^2/2)=0,h(x)=0,?x$$
接下來考慮$SST$對$N(0,{\sigma }^2)$的完備性。$SST～{\chi }_{n?1}$，類似的$SST$的可測函數的期望可以寫成含這個可測函數的Laplace變換，下面的步驟大家自己嘗試。

例1.19 $X_1,?,X_n{～}_{iid}f(x|\theta )=h(x)e^{Q^T(\theta )T(x)?b(\theta )}$，驗證$T(X)$是完備統計量。
思路一樣，需要用到自然形式的指數族的$T(X)$也服從某一自然形式的指數分布的結論。所有指數分布族，證明完備性的思路都是寫成Laplace變換的形式，根據Laplace變化的唯一性（或者也叫完備性）來說明統計量的完備性。

例1.20 $X_1,?,X_n{～}_{iid}f(x|\theta )=\theta x^{\theta ?1}{I}_{(0,1)}(x)$，找完備充分統計量。
先寫出聯合概率密度，
$$\begin{gathered} f(x_1,?,x_n|\theta )={\theta }^n{\left(\prod _{i=1}^n{x}_i\right)}^{\theta ?1}\prod _{i=1}^n{I}_{(0,1)}(x_i) \\ ={\theta }^n{\left(\prod _{i=1}^n{x}_i\right)}^{\theta ?1}I(0<x_{(1)}<x_{(n)}<1) \end{gathered}$$
根據Fisher-Neyman定理，$T(X)$是充分統計量
$$T(X)=\prod _{i=1}^n{X}_i$$
現在證明它的完備性。先考慮$Y=?\ln X$的分布，
$$\begin{gathered} P(Y\le y)=P(X>e^{?y})?F_Y(y)=1?F_X(e^{?y})?f_Y(y)=e^{?y}{f}_X(e^{?y}) \\ {f}_Y(y)=e^{?y}\theta e^{?y(\theta ?1)}=\theta e^{?\theta y},y>0 \end{gathered}$$
這是$\Gamma (1,\theta )$，具有可加性，因此記
$$Z=\sum _{i=1}^n{Y}_i=?\ln \prod _{i=1}^n{X}_i～\Gamma (n,\theta )$$
從而$T(X)=e^{?Z}$，$Z$也是一個充分統計量，記$h$是$Z$的一個可測函數，則
$$\begin{gathered} E[h(Z)]={\int }_0^{+\infty }h(z)\frac{{\theta }^n{z}^{n?1}}{\Gamma (n)}{e}^{?\theta z}dz \\ ={\int }_0^{+\infty }h(z)\frac{z^{n?1}}{\Gamma (n)}{e}^{?\theta z+(n?1)\ln \theta }d(\theta z) \end{gathered}$$
這是$h(z)z^{n?1}/\Gamma (n)$的Laplace變換，其中$z^{n?1}/\Gamma (n)>0$，因此$h(z)=0$，$Z$是完備統計量。

最后做個簡單的總結。關于統計量的充分性主要有三個問題：

找充分統計量；
這個問題原理就是Fisher-Neyman定理，把樣本的聯合概率密度寫出來就可以直接看出來；

找最小充分統計量；
這個問題是算兩組樣本的似然比，似然比與參數無關當且僅當樣本的統計量相等時，那個充分統計量就是最小的

找完備統計量；
完備統計量的證明有三種常見的情況。樣本空間有限的離散型隨機變量，把期望表示成多項式，多項式恒為零說明系數均等于0；樣本空間無限的離散型隨機變量，把期望表示成Z變換或者冪級數，根據Z變換或者冪級數的唯一性說明統計量的完備性；連續型隨機變量，把期望表示成Laplace變換的形式（指數分布族是肯定可以的），根據Laplace變換的唯一性說明統計量的完備性。

總結

以上是生活随笔為你收集整理的UA MATH566 统计理论1 充分统计量例题答案3的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。