【时间序列分析】03.正态时间序列与严平稳序列
文章目錄
- 三、.正態時間序列與嚴平穩序列
- 1.多元統計基礎
- 2.多維正態分布與正態時間序列
- 3.嚴平穩序列
- 回顧總結
三、.正態時間序列與嚴平穩序列
1.多元統計基礎
首先對多元統計中的基本概念作簡要介紹。如果有一個nnn維隨機向量X=(X1,?,Xn)′X=(X_1,\cdots,X_n)'X=(X1?,?,Xn?)′,這里每一個XiX_iXi?是隨機變量,那么其均值向量為μ=EX=(EX1,?,EXn)′\mu={\rm E}X=({\rm E}X_1,\cdots,{\rm E}X_n)'μ=EX=(EX1?,?,EXn?)′,自協方差矩陣為
DX=ΣX=(σij)n×n,σij=Cov(Xi,Xj).{\rm D}X=\Sigma_X=(\sigma_{ij})_{n\times n},\quad \sigma_{ij}={\rm Cov}(X_i,X_j). DX=ΣX?=(σij?)n×n?,σij?=Cov(Xi?,Xj?).
可以證明DX=E[(X?μ)(X?μ)′]{\rm D}X={\rm E}[(X-\mu)(X-\mu)']DX=E[(X?μ)(X?μ)′](對矩陣求期望相當于對矩陣的每一項求期望)。
對于mmm維列向量aaa和m×nm\times nm×n常數矩陣BBB,定義線性變換為Y=a+BXY=a+BXY=a+BX,則有
EY=a+B(EX),DY=B(DX)B′.{\rm E}Y=a+B({\rm E}X),\quad {\rm D}Y=B({\rm D}X)B'. EY=a+B(EX),DY=B(DX)B′.
隨機向量也有特征函數,且定義方式與隨機變量類似,即對于nnn維實數向量t=(t1,?,tn)′t=(t_1,\cdots,t_n)'t=(t1?,?,tn?)′和nnn維隨機向量XXX,有
φX(t)=Eeit′X=Eexp?{i(∑j=1ntjXj)}.\varphi_X(t)={\rm E}e^{{\rm i}t'X}={\rm E}\exp\left\{{\rm i}\left(\sum_{j=1}^n t_jX_j\right) \right\}. φX?(t)=Eeit′X=Eexp{i(j=1∑n?tj?Xj?)}.
2.多維正態分布與正態時間序列
時間序列中,正態分布依然是很重要的部分,這里簡要提一下多元正態分布。
多維正態分布:如果存在mmm維常數列向量μ\muμ,m×nm\times nm×n常數陣BBB和相互獨立的標準正態隨機變量構成的向量X=(X1,?,Xn)′~Nn(0,I)X=(X_1,\cdots,X_n)'\sim N_n(0,I)X=(X1?,?,Xn?)′~Nn?(0,I),使得Y=μ+BXY=\mu+BXY=μ+BX,則稱隨機向量YYY服從mmm維正態分布。
我們將多維正態分布,定義為標準正態向量的線性變換,這與一維情形下,正態隨機變量可以看成X~N(0,1)X\sim N(0,1)X~N(0,1)的線性變換是一致的。顯然,這里EY=μ,Σ=DY=BB′{\rm E}Y=\mu,\Sigma={\rm D}Y=BB'EY=μ,Σ=DY=BB′。
從特征函數的角度來說,對于標準正態向量有
φX(t)=Eexp?(it′X)=∏j=1nexp?(?tj2/2)=exp?(?t′t2),\varphi_X(t)={\rm E}\exp({\rm i}t'X)=\prod_{j=1}^n\exp(-t_j^2/2)=\exp(-\frac {t't}{2}), φX?(t)=Eexp(it′X)=j=1∏n?exp(?tj2?/2)=exp(?2t′t?),
所以
φY(t)=Eexp?(it′Y)=Eexp?[i(t′μ+t′BX)]=exp?[it′μ?12t′Σt].\varphi_Y(t)={\rm E}\exp({\rm i}t'Y)={\rm E}\exp[{\rm i}(t'\mu+t'BX)]=\exp[{\rm i}t'\mu-\frac12 t'\Sigma t]. φY?(t)=Eexp(it′Y)=Eexp[i(t′μ+t′BX)]=exp[it′μ?21?t′Σt].
在實際應用時,我們如何判斷一個隨機向量是正態隨機向量呢?要知道,隨機向量的正態性驗證要比隨機變量的正態性驗證困難得多,所以我們會想到從隨機變量的正態性入手驗證隨機向量的正態性,即有以下定理:
定理:ξ=(ξ1,?,ξn)′~Nn(μ,Σ)\xi=(\xi_1,\cdots,\xi_n)'\sim N_n(\mu,\Sigma)ξ=(ξ1?,?,ξn?)′~Nn?(μ,Σ)等價于對任何常數向量a=(a1,?,an)′a=(a_1,\cdots,a_n)'a=(a1?,?,an?)′,有
Y=a′ξ~N(a′μ,a′Σa).Y=a'\xi\sim N(a'\mu,a'\Sigma a). Y=a′ξ~N(a′μ,a′Σa).
證明可以從特征函數入手,如果ξ~Nn(μ,Σ)\xi\sim N_n(\mu,\Sigma)ξ~Nn?(μ,Σ),則
φY(t)=exp?[it(a′μ)?12t2(a′Σa)]\varphi_Y(t)=\exp[{\rm i}t(a'\mu)-\frac 12t^2(a'\Sigma a)] φY?(t)=exp[it(a′μ)?21?t2(a′Σa)]
說明Y~N(a′μ,a′Σa)Y\sim N(a'\mu,a'\Sigma a)Y~N(a′μ,a′Σa)。反過來,如果對任何aaa都有Y~N(a′μ,a′Σa)Y\sim N(a'\mu,a'\Sigma a)Y~N(a′μ,a′Σa),那么YYY的特征函數如上式子,只要取t=1t=1t=1,就得到
φξ(a)=Eeia′ξ=φY(1)=exp?[ia′μ?12a′Σa].\varphi_\xi(a)={\rm E}e^{ia'\xi}=\varphi_Y(1)=\exp[{\rm i}a'\mu-\frac 12a'\Sigma a]. φξ?(a)=Eeia′ξ=φY?(1)=exp[ia′μ?21?a′Σa].
所以φξ(t)=exp?[it′μ?12t′Σt]\varphi_\xi(t)=\exp[{\rm i}t'\mu-\frac 12 t'\Sigma t]φξ?(t)=exp[it′μ?21?t′Σt]。這樣,我們就能夠驗證一個向量是正態隨機向量。在正態隨機向量的基礎上,可以定義正態時間序列了。
正態時間序列:對于時間序列{Xt}\{X_t\}{Xt?},如果對于任何n≥1n\ge 1n≥1和t1,?,tn∈Nt_1,\cdots,t_n\in \Nt1?,?,tn?∈N,都有(X(t1),?,X(tn))(X(t_1),\cdots,X(t_n))(X(t1?),?,X(tn?))是正態隨機向量,就稱{Xt}\{X_t\}{Xt?}是正態時間序列。
正態平穩序列:如果正態時間序列{Xt}\{X_t\}{Xt?}還是平穩的,則{Xt}\{X_t\}{Xt?}是正態平穩序列。
{Xt:t∈N+}\{X_t:t\in \N_+\}{Xt?:t∈N+?}是正態時間序列的充分必要條件,是對任何正整數mmm,(X1,?,Xm)(X_1,\cdots,X_m)(X1?,?,Xm?)服從mmm維正態分部;{Xt:t∈Z}\{X_t:t\in \Z\}{Xt?:t∈Z}是正態時間序列的充分必要條件,是對任何正整數mmm,(X?m,?,Xm)(X_{-m},\cdots,X_m)(X?m?,?,Xm?)服從2m+12m+12m+1維正態分布。
正態隨機向量相比其他隨機向量的優越性,在于它的運算封閉性,即正態隨機向量經過線性變換,得到的仍然是正態隨機向量。
3.嚴平穩序列
嚴平穩序列看似平穩,但其實與平穩序列之間存在著一些細微差別,并且二者不存在包含關系。下面給出嚴平穩序列的定義。
嚴平穩序列:如果{Xt:t∈N}\{X_t:t\in \N\}{Xt?:t∈N}是時間序列,對任何正整數nnn和k∈Nk\in \Nk∈N,有(X1,?,Xn)′(X_1,\cdots,X_n)'(X1?,?,Xn?)′與(X1+k,?,Xn+k)′(X_{1+k},\cdots,X_{n+k})'(X1+k?,?,Xn+k?)′同分布,就稱{Xt}\{X_t\}{Xt?}是嚴平穩序列。
這個定義表明,對嚴平穩序列而言,取出一組變量,將其任意平移都不會改變聯合分布,即嚴平穩序列具有平移不變性。特別當取n=1n=1n=1時,能夠證明嚴平穩序列中每一個隨機變量都是同分布的。但我們不能得出各個隨機變量中的相關性,因為嚴平穩序列中對相關性的唯一要求,就是平移不影響向量的內部結構(即自相關性)。
對比嚴平穩序列與寬平穩序列的要求,可以發現,嚴平穩序列的平移不變性,能夠直接推出均值的一致性與自協方差函數與時間差的一一對應關系,所以只要嚴平穩序列是二階矩存在的,就一定是寬平穩序列。注意嚴平穩序列并不要求隨機變量是存在二階矩的。
而寬平穩序列只對均值、自協方差函數做出了要求,而沒有對每個隨機變量的分布作具體要求。但如果通過均值、方差能夠直接推得分布,就由均值方差的一致性,自然得到每個時間點隨機變量是同分布的。特別地,如果寬平穩序列是正態序列,就一定是嚴平穩序列。
嚴平穩序列有一個重要的要求是其遍歷性,這指的是從它的一次實現(樣本軌道)就可以推得其有限維分布,由于現實生活中時間是單向進行的,遍歷性無疑具有重要價值。需要注意,并不是所有的嚴平穩序列都具有遍歷性,但我們上一篇中討論的線性平穩序列,在一定條件下具有遍歷性,定理如下。
定理1:如果{εt}\{\varepsilon_t\}{εt?}是獨立同分布的WN(0,σ2){\rm WN}(0,\sigma^2)WN(0,σ2),且{aj}\{a_j\}{aj?}平方可和,則無窮滑動和Xt=∑j=?∞∞ajεt?j,t∈ZX_t=\sum\limits_{j=-\infty}^\infty a_j\varepsilon_{t-j},t\in\ZXt?=j=?∞∑∞?aj?εt?j?,t∈Z是嚴平穩遍歷的。
定理2:如果{Xt}\{X_t\}{Xt?}嚴平穩遍歷,則強大數律lim?n→∞1n∑t=1nXt=EX1\lim\limits_{n\to \infty}\dfrac 1n\sum\limits_{t=1}^n X_t={\rm E}X_1n→∞lim?n1?t=1∑n?Xt?=EX1?幾乎必然成立,且對任何多元函數φ(x1,?,xm)\varphi(x_1,\cdots,x_m)φ(x1?,?,xm?),Yt=φ(Xt+1,?,Xt+m)Y_t=\varphi(X_{t+1},\cdots,X_{t+m})Yt?=φ(Xt+1?,?,Xt+m?)是嚴平穩遍歷的。
正因為線性平穩序列具有嚴平穩序列具有的遍歷性,由其一次觀測結果就可以推得有限維分布,所以線性平穩序列具有重要的地位,且對線性平穩序列估計參數時,往往會用到遍歷性。
回顧總結
總結
以上是生活随笔為你收集整理的【时间序列分析】03.正态时间序列与严平稳序列的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 医药电子 | 温度传感器的类型原理特点和
- 下一篇: 【图像处理】《数字图像处理-冈萨雷斯》笔