pdf版本筆記的下載地址: 華北電力大學(xué)《隨機(jī)過程·2020年冬》復(fù)習(xí)筆記（訪問密碼：3834）

華北電力大學(xué)《隨機(jī)過程·2020年冬》復(fù)習(xí)筆記

• ch1 預(yù)備知識(shí)
• • 分布
  • 全概率公式和全期望公式
  • $\Gamma$函數(shù)
• ch2 隨機(jī)過程的基本概念
• • §2.3 隨機(jī)過程的數(shù)字特征
• ch3 泊松過程
• • §3.1 泊松過程的定義
  • §3.2 泊松過程的性質(zhì)
  • §3.3 非齊次泊松過程
  • §3.4 復(fù)合泊松過程
• ch4 馬爾可夫過程
• • §4.3 馬爾可夫鏈的狀態(tài)關(guān)系與屬性
  • §4.4 狀態(tài)空間的分解
  • §4.5 轉(zhuǎn)移概率極限與平穩(wěn)分布

ch1 預(yù)備知識(shí)

分布

分布名稱概率密度函數(shù)期望$E$方差$D$

二項(xiàng)分布	$P\{k\}=C_n^k{p}^k(1?p{)}^{n?k}n=1,2,...$	$E=np$	$D=np(1?p)$
均勻分布	$f(x,a,b)=\{\begin{array}{ll}\frac{1}{b?1},& a\le x\le b\\ 0,& 其他\end{array}$	$E=\frac{a+b}{2}$	$D=\frac{(b?a{)}^2}{12}$
泊松分布	$p\{k\}=e^{?\lambda }\frac{{\lambda }^k}{k!}n=1,2,...$	$E=\lambda$	$D=\lambda$
指數(shù)分布	$f(x,\lambda )=\{\begin{array}{ll}\lambda e^{?\lambda x},& x\ge 0\\ 0,& x<0\end{array}$	$E=\frac{1}{\lambda }$	$D=\frac{1}{{\lambda }^2}$

全概率公式和全期望公式

• 全概率公式:

  $$P(B)=\sum _{k=1}^{n}P\left(B\mid A_k\right)P\left(A_k\right)$$
  推廣:

  • $Y$離散時(shí):
    $$P(A)=\sum _{j}P(A|Y=y_j)P(Y=y_j)$$

  • $Y$連續(xù)時(shí):
    $$P(A)={\int }_{?\infty }^{+\infty }P(A|Y=y_j)f_Y(y)dy$$

• 全期望公式

  • $Y$離散時(shí):
    $$E(X)=\sum _{j}E(X|y_j)P(Y=y_j)$$

  • $Y$連續(xù)時(shí):
    $$E(X)={\int }_{?\infty }^{+\infty }E(X|y)f_Y(y)dy$$

$\Gamma$函數(shù)

$\Gamma$函數(shù)表達(dá)式:
$$\Gamma (\alpha )={\int }_0^{+\infty }{e}^{?x}{x}^{\alpha ?1}dx$$
初值:
$$\Gamma (1)=1,\Gamma (\frac{1}{2})=\sqrt{(\pi )}$$
遞推關(guān)系:
$$\Gamma (n)=(n?1)\Gamma (n?1)=(n?1)!\text{(x的系數(shù)的階乘)}$$

ch2 隨機(jī)過程的基本概念

§2.3 隨機(jī)過程的數(shù)字特征

給定隨機(jī)過程$X_T=\{X(t),t\in T\}$,定義數(shù)字特征如下:

• 均值函數(shù):
  $$m_x(t)?E[X(t)]$$

• 自相關(guān)函數(shù):
  $$R_X(s,t)?E[X(s)?X(t)]$$

• 自協(xié)方差函數(shù):
  $$B_X(s,t)?Cov[X(s),X(t)]=R_X(s,t)?m_X(s)m_X(t)$$

• 方差函數(shù):
  $$D_X(t)?D[X(t)]=E[(X?E(X){)}^2]$$

• 均方差函數(shù):
  $${\sigma }_X(t)=\sqrt{D_X(t)}$$

ch3 泊松過程

§3.1 泊松過程的定義

• 計(jì)數(shù)過程: 若$N(t)$表示在$(0,t]$內(nèi)事件A出現(xiàn)的總次數(shù),則稱隨機(jī)過程$\{N(t),t\ge 0\}$為計(jì)數(shù)過程.

• 獨(dú)立增量過程: 對任意$t_1<t_2\le t_3<t_4\in T$,$X(t_2)?X(t_1)$與$X(t_4)?X(t_3)$相互獨(dú)立,則稱隨機(jī)過程$X(t)$為獨(dú)立增量過程.

• 平穩(wěn)增量過程: 對任意$s,t,h\in T$,$X(t+h)?x(s+h)$與$X(t)?X(s)$具有相同的分布,則稱隨機(jī)過程$X(t)$為平穩(wěn)增量過程.

• 泊松過程: 稱計(jì)數(shù)過程$\{X(t),t\ge 0\}$是泊松過程,如果$(t)$滿足:

• $X(0)=0$

• $X(t)$是獨(dú)立增量過程

• 在任一長度為$t$的區(qū)間中,事件A發(fā)生的次數(shù)服從參數(shù)$\lambda t>0$的泊松分布,即對任意$s,t\ge 0$,有:
  $$P\{X(t+s)?X(s)=n\}=e^{?\lambda t}\frac{(\lambda t{)}^n}{n!}n=0,1,2,...$$

由$E[X(t)]=\lambda t$,故$\lambda =\frac{E[X(t)]}{t}$表示過程的強(qiáng)度

§3.2 泊松過程的性質(zhì)

• 數(shù)字特征: 設(shè)$\{X(t),t\ge 0\}$是參數(shù)為$\lambda$的泊松過程,對任意$t,s\in [0,+\infty ),s<t$,有:
  $$E[X(t)?X(s)]=D[X(t)?X(s)]=\lambda (t?s)$$

  $$m_X(t)=E[X(t)]=E[X(t)?X(0)]=\lambda t$$

  $${\sigma }_X^2(t)=D[X(t)]=D[X(t)?X(0)]=\lambda t$$

  $$R_X(s,t)=E[X(s),X(t)]=\lambda s(\lambda t+1)$$

  $$B_X(s,t)=R_X(s,t)?m_X(s)m_X(t)=\lambda s$$

• 等待(到達(dá))時(shí)間$W_n$與時(shí)間間隔$T_n$的分布:

  $W_n$表示第$n$個(gè)事件的等待(到達(dá))時(shí)間,$T_n$表示第$n$個(gè)事件與第$n?1$個(gè)事件出現(xiàn)的時(shí)間間隔

  • 時(shí)間間隔$T_n$服從參數(shù)為$\lambda$的指數(shù)分布,其概率分布函數(shù)和概率密度函數(shù):
    $$F_{T_n}(t)=P\{T_n\le t\}=\{\begin{array}{ll}1?e^{?\lambda t},& t\ge 0\\ 0,& t<0\end{array}$$

    $$f_{T_n}(t)=\{\begin{array}{ll}\lambda e^{?\lambda t},& t\ge 0\\ 0,& t<0\end{array}$$

  • 到達(dá)時(shí)間$W_n$服從$\Gamma$分布,其概率密度函數(shù):
    $$f_{W_n}(t)=\{\begin{array}{ll}\lambda e^{?\lambda t}\frac{(\lambda t{)}^{n?1}}{(n?1)!},& t\ge 0\\ 0,& t<0\end{array}$$

  • 到達(dá)時(shí)間分布的推論: 設(shè)$T_k$表示強(qiáng)度為$\lambda$的泊松過程第$k$次的到達(dá)時(shí)間,$L_1$表示強(qiáng)度為$\mu$的泊松過程第1次的到達(dá)時(shí)間
    $$P\{T_k<L_1\}=(\frac{\lambda }{\lambda +\mu }{)}^k$$
    記: 考慮發(fā)生一個(gè)事件,該事件為事件1的概率為$\frac{\lambda }{\lambda +\mu }$.考慮接下來連續(xù)發(fā)生的$k$件事,事件$\{T_k<L_1\}$等價(jià)于$\{接下來連續(xù)發(fā)生的k件事都是事件1\}$.

  • 到達(dá)時(shí)間的條件分布: 已知$[0,t]$內(nèi)事件$A$已經(jīng)發(fā)生1次,則這一事件到達(dá)時(shí)間$W_1$的條件分布密度函數(shù):
    $$f_{W_1}(s|N(t)=1)=\{\begin{array}{ll}\frac{1}{t},& 0<s<t\\ 0,& 其他\end{array}$$

  • 到達(dá)時(shí)間的條件分布: 已知$[0,t]$內(nèi)事件$A$已經(jīng)發(fā)生$n$次,則第$k$次事件的發(fā)生時(shí)間$W_k$的條件概率密度函數(shù):
    $$f_{W_k}(s|N(t)=n)=\{\begin{array}{cc}\frac{n!}{(k?1)!(n?k)!}\frac{s^{k?1}(t?s{)}^{n?k}}{t^n}& 0<s<t\\ 0& 其它\end{array}$$

  • 到達(dá)時(shí)間的條件聯(lián)合分布: 已知$[0,t]$內(nèi)事件$A$已經(jīng)發(fā)生$n$次,則這$n$次到達(dá)時(shí)間$W_1,W_2,...,W_n$的聯(lián)合條件分布密度函數(shù):
    $$f_{W_1,W_2,...,W_n}(t_1,t_2,?,t_n|N(t)=n)=\{\begin{array}{ll}\frac{n!}{t^n},& 0<t_1<?<t_n<t\\ 0,& 其他\end{array}$$

§3.3 非齊次泊松過程

• 定義: 稱計(jì)數(shù)過程$\{X(t),t\ge 0\}$是非齊次泊松過程,如果$(t)$滿足:

• $X(0)=0$

• $X(t)$是獨(dú)立增量過程

• 在任一長度為$t$的區(qū)間中,事件A發(fā)生的次數(shù)服從參數(shù)為${\int }_s^{s+t}\lambda (u)du$的泊松分布,即對任意$s,t\ge 0$,有:
  $$X(t+s)?X(s)～\pi ({\int }_s^{s+t}\lambda (u)du)$$

$\lambda (t)$稱為速率函數(shù)

§3.4 復(fù)合泊松過程

• 定義: 設(shè)$\{N(t),t\ge 0\}$是泊松過程,$\{Y_k,k=1,2,..\}$是一系列獨(dú)立同分布的隨機(jī)變量,則稱
  $$X(t)=\sum _{n=1}^{N(t)}{Y}_n$$
  為復(fù)合泊松過程.

• 性質(zhì):

• $\{X(t),t\ge 0\}$是獨(dú)立增量過程
• 若$\{N(t),t\ge 0\}$是齊次泊松過程,則$\{X(t),t\ge 0\}$是平穩(wěn)增量過程

• 數(shù)字特征:

  • $E(X)=E(N)E(Y_1)$
  • $D(X)=E(N)D(Y_1)+D(N)E^2(Y_1)$

  若$\{N(t),t\ge 0\}$是齊次泊松過程,則:

  • $EX(t)=EN(t)E(Y_1)=\lambda tE(Y_1)$
  • $DX(t)=EN(t)E(Y_1^2)=\lambda tE(Y_1^2)$
  • $E(X)=E[E(X|N)]=E[NE(Y_{!})]=E(N)E(Y_1)$

ch4 馬爾可夫過程

§4.3 馬爾可夫鏈的狀態(tài)關(guān)系與屬性

• 周期性:

  定義$d=GCD\{n:p_{ii}^{(n)}>0,n>0\}$為狀態(tài)$i$的周期

  • 若$d>1$,則稱狀態(tài)$i$為周期的
  • 若$d=1$,則稱狀態(tài)$i$為非周期的

• 常返性：

  定義$f_{ij}^{(n)}=P(X_n=j,X_k=j,1\le k\le n?1|X_0=i)$為首達(dá)概率

  定義$f_{ij}={\sum }_{n=1}^{+\infty }{f}_{ij}^{(n)}$為遲早概率

  • 若$f_{ii}=1$,則稱狀態(tài)$i$為常返的
  • 若$f_{ii}<1$,則稱狀態(tài)$i$為非常返的

  定義$T_i$表示狀態(tài)$i$的首次返回時(shí)間,定義${\mu }_i=E(T_i)={\sum }_{n=1}^{+\infty }n{f}_{ii}^{(n)}$表示常返狀態(tài)$i$的平均返回時(shí)間

  • 若${\mu }_i<\infty$,則稱狀態(tài)$i$為正常返的
  • 若${\mu }_i=\infty$,則稱狀態(tài)$i$為零常返的

• 可達(dá)與互通性：

  互通狀態(tài)的周期和常返性是相同的,但平均返回時(shí)間不一定相同.

§4.4 狀態(tài)空間的分解

• 狀態(tài)空間的分解

  • 不可約?兩兩互通

  • 閉集?狀態(tài)出不去

  任一馬氏鏈的狀態(tài)空間$I$,都可以唯一分解為互不相交的子集$D,C_1,C_2,...$之和,其中:

• $D$是所有非常返態(tài)的集合
• 每一個(gè)$C_i$都是不可約的常返閉集

• (常返態(tài)的傳遞性): 若狀態(tài)$i$常返,$i\to j$,則:

• $j$常返
• $i?j$
• $f_{ij}=1,f_{ji}$

§4.5 轉(zhuǎn)移概率極限與平穩(wěn)分布

• 轉(zhuǎn)移概率的極限${\lim }_{n\to \infty }{p}_{ij}^{(n)}$

  • 若$j$為非常返或零常返態(tài),則${\lim }_{n\to \infty }{p}_{ij}^{(n)}=0$
  • 若$j$為正常返,非周期,則${\lim }_{n\to \infty }{p}_{ij}^{(n)}=\frac{f_{ij}}{{\mu }_j}$
  • 若$j$為正常返,周期$d_j>1$時(shí):
    • 若$i\to j$,則${\lim }_{n\to \infty }{p}_{ij}^{(n)}$不存在
    • 若$i$不可達(dá)$j$,則${\lim }_{n\to \infty }{p}_{ij}^{(n)}=0$

• 平穩(wěn)分布$\pi =({\pi }_1,{\pi }_2,...)$滿足方程:
  $$\{\begin{array}{l}\pi =\pi P\\ {\sum }_{i\in I}{\pi }_i=1\end{array}$$

• 若馬氏鏈?zhǔn)遣豢杉s非周期的,則如下3個(gè)命題是等價(jià)的:

  • 該鏈為正常返
  • 該鏈存在極限分布
  • 該鏈存在平穩(wěn)分布

  且當(dāng)上述分布存在時(shí),極限分布$\{\frac{1}{{\mu }_i},i\in I\}$就是平穩(wěn)分布$\{{\pi }_i,i\in I\}$.

pdf版本筆記的下載地址: 華北電力大學(xué)《隨機(jī)過程·2020年冬》復(fù)習(xí)筆記（訪問密碼：3834）

總結(jié)

以上是生活随笔為你收集整理的华北电力大学《随机过程·2020年冬》复习笔记的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。