华北电力大学《随机过程·2020年冬》复习笔记
pdf版本筆記的下載地址: 華北電力大學(xué)《隨機(jī)過程·2020年冬》復(fù)習(xí)筆記(訪問密碼:3834)
華北電力大學(xué)《隨機(jī)過程·2020年冬》復(fù)習(xí)筆記
- ch1 預(yù)備知識(shí)
- 分布
- 全概率公式和全期望公式
- Γ\GammaΓ函數(shù)
- ch2 隨機(jī)過程的基本概念
- §2.3 隨機(jī)過程的數(shù)字特征
- ch3 泊松過程
- §3.1 泊松過程的定義
- §3.2 泊松過程的性質(zhì)
- §3.3 非齊次泊松過程
- §3.4 復(fù)合泊松過程
- ch4 馬爾可夫過程
- §4.3 馬爾可夫鏈的狀態(tài)關(guān)系與屬性
- §4.4 狀態(tài)空間的分解
- §4.5 轉(zhuǎn)移概率極限與平穩(wěn)分布
ch1 預(yù)備知識(shí)
分布
| 二項(xiàng)分布 | P{k}=Cnkpk(1?p)n?kn=1,2,...P\{k\}=C_n^k \, p^k (1-p)^{n-k} \qquad n=1,2,...P{k}=Cnk?pk(1?p)n?kn=1,2,... | E=npE=npE=np | D=np(1?p)D=np(1-p)D=np(1?p) |
| 均勻分布 | f(x,a,b)={1b?1,a≤x≤b0,其他f(x,a, b) = \left\{ \begin{array}{ll} \frac{1}{b-1} , & a \leq x \leq b \\ 0, & 其他\end{array} \right.f(x,a,b)={b?11?,0,?a≤x≤b其他? | E=a+b2E=\frac{a+b}{2}E=2a+b? | D=(b?a)212D=\frac{(b-a)^2}{12}D=12(b?a)2? |
| 泊松分布 | p{k}=e?λλkk!n=1,2,...p\{k\} = e^{-\lambda} \frac{\lambda^k}{k!} \qquad n=1,2,...p{k}=e?λk!λk?n=1,2,... | E=λE=\lambdaE=λ | D=λD=\lambdaD=λ |
| 指數(shù)分布 | f(x,λ)={λe?λx,x≥00,x<0f(x,\lambda) = \left\{ \begin{array}{ll}\lambda e^{-\lambda x} , & x \geq 0 \\0, & x<0\end{array} \right.f(x,λ)={λe?λx,0,?x≥0x<0? | E=1λE=\frac{1}{\lambda}E=λ1? | D=1λ2D=\frac{1}{\lambda^2}D=λ21? |
全概率公式和全期望公式
-
全概率公式:
P(B)=∑k=1nP(B∣Ak)P(Ak)P(B)=\sum_{k=1}^{n} P\left(B \mid A_{k}\right) P\left(A_{k}\right) P(B)=k=1∑n?P(B∣Ak?)P(Ak?)
推廣:-
YYY離散時(shí):
P(A)=∑jP(A∣Y=yj)P(Y=yj)P(A) = \sum_{j} P(A|Y=y_j) P(Y=y_j) P(A)=j∑?P(A∣Y=yj?)P(Y=yj?) -
YYY連續(xù)時(shí):
P(A)=∫?∞+∞P(A∣Y=yj)fY(y)dyP(A) = \int_{-\infty}^{+\infty} P(A|Y=y_j) f_Y(y) dy P(A)=∫?∞+∞?P(A∣Y=yj?)fY?(y)dy
-
-
全期望公式
-
YYY離散時(shí):
E(X)=∑jE(X∣yj)P(Y=yj)E(X) = \sum_j E(X|y_j) P(Y=y_j) E(X)=j∑?E(X∣yj?)P(Y=yj?) -
YYY連續(xù)時(shí):
E(X)=∫?∞+∞E(X∣y)fY(y)dyE(X) = \int_{-\infty}^{+\infty} E(X|y) f_Y(y) dy E(X)=∫?∞+∞?E(X∣y)fY?(y)dy
-
Γ\GammaΓ函數(shù)
Γ\GammaΓ函數(shù)表達(dá)式:
Γ(α)=∫0+∞e?xxα?1dx\Gamma(\alpha) = \int_0^{+\infty} e^{-x} x^{\alpha-1} dx Γ(α)=∫0+∞?e?xxα?1dx
初值:
Γ(1)=1,Γ(12)=(π)\Gamma(1) = 1, \quad \Gamma(\frac{1}{2})=\sqrt{(\pi)} Γ(1)=1,Γ(21?)=(π)?
遞推關(guān)系:
Γ(n)=(n?1)Γ(n?1)=(n?1)!(x的系數(shù)的階乘)\Gamma(n) = (n-1) \, \Gamma(n-1) = (n-1)! \qquad\qquad\qquad \text{($x$的系數(shù)的階乘)} Γ(n)=(n?1)Γ(n?1)=(n?1)!(x的系數(shù)的階乘)
ch2 隨機(jī)過程的基本概念
§2.3 隨機(jī)過程的數(shù)字特征
給定隨機(jī)過程XT={X(t),t∈T}X_T=\{ X(t), t \in T \}XT?={X(t),t∈T},定義數(shù)字特征如下:
-
均值函數(shù):
mx(t)?E[X(t)]m_x(t) \triangleq E[X(t)] mx?(t)?E[X(t)] -
自相關(guān)函數(shù):
RX(s,t)?E[X(s)?X(t)]R_X(s,t) \triangleq E[X(s) \cdot X(t)] RX?(s,t)?E[X(s)?X(t)] -
自協(xié)方差函數(shù):
BX(s,t)?Cov[X(s),X(t)]=RX(s,t)?mX(s)mX(t)B_X(s,t) \triangleq Cov[X(s), X(t)] = R_X(s,t) - m_X(s) \, m_X(t) BX?(s,t)?Cov[X(s),X(t)]=RX?(s,t)?mX?(s)mX?(t) -
方差函數(shù):
DX(t)?D[X(t)]=E[(X?E(X))2]D_X(t) \triangleq D[X(t)] = E[(X - E(X))^2] DX?(t)?D[X(t)]=E[(X?E(X))2] -
均方差函數(shù):
σX(t)=DX(t)\sigma_X (t) = \sqrt{D_X(t)} σX?(t)=DX?(t)?
ch3 泊松過程
§3.1 泊松過程的定義
-
計(jì)數(shù)過程: 若N(t)N(t)N(t)表示在(0,t](0, t](0,t]內(nèi)事件A出現(xiàn)的總次數(shù),則稱隨機(jī)過程{N(t),t≥0}\{N(t), t \geq 0\}{N(t),t≥0}為計(jì)數(shù)過程.
-
獨(dú)立增量過程: 對任意t1<t2≤t3<t4∈Tt_1 < t_2 \leq t_3 < t_4 \in Tt1?<t2?≤t3?<t4?∈T,X(t2)?X(t1)X(t_2)-X(t_1)X(t2?)?X(t1?)與X(t4)?X(t3)X(t_4)-X(t_3)X(t4?)?X(t3?)相互獨(dú)立,則稱隨機(jī)過程X(t)X(t)X(t)為獨(dú)立增量過程.
-
平穩(wěn)增量過程: 對任意s,t,h∈Ts,t,h \in Ts,t,h∈T,X(t+h)?x(s+h)X(t+h)-x(s+h)X(t+h)?x(s+h)與X(t)?X(s)X(t)-X(s)X(t)?X(s)具有相同的分布,則稱隨機(jī)過程X(t)X(t)X(t)為平穩(wěn)增量過程.
-
泊松過程: 稱計(jì)數(shù)過程{X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是泊松過程,如果(t)(t)(t)滿足:
-
X(0)=0X(0)=0X(0)=0
-
X(t)X(t)X(t)是獨(dú)立增量過程
-
在任一長度為ttt的區(qū)間中,事件A發(fā)生的次數(shù)服從參數(shù)λt>0\lambda t > 0λt>0的泊松分布,即對任意s,t≥0s, t \geq 0s,t≥0,有:
P{X(t+s)?X(s)=n}=e?λt(λt)nn!n=0,1,2,...P\{ X(t+s) - X(s) = n \} = e^{- \lambda t} \frac{(\lambda t)^n}{n!} \qquad n=0,1,2,... P{X(t+s)?X(s)=n}=e?λtn!(λt)n?n=0,1,2,...
由E[X(t)]=λtE[X(t)]=\lambda tE[X(t)]=λt,故λ=E[X(t)]t\lambda = \frac{E[X(t)]}{t}λ=tE[X(t)]?表示過程的強(qiáng)度
§3.2 泊松過程的性質(zhì)
-
數(shù)字特征: 設(shè){X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是參數(shù)為λ\lambdaλ的泊松過程,對任意t,s∈[0,+∞),s<tt , s \in [0, +\infty), s<tt,s∈[0,+∞),s<t,有:
E[X(t)?X(s)]=D[X(t)?X(s)]=λ(t?s)E[X(t)-X(s)] = D[X(t) - X(s)] = \lambda (t-s) E[X(t)?X(s)]=D[X(t)?X(s)]=λ(t?s)mX(t)=E[X(t)]=E[X(t)?X(0)]=λtm_X(t) = E[X(t)] = E[X(t)-X(0)] = \lambda t mX?(t)=E[X(t)]=E[X(t)?X(0)]=λt
σX2(t)=D[X(t)]=D[X(t)?X(0)]=λt\sigma_X^2(t) = D[X(t)] = D[X(t)-X(0)] = \lambda t σX2?(t)=D[X(t)]=D[X(t)?X(0)]=λt
RX(s,t)=E[X(s),X(t)]=λs(λt+1)R_X(s,t) = E[X(s), X(t)] = \lambda s (\lambda t + 1) RX?(s,t)=E[X(s),X(t)]=λs(λt+1)
BX(s,t)=RX(s,t)?mX(s)mX(t)=λsB_X(s,t) = R_X(s,t) - m_X(s) m_X(t) = \lambda s BX?(s,t)=RX?(s,t)?mX?(s)mX?(t)=λs
-
等待(到達(dá))時(shí)間WnW_nWn?與時(shí)間間隔TnT_nTn?的分布:
WnW_nWn?表示第nnn個(gè)事件的等待(到達(dá))時(shí)間,TnT_nTn?表示第nnn個(gè)事件與第n?1n-1n?1個(gè)事件出現(xiàn)的時(shí)間間隔
-
時(shí)間間隔TnT_nTn?服從參數(shù)為λ\lambdaλ的指數(shù)分布,其概率分布函數(shù)和概率密度函數(shù):
FTn(t)=P{Tn≤t}={1?e?λt,t≥00,t<0F_{T_{n}}(t)= P\{T_{n} \leq t \}= \left\{\begin{array}{ll} 1-e^{-\lambda t}, & t \geq 0 \\ 0, & t<0 \end{array}\right. FTn??(t)=P{Tn?≤t}={1?e?λt,0,?t≥0t<0?fTn(t)={λe?λt,t≥00,t<0f_{T_{n}}(t)= \left\{\begin{array}{ll} \lambda e^{-\lambda t}, & t \geq 0 \\ 0, & t<0 \end{array}\right. fTn??(t)={λe?λt,0,?t≥0t<0?
-
到達(dá)時(shí)間WnW_nWn?服從Γ\GammaΓ分布,其概率密度函數(shù):
fWn(t)={λe?λt(λt)n?1(n?1)!,t≥00,t<0f_{W_n}(t)=\left\{\begin{array}{ll}\lambda e^{-\lambda t} \frac{(\lambda t)^{n-1}}{(n-1) !}, & t \geq 0 \\0, & t<0\end{array}\right. fWn??(t)={λe?λt(n?1)!(λt)n?1?,0,?t≥0t<0? -
到達(dá)時(shí)間分布的推論: 設(shè)TkT_kTk?表示強(qiáng)度為λ\lambdaλ的泊松過程第kkk次的到達(dá)時(shí)間,L1L_1L1?表示強(qiáng)度為μ\muμ的泊松過程第1次的到達(dá)時(shí)間
P{Tk<L1}=(λλ+μ)kP\{T_k < L_1\} = (\frac{\lambda}{\lambda + \mu}) ^ k P{Tk?<L1?}=(λ+μλ?)k
記: 考慮發(fā)生一個(gè)事件,該事件為事件1的概率為λλ+μ\frac{\lambda}{\lambda + \mu}λ+μλ?.考慮接下來連續(xù)發(fā)生的kkk件事,事件{Tk<L1}\{T_k < L_1\}{Tk?<L1?}等價(jià)于{接下來連續(xù)發(fā)生的k件事都是事件1}\{接下來連續(xù)發(fā)生的k件事都是事件1\}{接下來連續(xù)發(fā)生的k件事都是事件1}. -
到達(dá)時(shí)間的條件分布: 已知[0,t][0,t][0,t]內(nèi)事件AAA已經(jīng)發(fā)生1次,則這一事件到達(dá)時(shí)間W1W_1W1?的條件分布密度函數(shù):
fW1(s∣N(t)=1)={1t,0<s<t0,其他f_{W_1}(s | N(t)=1)= \left\{\begin{array}{ll} \frac{1}{t}, & 0<s<t \\ 0, & 其他 \end{array}\right. fW1??(s∣N(t)=1)={t1?,0,?0<s<t其他? -
到達(dá)時(shí)間的條件分布: 已知[0,t][0,t][0,t]內(nèi)事件AAA已經(jīng)發(fā)生nnn次,則第kkk次事件的發(fā)生時(shí)間WkW_kWk?的條件概率密度函數(shù):
fWk(s∣N(t)=n)={n!(k?1)!(n?k)!sk?1(t?s)n?ktn0<s<t0其它f_{W_{k}}(s | N(t)=n)= \left\{\begin{array}{cc} \frac{n !}{(k-1) !(n-k) !} \frac{s^{k-1}(t-s)^{n-k}}{t^{n}} & 0<s<t \\ 0 & 其它 \end{array}\right. fWk??(s∣N(t)=n)={(k?1)!(n?k)!n!?tnsk?1(t?s)n?k?0?0<s<t其它? -
到達(dá)時(shí)間的條件聯(lián)合分布: 已知[0,t][0,t][0,t]內(nèi)事件AAA已經(jīng)發(fā)生nnn次,則這nnn次到達(dá)時(shí)間W1,W2,...,WnW_1,W_2,...,W_nW1?,W2?,...,Wn?的聯(lián)合條件分布密度函數(shù):
fW1,W2,...,Wn(t1,t2,?,tn∣N(t)=n)={n!tn,0<t1<?<tn<t0,其他f_{W_1,W_2,...,W_n} (t_{1}, t_{2}, \cdots, t_{n} | N(t)=n)=\left\{\begin{array}{ll} \frac{n !}{t^{n}}, & 0<t_{1}<\cdots<t_{n}<t \\ 0, & 其他 \end{array}\right. fW1?,W2?,...,Wn??(t1?,t2?,?,tn?∣N(t)=n)={tnn!?,0,?0<t1?<?<tn?<t其他?
-
§3.3 非齊次泊松過程
-
定義: 稱計(jì)數(shù)過程{X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是非齊次泊松過程,如果(t)(t)(t)滿足:
-
X(0)=0X(0)=0X(0)=0
-
X(t)X(t)X(t)是獨(dú)立增量過程
-
在任一長度為ttt的區(qū)間中,事件A發(fā)生的次數(shù)服從參數(shù)為∫ss+tλ(u)du\int_s^{s+t}\lambda(u)du∫ss+t?λ(u)du的泊松分布,即對任意s,t≥0s, t \geq 0s,t≥0,有:
X(t+s)?X(s)~π(∫ss+tλ(u)du)X(t+s) - X(s) \sim \pi(\int_s^{s+t} \lambda(u)du) X(t+s)?X(s)~π(∫ss+t?λ(u)du)
λ(t)\lambda(t)λ(t)稱為速率函數(shù)
§3.4 復(fù)合泊松過程
-
定義: 設(shè){N(t),t≥0}\{N(t),t \geq 0 \}{N(t),t≥0}是泊松過程,{Yk,k=1,2,..}\{Y_k,k=1,2,.. \}{Yk?,k=1,2,..}是一系列獨(dú)立同分布的隨機(jī)變量,則稱
X(t)=∑n=1N(t)YnX(t) = \sum_{n=1}^{N(t)} Y_n X(t)=n=1∑N(t)?Yn?
為復(fù)合泊松過程. -
性質(zhì):
- {X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是獨(dú)立增量過程
- 若{N(t),t≥0}\{N(t),t \geq 0 \}{N(t),t≥0}是齊次泊松過程,則{X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是平穩(wěn)增量過程
-
數(shù)字特征:
- E(X)=E(N)E(Y1)E(X) = E(N) E(Y_1)E(X)=E(N)E(Y1?)
- D(X)=E(N)D(Y1)+D(N)E2(Y1)D(X) = E(N)D(Y_1) + D(N)E^2(Y_1)D(X)=E(N)D(Y1?)+D(N)E2(Y1?)
若{N(t),t≥0}\{N(t),t \geq 0 \}{N(t),t≥0}是齊次泊松過程,則:
- EX(t)=EN(t)E(Y1)=λtE(Y1)EX(t) = EN(t)E(Y_1) = \lambda t E(Y_1)EX(t)=EN(t)E(Y1?)=λtE(Y1?)
- DX(t)=EN(t)E(Y12)=λtE(Y12)DX(t) = EN(t)E(Y_1^2)=\lambda t E(Y_1^2)DX(t)=EN(t)E(Y12?)=λtE(Y12?)
- E(X)=E[E(X∣N)]=E[NE(Y!)]=E(N)E(Y1)E(X)=E[E(X|N)]=E[NE(Y_!)]=E(N)E(Y_1)E(X)=E[E(X∣N)]=E[NE(Y!?)]=E(N)E(Y1?)
ch4 馬爾可夫過程
§4.3 馬爾可夫鏈的狀態(tài)關(guān)系與屬性
-
周期性:
定義d=GCD{n:pii(n)>0,n>0}d=GCD\{ n:p_{ii}^{(n)}>0, n>0 \}d=GCD{n:pii(n)?>0,n>0}為狀態(tài)iii的周期
- 若d>1d>1d>1,則稱狀態(tài)iii為周期的
- 若d=1d=1d=1,則稱狀態(tài)iii為非周期的
-
常返性:
定義fij(n)=P(Xn=j,Xk≠j,1≤k≤n?1∣X0=i)f_{ij}^{(n)} = P(X_n=j,X_k \ne j,1 \leq k \leq n-1 | X_0=i)fij(n)?=P(Xn?=j,Xk??=j,1≤k≤n?1∣X0?=i)為首達(dá)概率
定義fij=∑n=1+∞fij(n)f_{ij} = \sum_{n=1}^{+\infty} f_{ij}^{(n)}fij?=∑n=1+∞?fij(n)?為遲早概率
- 若fii=1f_{ii} = 1fii?=1,則稱狀態(tài)iii為常返的
- 若fii<1f_{ii} < 1fii?<1,則稱狀態(tài)iii為非常返的
定義TiT_iTi?表示狀態(tài)iii的首次返回時(shí)間,定義μi=E(Ti)=∑n=1+∞nfii(n)\mu_i=E(T_i)=\sum_{n=1}^{+\infty} n f_{ii}^{(n)}μi?=E(Ti?)=∑n=1+∞?nfii(n)?表示常返狀態(tài)iii的平均返回時(shí)間
- 若μi<∞\mu_i < \inftyμi?<∞,則稱狀態(tài)iii為正常返的
- 若μi=∞\mu_i = \inftyμi?=∞,則稱狀態(tài)iii為零常返的
-
可達(dá)與互通性:
互通狀態(tài)的周期和常返性是相同的,但平均返回時(shí)間不一定相同.
§4.4 狀態(tài)空間的分解
-
狀態(tài)空間的分解
-
不可約?兩兩互通
-
閉集?狀態(tài)出不去
任一馬氏鏈的狀態(tài)空間III,都可以唯一分解為互不相交的子集D,C1,C2,...D,C_1,C_2,...D,C1?,C2?,...之和,其中:
-
- DDD是所有非常返態(tài)的集合
- 每一個(gè)CiC_iCi?都是不可約的常返閉集
-
(常返態(tài)的傳遞性): 若狀態(tài)iii常返,i→ji \rarr ji→j,則:
- jjj常返
- i?ji \harr ji?j
- fij=1,fjif_{ij}=1, f_{ji}fij?=1,fji?
§4.5 轉(zhuǎn)移概率極限與平穩(wěn)分布
-
轉(zhuǎn)移概率的極限lim?n→∞pij(n)\lim_{n \rarr \infty} p_{ij} ^{(n)}limn→∞?pij(n)?
- 若jjj為非常返或零常返態(tài),則lim?n→∞pij(n)=0\lim_{n \rarr \infty} p_{ij} ^{(n)} = 0limn→∞?pij(n)?=0
- 若jjj為正常返,非周期,則lim?n→∞pij(n)=fijμj\lim_{n \rarr \infty} p_{ij} ^{(n)} = \frac{f_{ij}}{\mu_j}limn→∞?pij(n)?=μj?fij??
- 若jjj為正常返,周期dj>1d_j>1dj?>1時(shí):
- 若i→ji \rarr ji→j,則lim?n→∞pij(n)\lim_{n \rarr \infty} p_{ij} ^{(n)}limn→∞?pij(n)?不存在
- 若iii不可達(dá)jjj,則lim?n→∞pij(n)=0\lim_{n \rarr \infty} p_{ij} ^{(n)} = 0limn→∞?pij(n)?=0
-
平穩(wěn)分布π=(π1,π2,...)\pi = (\pi_1,\pi_2,...)π=(π1?,π2?,...)滿足方程:
{π=πP∑i∈Iπi=1\left\{\begin{array}{l} \pi = \pi P \\ \sum_{i \in I} \pi_i=1 \end{array}\right. {π=πP∑i∈I?πi?=1? -
若馬氏鏈?zhǔn)遣豢杉s非周期的,則如下3個(gè)命題是等價(jià)的:
- 該鏈為正常返
- 該鏈存在極限分布
- 該鏈存在平穩(wěn)分布
且當(dāng)上述分布存在時(shí),極限分布{1μi,i∈I}\{\frac{1}{\mu_i}, i \in I\}{μi?1?,i∈I}就是平穩(wěn)分布{πi,i∈I}\{\pi_i, i \in I\}{πi?,i∈I}.
pdf版本筆記的下載地址: 華北電力大學(xué)《隨機(jī)過程·2020年冬》復(fù)習(xí)筆記(訪問密碼:3834)
總結(jié)
以上是生活随笔為你收集整理的华北电力大学《随机过程·2020年冬》复习笔记的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: SUSE Linux Enterpris
- 下一篇: MateBoook x pro 2020