UA MATH636 信息論7 并行高斯信道簡介

考慮并行的高斯信道：將一個長信號分為$k$段，走一個并行的高斯信道，被接受后再把信號拼起來。每一個高斯信道的輸入為$X_i,i=1,?,k$，輸出為$Y_i,i=1?,k$，高斯白噪聲為$Z_i,i=1,?,k$（不同信道的噪聲互相獨立），既然這一講是簡介，就先不考慮濾波器了，假設$Y_i=X_i+Z_i$。

inputinputinputinputinputinputSignal 1+Noise 1Filter 1Receiver 1Signal 2+Noise 2Filter 2Receiver 2...Signal k+Noise kFilter kReceiver k

假設每個高斯信道的功率為$P_i$，并行高斯信道的功率上限為$P$，則這個并行高斯信道的容量為
$$C=\underset{{\sum }_{i=1}^k{P}_i\le P}{\max }I(X_1,?,X_k;Y_1,?,Y_k)$$
計算
$$I(X_1,?,X_k;Y_1,?,Y_k)=h(Y_1,?,Y_k)?h(Y_1,?,Y_k|X_1,?,X_k)$$
其中
$$\begin{gathered} h(Y_1,?,Y_k|X_1,?,X_k)=h(X_1+Z_1,?,X_k+Z_k|X_1,?,X_k) \\ =h(Z_1,?,Z_k|X_1,?,X_k)=h(Z_1,Z_2,?,Z_k)=\sum _{i=1}^k{Z}_i \end{gathered}$$
所以
$$\begin{gathered} I(X_1,?,X_k;Y_1,?,Y_k)=\sum _{i=1}^{k}h(Y_i)?h(Z_i) \\ \le \sum _{i=1}^k\left(\frac{1}{2}\ln (2\pi e(P_i+N_i))?\frac{1}{2}\ln (2\pi e{N}_i)\right)=\sum _{i=1}^k\frac{1}{2}\ln (1+\frac{P_i}{N_i}) \end{gathered}$$
當且僅當$X_i{～}_{iid}N(0,P_i)$時取等。
因此
$$C=\underset{{\sum }_{i=1}^k{P}_i\le P}{\max }\sum _{i=1}^k\frac{1}{2}\ln (1+\frac{P_i}{N_i})$$
這個是個凸優化問題，最優解一定在邊界取得，可以用Lagrange方法來解。定義
$$\begin{gathered} L(P_1,?,P_k)=\sum _{i=1}^k\frac{1}{2}\ln (1+\frac{P_i}{N_i})?\lambda (\sum _{i=1}^k{P}_i?P) \\ \frac{?L}{?P_i}=\frac{1}{2(P_i+N_i)}+\lambda =0?\frac{1}{P_i+N_i}=?2\lambda =\nu \end{gathered}$$
因為$P_i$是功率，因此
$$P_i=\max \{0,\nu ?N_i\}=(\nu ?N_i{)}_{+}$$
根據${\sum }_{i=1}^k{P}_i=P$，
$$\sum _{i=1}^k(\nu ?N_i{)}_{+}=P$$
這個方程沒有解析解，但這個解一般被稱為Water-falling solution。

《新程序員》：云原生和全面數字化實踐50位技術專家共同創作，文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的UA MATH636 信息论7 并行高斯信道简介的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。