信息論與編碼技術+(馮桂+林其偉+陳東華+著)+清華大學出版社+課后答案.pdf

Chap1 思考題與習題 參考答案

1.1 信息論與編碼技術研究的主要內容是什么？

信息論是一門應用概率論、隨機過程、數理統計和近代代數的方法，來研究廣義的信息傳輸、提取

和處理系統中一般學科。編碼技術研究的主要內容是如何既可靠又有效地傳輸信息。

1.2 簡述信息理論與編碼技術的發展簡史。

1948年香農在貝爾系統技術雜志上發表了兩篇有關“通信的數學理論”的文章。在這兩篇論文中，

他用概率論測度和數理統計的方法系統地討論了通信的基本問題，得出了及格重要而帶有普遍意義的結

論，并由此奠定了現代信息論的基礎。

從 1948 年開始，信息論的出現引起了一些有名的數學家如柯爾洛夫、A.Feinstein、J.Wolfowitz 等

人的興趣，他們將香農已得到的數學結論做了進一步的嚴格論證和推廣，使這一理論具有更為堅實的數

學基礎。

在研究香農信源編碼定理的同時，另外一部分科學家從事尋找最佳編碼(糾錯碼)的研究工作，并

形成一門獨立的分支——糾錯碼理論。

1959 年香農發表了“保真度準則下的離散信源編碼定理”，首先提出了率失真函數及率失真信源

編碼定理。從此，發展成為信息率失真編碼理論。

香農 1961年的論文“雙路通信信道”開拓了網絡信息論的研究。

現在，信息理論不僅在通信、計算機以及自動控制等電子學領域中得到直接的應用，而且還廣泛地

滲透到生物學、醫學、生理學、語言學、社會學、和經濟學等領域。

1.3 簡述信息與消息、信號的定義以及三者之間的關系。

信息就是事物運動的狀態和方式，就是關于事物運動的千差萬別的狀態和方式的知識。

用文字、符號、數據、語言、音符、圖像等能夠被人們感覺器官所感知的形式，把客觀物質運動和

主觀思維活動的狀態表達出來成為消息。

把消息變換成適合信道傳輸的物理量，這種物理量稱為信號。

它們之間的關系是：消息中包含信息，是信息的載體；信號攜帶消息，是消息的運載工具。

1.4 簡述一個通信系統包括的各主要功能模塊及其作用。

通信系統主要分成下列五個部分：

(1)信息源。 信源是產生消息和消息序列的源。

(2)編碼器。 編碼是把消息變換成信號的措施。

(3)信道。信道是指通信系統把載荷消息的信號從甲地傳到乙地的媒介。

(4)譯碼器。譯碼就是把信道輸出的編碼信號(已疊加了干擾)進行反變換。

(5)信宿。 信宿是消息傳送的對象，即接收消息的人或機器。

1.5 你有沒有接觸與考慮過信息與信息的測度問題，你如何理解這些問題？

略。

1.6 什么是事物的不確定性？不確定性如何與信息的測度發生關系？

由于主、客觀事物運動狀態或存在狀態是千變萬化的、不規則的、隨機的。所以在通信以前，收信

者存在“疑義”和“不知”，即不確定性。

用數學的語言來講，不確定就是隨機性，具有不確定性的事件就是隨機事件。因此，可運用研究隨

機事件的數學工具——概率論和隨機過程來測度不確定性的大小。

1.7 試從你的實際生活中列舉出三種不同類型的通信系統模型，并說明它們的信源、信道結構，寫出

它們的消息字母表、輸入與輸出字母表及它們的概率分布與條件概率分布。

略。

1.8 在你日常生活中出現過哪些編碼問題？能否用編碼函數給以描述？

略。

Chap2 思考題與習題 參考答案

2.1 同時扔一對均勻的骰子，當得知“兩骰子面朝上點數之和為 2”或“兩骰子面朝上點數之和為 8”或“兩

骰子面朝上點數是 3和 4”時，試問這三種情況分別獲得多少信息量？

解：同時扔一對均勻的骰子，可能呈現的狀態數有 36種，各面呈現的概率為 1/6，所以 36種中任何一

種狀態出現的概率都是相等，為 1/36。

(1)設 “兩骰子面朝上點數之和為 2”為事件 A。在 36 種情況中，只有一種情況，即 1+1。則

2

( ) 1/ 36

( ) log ( ) log 36 5.17(

P A

I A P A

=

= ? = ≈ 比特)

(2)設 “兩骰子面朝上點數之和為 8”為事件 B。在 36種情況中，有六種情況，即 5+3，3+5，2+6，

6+2，4+4。

則

2

( ) 5 / 36

36( ) log ( ) log 2.85(

5

P B

I B P B

=

= ? = ≈ 比特)

(3)設 “兩骰子面朝上點數是 3和 4”為事件 C。在 36種情況中，有兩種情況，即 3+4和 4+3。

則

2

( ) 2 / 36

( ) log ( ) log 18 4.17(

P C

I C P C

=

= ? = ≈ 比特)

2.2 同時擲兩個均勻的骰子，也就是各面呈現的概率都是 1/6，求：

(1) 事件“3和 5同時出現”的自信息量；

總結

以上是生活随笔為你收集整理的信息论与编码冯桂周林著答案_信息论与编码技术+(冯桂+林其伟+陈东华+著)+清华大学出版社+课后答案.pdf...的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。