信息論與編碼理論1b卷答案

1、第1頁共5頁20112012信息論與編碼理論信息論與編碼理論1B卷答案卷答案一、一、單項(xiàng)選擇題（每題單項(xiàng)選擇題（每題3分，總計(jì)分，總計(jì)15分）分）1當(dāng)?shù)诪闀r，熵的單位為（C）。eA奈特B哈特C奈特符號D哈特符號2下列關(guān)系式中(B)正確。AB)()(XIYXI?)()(YXIYXH?CD)|()|(XYHYXH?)()(YXHYXI?3下列（D）陳述是正確的。AShannon編碼是最優(yōu)碼BLZ編碼是異字頭碼CHuffman編碼可以不需要知

2、道信源的分布D典型序列的數(shù)目不一定比非典型的多4下列數(shù)組中（A）不滿足二個字母上的Kraft不等式。A(1，1，1)B(2222)C(333)D（4，4，4）5下列（D）是只對輸出對稱的。ABCD????????????316121216131??????????2.04.04.04.02.04.04.04.02.0????????????????323131323231????????2.04.04.04.02.02.0二、填空題（每

3、空二、填空題（每空2分，總計(jì)分，總計(jì)20分）分）1若二元離散無記憶中，，則當(dāng)給出比特的信源序列，其中25.0)0(?p75.0)1(?p100有個，則其自信息為比特，整個序列的熵為比特符號.513log52002?)3log432(1002?2若某離散信道信道轉(zhuǎn)移概率矩陣為，則其信道容量為??????????5.025.025.025.05.025.025.025.05.0比特符號；轉(zhuǎn)移概率矩陣為，則其信道容量為5.13log2????

4、???????25.05.025.05.025.025.025.025.05.0比特符號。5.13log2?3.兩個相同的BSC做級聯(lián)信道，其信道轉(zhuǎn)移矩陣分別為，則級聯(lián)信道的????????pppp11信道轉(zhuǎn)移矩陣為，無窮多個級聯(lián)后的矩陣為。????????????22222212222221pppppppp??????5.05.05.05.04若一個信道的輸入熵為比特符號，輸出熵為比特符號，6.2)(?XH3.2)(?YH第3頁共5頁

5、==)0()00()0|0(??????YPYXpYXp1)1()10()1|0(??????YPYXpYXp31=0=)0()01()0|1(??????YPYXpYXp)1()11()1|1(??????YPYXpYXp32)1|0(log)10()0|0(log)00()|(22ppppYXH???)1|1(log)11()0|1(log)01(22pppp??==比特符號.32log210log031log411log41222

6、2????213log432?Z01p2121=1=0)0()00()0|0(??????ZPZXpZXp)1()10()1|0(??????ZPZXpZXp=0=1)0()01()0|1(??????ZPZXpZXp)1()11()1|1(??????ZPZXpZXp則)1()1|1(log)11()1()0|1(log)01()0()1|0(log)10()0()0|0(log)00()(2222????????XpppXpppXp