信息論測試題及答案

1、一、設(shè)一、設(shè)X、Y是兩個(gè)相互統(tǒng)計(jì)獨(dú)立的二元隨機(jī)變量，其取是兩個(gè)相互統(tǒng)計(jì)獨(dú)立的二元隨機(jī)變量，其取11或1的概率相等。定義另一的概率相等。定義另一個(gè)二元隨機(jī)變量個(gè)二元隨機(jī)變量Z，取，取Z=YXZ=YX（一般乘積）（一般乘積）。試計(jì)算：。試計(jì)算：1.H1.H（Y）、H（Z）；2.H2.H（YZYZ）；3.I3.I（XYXY）、I（YZYZ）；二、如圖所示為一個(gè)三狀態(tài)馬爾科夫信源的轉(zhuǎn)移概率矩陣二、如圖所示為一個(gè)三狀態(tài)馬爾科夫信源的轉(zhuǎn)移概率矩陣1

2、.繪制狀態(tài)轉(zhuǎn)移圖；繪制狀態(tài)轉(zhuǎn)移圖；2.求該馬爾科夫信源的穩(wěn)態(tài)分布；求該馬爾科夫信源的穩(wěn)態(tài)分布；3.求極限熵；求極限熵；三、在干擾離散對(duì)稱信道上傳輸符號(hào)三、在干擾離散對(duì)稱信道上傳輸符號(hào)1和0，已知，已知P（0）=14P(1)=34=14P(1)=34試求：試求：1.1.信道轉(zhuǎn)移概率矩陣信道轉(zhuǎn)移概率矩陣P2.2.信道疑義度信道疑義度3.3.信道容量以及其輸入概率分布信道容量以及其輸入概率分布四、某信道的轉(zhuǎn)移矩陣四、某信道的轉(zhuǎn)移矩陣，求信道容

3、量，最佳輸入概率分，求信道容量，最佳輸入概率分???????1.006.03.001.03.06.0P布。布。五、求下列各離散信道的容量（其條件概率五、求下列各離散信道的容量（其條件概率P(YX)P(YX)如下：）如下：）六、六、求以下各信道矩陣代表的信道的容量求以下各信道矩陣代表的信道的容量H(YZ)=H(X)H(Y)=11=2bitH(YZ)=H(X)H(Y)=11=2bit符號(hào)符號(hào)3.3.X與Y相互獨(dú)立，故相互獨(dú)立，故H(X|Y)

4、=H(X)=1bitH(X|Y)=H(X)=1bit符號(hào)符號(hào)?I（XYXY）=H(X)H(X|Y)=11=0bit=H(X)H(X|Y)=11=0bit符號(hào)符號(hào)?I(YZ)=H(Y)H(Y|Z)=H(Y)[H(YZ)H(Z)]=0I(YZ)=H(Y)H(Y|Z)=H(Y)[H(YZ)H(Z)]=0bitbit符號(hào)符號(hào)二、如圖所示為一個(gè)三狀態(tài)馬爾科夫信源的轉(zhuǎn)移概率矩陣二、如圖所示為一個(gè)三狀態(tài)馬爾科夫信源的轉(zhuǎn)移概率矩陣2.繪制狀態(tài)轉(zhuǎn)移圖；繪

5、制狀態(tài)轉(zhuǎn)移圖；2.求該馬爾科夫信源的穩(wěn)態(tài)分布；求該馬爾科夫信源的穩(wěn)態(tài)分布；3.求極限熵；求極限熵；解：解：1.1.狀態(tài)轉(zhuǎn)移圖如右圖狀態(tài)轉(zhuǎn)移圖如右圖2.2.由公式由公式可得其三個(gè)狀態(tài)的穩(wěn)態(tài)概率為：可得其三個(gè)狀態(tài)的穩(wěn)態(tài)概率為：31()()(|)jijiipEPEPEE???1123223313123111()()()()22411()()()2211()()()24()()()1PEPEPEPEPEPEPEPEPEPEPEPEPE?????