分布式信源編碼研究.pdf

1、在傳感器網(wǎng)絡(luò)、多視角視頻壓縮系統(tǒng)等應(yīng)用領(lǐng)域，傳感器節(jié)點(diǎn)能量有限，同時(shí)計(jì)算能力受到限制，所以傳統(tǒng)的信源編碼，如視頻編碼，并不適用于這些應(yīng)用領(lǐng)域。為了能夠設(shè)計(jì)出編碼簡(jiǎn)單的傳感器節(jié)點(diǎn)，分布式信源編碼采用了編碼器之間互不協(xié)作的編碼方式，每個(gè)編碼器只需要對(duì)自己觀測(cè)到的信源進(jìn)行獨(dú)立編碼，解碼器在獲得所有的壓縮碼流之后通過(guò)信源之間的相關(guān)性來(lái)聯(lián)合解碼。采用這種互不協(xié)作的編碼方式可以給編碼器帶來(lái)兩個(gè)方面的增益：其一，編碼器之間沒(méi)有通信開(kāi)銷(xiāo)：其二，由于編碼

2、器只對(duì)自己觀測(cè)到的信源進(jìn)行獨(dú)立編碼，不需要計(jì)算信源之間的相關(guān)性，所以可以有效的降低編碼器的計(jì)算量。盡管互不協(xié)作的編碼方式可以給編碼器帶來(lái)上述增益，但同時(shí)會(huì)給模型的其他模塊帶來(lái)一定的代價(jià)。代價(jià)一，與相互協(xié)作的編碼方式相比，分布式編碼模型中的編碼器互不協(xié)作，所以需要用更多的比特來(lái)描述信源，這部分增加的比特會(huì)加重編碼器和解碼器之間的通信開(kāi)銷(xiāo)。如何估計(jì)這部分額外增加的比特是本文的研究?jī)?nèi)容之一。代價(jià)二，信源之間是有統(tǒng)計(jì)相關(guān)性的，但分布式編碼采用的

3、是互不協(xié)作的編碼方式，所以計(jì)算信源相關(guān)性的工作就從編碼端轉(zhuǎn)移到解碼端，增加了解碼器的計(jì)算復(fù)雜度。針對(duì)這種情況，本文的第二個(gè)研究?jī)?nèi)容是從實(shí)際的分布式編碼方案入手，針對(duì)基于壓縮感知的分布式編碼模型，提出新的信號(hào)重建算法，有效的降低算法的計(jì)算量。
　　本文的第一個(gè)工作是估計(jì)了采用互不協(xié)作的編碼方式所增加的編碼器與解碼器之間的通信開(kāi)銷(xiāo)。這部分工作主要是針對(duì)Wyner-Ziv情況下的分布式編碼模型，其特點(diǎn)是解碼器可以獲得與信源統(tǒng)計(jì)相關(guān)的邊信

4、息。在Wyner-Ziv情況下的分布式編碼模型中，如果只有一個(gè)信源時(shí)，模型就退化為Wyner-Ziv編碼；如果解碼器沒(méi)有邊信息時(shí)，模型就退化為傳統(tǒng)的分布式編碼。本文首次針對(duì)該模型定義了碼率損失，分別在信源和邊信息服從任意分布以及聯(lián)合高斯分布的情況下，通過(guò)計(jì)算條件率失真函數(shù)和理論推導(dǎo)，得到了相應(yīng)的碼率損失的上界。按照信源和邊信息服從不同的概率結(jié)構(gòu)，具體貢獻(xiàn)包括：
　　(1)對(duì)于服從任意分布的信源和邊信息，本文首先估計(jì)了條件聯(lián)合率失真

5、函數(shù)的上界和下界，在此基礎(chǔ)上，針對(duì)不同的重建失真，通過(guò)數(shù)學(xué)推導(dǎo)，得到了碼率損失的上界，并證明了總碼率的損失小于1比特/符號(hào)，由此證明了，在Wyner-Ziv下的分布式編碼中，互不協(xié)作的編碼方式所額外帶來(lái)的編碼器與解碼器之間的通信開(kāi)銷(xiāo)不會(huì)超過(guò)1比特/符號(hào)。
　　(2)對(duì)于服從聯(lián)合高斯分布的信源和邊信息，本文在計(jì)算條件率失真函數(shù)的基礎(chǔ)上，通過(guò)估計(jì)關(guān)鍵參數(shù)K1和K2，得到了碼率損失的上界。該上界僅依賴(lài)于信源分布的參數(shù)，獨(dú)立于信源的重建失

6、真。
　　(3)將本文的結(jié)論退化到傳統(tǒng)的分布式編碼模型中，針對(duì)聯(lián)合高斯信源，本文在重建失真較大時(shí)，將Feng的上界從2.5比特/符號(hào)降低到1.5比特/符號(hào)；在重建失真較小時(shí)，將Feng的上界從2.5比特/符號(hào)降低到1.5+(1/2)log2(3)比特/符號(hào)。
　　采用互不協(xié)作的編碼方式不但會(huì)增加編碼器與解碼器之間的通信開(kāi)銷(xiāo)，而且會(huì)增加解碼器的計(jì)算復(fù)雜度。本文的第二個(gè)工作是從實(shí)際的分布式編碼算法出發(fā)，分析了分布式壓縮感知模型。

7、在這個(gè)模型中，編碼器采用了壓縮感知技術(shù)，只需要對(duì)信號(hào)進(jìn)行線(xiàn)性變換，這種編碼方案非常適合傳感器網(wǎng)絡(luò)對(duì)節(jié)點(diǎn)的編碼要求，在解碼端，Baraniuk等人提出了基于貪婪追蹤的信號(hào)重建算法。針對(duì)這種貪婪追蹤算法，本文從單個(gè)信號(hào)入手，把感知矩陣看成詞典，通過(guò)幾何化詞典，誘導(dǎo)出詞典的圖結(jié)構(gòu)。在圖結(jié)構(gòu)的研究基礎(chǔ)上，本文提出了幾何搜索算法，并分析了圖結(jié)構(gòu)的相關(guān)性質(zhì)。具體貢獻(xiàn)包括：
　　(1)幾何化詞典。把詞典中的每個(gè)詞都看成是空間中單位球面上的一個(gè)點(diǎn)

8、。從這個(gè)觀點(diǎn)出發(fā)，定義了由詞典生成的凸多面體，通過(guò)凸多面體，誘導(dǎo)出詞典的圖結(jié)構(gòu)。圖結(jié)構(gòu)本質(zhì)上是詞典的拓?fù)浣Y(jié)構(gòu)，它是由凸多面體中的頂點(diǎn)和邊組成的。
　　(2)如何使用圖結(jié)構(gòu)來(lái)減少信號(hào)重建時(shí)的計(jì)算量?針對(duì)單個(gè)信號(hào)時(shí)的重建算法，本文提出了基于圖結(jié)構(gòu)的幾何搜索算法，避免了原算法中的全局搜索，可以有效的降低計(jì)算量。通過(guò)研究凸多面體的性質(zhì)，本文證明了在圖結(jié)構(gòu)是已知的條件下，幾何搜索算法可以找到最優(yōu)值。在此基礎(chǔ)上，本文將幾何搜索算法推廣到多個(gè)信

9、號(hào)的情況，有效的降低了信號(hào)重建的計(jì)算量。
　　幾何搜索算法的關(guān)鍵是需要事先獲得詞典的圖結(jié)構(gòu)。為此，本文針對(duì)構(gòu)造詞典的圖結(jié)構(gòu)，提出并解決了如下的兩個(gè)問(wèn)題。
　　(3)圖結(jié)構(gòu)中包含多少條邊?對(duì)于擁有n個(gè)詞的詞典，本文從隨機(jī)幾何學(xué)的角度出發(fā)，估計(jì)了圖結(jié)構(gòu)中邊的個(gè)數(shù)。當(dāng)n個(gè)詞服從單位球面上的均勻分布時(shí)，本文證明了邊的個(gè)數(shù)的期望值幾乎就是n的線(xiàn)性關(guān)系。該結(jié)論說(shuō)明我們可以用幾乎O(n)量級(jí)的空間來(lái)有效的存儲(chǔ)圖結(jié)構(gòu)。本文的結(jié)果同時(shí)部分回答

10、了Reitzner的猜想，他的猜想是(參考文獻(xiàn)[1]中第二章第四節(jié))：當(dāng)n個(gè)隨機(jī)向量服從凸體邊界(theboundaryofaconvexbody)上的給定分布時(shí)，在這n個(gè)向量所生成的凸多面體中，邊個(gè)數(shù)的期望值是cn+o(n)，其中c是和凸體有關(guān)的參數(shù)。我們的結(jié)論在凸體邊界是球面的情況下證明了Reitzner的猜想。
　　(4)如何生成圖結(jié)構(gòu)中的邊?因?yàn)樵诳臻gRd中擁有n個(gè)頂點(diǎn)的凸多面體至少有n[d/2]個(gè)超平面，所以使用凸多面體