視覺感知的稀疏編碼理論及其應(yīng)用研究.pdf

1、在大腦接收的來自外部世界的感知信息中，80％以上是通過視覺系統(tǒng)進行加工處理的。最近二十多年來，視覺信息加工的機制是心理學、神經(jīng)科學、計算機科學等學科研究的重大課題之一。人們廣泛認為，生物視覺系統(tǒng)在長期進化和發(fā)展中，自適應(yīng)于自然環(huán)境中輸入刺激的統(tǒng)計特性，但是生物視覺系統(tǒng)是怎樣對外界環(huán)境的刺激模式做出響應(yīng)?Attneave，Barlow和Olshausen & Field等從信息論出發(fā)，發(fā)展了稀疏編碼理論，認為在視覺系統(tǒng)V1區(qū)神經(jīng)細胞的處理

2、過程中，一個重要的約束就是編碼的稀疏性，從而利用較少的資源盡可能有效地編碼更多的信息。稀疏編碼理論在視神經(jīng)細胞的響應(yīng)特性和外部環(huán)境刺激的統(tǒng)計特性之間建立一種科學的數(shù)量聯(lián)系，逐漸成為了一種有效理解人類神經(jīng)系統(tǒng)信息加工機制的理論工具，是國際神經(jīng)計算，神經(jīng)網(wǎng)絡(luò)和人工智能方面的一個研究熱點。 本論文以稀疏編碼模型和理論為基礎(chǔ)，從模擬大腦信息處理方式出發(fā)，在理論上進行創(chuàng)新性的探索，并將模型和理論成功地應(yīng)用于計算機視覺的圖像檢索領(lǐng)域中。取得

3、的主要成果包括： 第一，面向知覺任務(wù)的稀疏編碼模型最近的心理學和生理學研究成果表明，簡單細胞的信息處理過程并不僅僅是一個數(shù)據(jù)驅(qū)動的過程，它還受知覺任務(wù)的影響，本文在Olshausen和Field提出的數(shù)據(jù)驅(qū)動的稀疏編碼模型基礎(chǔ)上，設(shè)計了面向知覺任務(wù)的稀疏編碼模型(簡稱TOSC)，TOSC模型探索了什么信息應(yīng)該被編碼的問題，也就是What-問題。在從輸入空間到系數(shù)空間的編碼過程中，為了提高編碼系數(shù)空間的可分性，我們引入了模式分類任

4、務(wù)的監(jiān)督信息一判別距離，結(jié)合稀疏編碼的約束條件形成新的代價函數(shù)(Cost function)，然后，優(yōu)化學習得到面向模式分類任務(wù)的稀疏編碼模型；通過二分類任務(wù)(自然風景和建筑物的分類)的實驗，我們驗證了面向知覺任務(wù)稀疏編碼模型的有效性。 第二，雙層反饋稀疏編碼模型最近的研究成果表明，初級視皮層的加工過程遠非簡單的局部特征抽取，相反，它的加工是動態(tài)的、交互的和可塑的，它的加工過程受高級皮層的視覺推理和任務(wù)以及行為經(jīng)驗的影響。本文擴

5、展了單層的基于ICA算法的稀疏編碼模型，在多層感知機的基礎(chǔ)上，我們提出了一個帶反饋機制的雙層稀疏編碼模型(簡稱TLF-SC)，在TLF-SC模型中，神經(jīng)細胞的響應(yīng)除了受稀疏編碼準則的影響，即保持神經(jīng)細胞響應(yīng)的統(tǒng)計獨立性，同時它還受到反饋信號的調(diào)節(jié)，使得神經(jīng)細胞的編碼能更加適應(yīng)于高層的知覺任務(wù)。我們的仿真結(jié)果表明，TLF-SC模型的ICL神經(jīng)元既表現(xiàn)出類似V1區(qū)簡單細胞感受野的特性，也表現(xiàn)出對知覺任務(wù)的自適應(yīng)性，同時TLF-SC模型還能取

6、得比較好的分類性能。 第三，基于注意機制的稀疏編碼模型我們研究發(fā)現(xiàn)對作用于同一個輸入刺激的簡單 細胞群來說，激活的簡單細胞的比例仍然比較高，約占70％。另外，神經(jīng)系統(tǒng)計算資源有限，外部輸入刺激也不是同等重要，所以我們在有效編碼框架中引入了數(shù)據(jù)驅(qū)動的注意選擇機制，提出了基于注意機制的稀疏編碼模型(AGSC模型)。我們對AGSC模型進行了仿真和驗證，實驗結(jié)果表明，AGSC能進一步的提高稀疏編碼模型的稀疏性，減少對神經(jīng)系統(tǒng)資源

7、的需求，同時，它能過濾輸入刺激中的次要信息，而保留輸入刺激中的主要信息。 第四，ICA系數(shù)紋理特征紋理特征是基于內(nèi)容的圖像檢索(簡稱CBIR)中應(yīng)用最廣泛的低層視覺特征之一。本文通過稀疏編碼模型從紋理圖像集中學習到統(tǒng)計的紋理基，這種紋理基具有類似于Gabor濾波器的響應(yīng)特性，而且它的響應(yīng)系數(shù)具有良好的統(tǒng)計獨立性?；谶@種紋理基的系數(shù)，我們提出了ICA系數(shù)紋理特征表示方法和抽取算法。在Brodatz紋理庫和VisTex紋理庫中的實