局部保持的流形學(xué)習(xí)理論及其在視覺信息分析中的應(yīng)用.pdf

1、視覺是人類智能的重要組成部分，同時(shí)視覺信息數(shù)據(jù)也是人類最復(fù)雜和最有用的感覺輸入信息。研究視覺信息的計(jì)算理論和算法，希望計(jì)算機(jī)具有人類的視覺這樣的模式識別能力，是人類在基礎(chǔ)研究和應(yīng)用研究中所面臨的最重大的挑戰(zhàn)之一。目前，基于計(jì)算機(jī)的視覺信息分析的理論還不完善，對視覺信息的分析和研究還在廣泛進(jìn)行。
　　 雖然數(shù)據(jù)量巨大、維數(shù)高、非結(jié)構(gòu)化的視覺信息數(shù)據(jù)能夠提供更多方面的更完整的信息，但維數(shù)膨脹引發(fā)的“維數(shù)災(zāi)難”(curses of d

2、imensionality)不可避免，因此在視覺信息數(shù)據(jù)分析中，維數(shù)約減技術(shù)經(jīng)常是有用的甚至是必須的。傳統(tǒng)的線性降維方法包括Principal Component Analysis(PCA)、Multi-Dimensional Scale(MDS)Linear Discriminant Analysis(LDA)等，它們的優(yōu)點(diǎn)是涉及的數(shù)學(xué)理論較簡單，并能產(chǎn)生顯式的映射變換。但是現(xiàn)實(shí)中的高維數(shù)據(jù)(如視覺信息)大多是復(fù)雜的非線性結(jié)構(gòu)，線性方

3、法很難挖掘其數(shù)據(jù)結(jié)構(gòu)和相關(guān)性。
　　 以LLE為代表的局部保持的流形學(xué)習(xí)方法具有廣泛的應(yīng)用背景，在高維數(shù)據(jù)的非線性降維，字符識別，人臉姿態(tài)識別等領(lǐng)域得到較好的應(yīng)用。但是，由于視覺信息數(shù)據(jù)的高維復(fù)雜性，這些方法不可避免的也存在一些問題，如流形學(xué)習(xí)中時(shí)間信息的嵌入、多類圖像數(shù)據(jù)或多鏡頭視頻數(shù)據(jù)分析等?？紤]到圖像或視頻數(shù)據(jù)的高維復(fù)雜性，本文擬對流形學(xué)習(xí)的相關(guān)算法進(jìn)行深入分析，提出針對視覺信息數(shù)據(jù)的保局的流形學(xué)習(xí)算法，其主要研究工作和創(chuàng)

4、新點(diǎn)體現(xiàn)在以下幾個(gè)方面：
　　 a.流形學(xué)習(xí)的時(shí)間嵌入方法
　　 某些視覺信息如視頻，時(shí)間是一個(gè)很重要的線索。然而流形學(xué)習(xí)算法卻是與時(shí)間無關(guān)的，如何將時(shí)間信息嵌入到流形學(xué)習(xí)算法中去是值得研究的一個(gè)問題。提出了嵌入時(shí)間信息的Time-Embedding2dlpp算法，并且基于TE-2dlpp算法生成了視頻摘要，實(shí)驗(yàn)結(jié)果令人滿意。其次，我們提出了視頻流形特征的概念，并將視頻流形特征應(yīng)用于視頻鏡頭變換和視頻軌跡。視頻流形特征為

5、視頻分析提供了新的手段。
　　 b.基于多類流形學(xué)習(xí)的數(shù)據(jù)可視化及分類
　　 當(dāng)樣本數(shù)據(jù)位于多個(gè)流形上時(shí)(多類數(shù)據(jù))，保局的流形學(xué)習(xí)方法(如局部線性嵌入)失效。考慮到實(shí)際數(shù)據(jù)中經(jīng)常會出現(xiàn)多類情況，如多類的圖像集，多鏡頭的視頻等，即當(dāng)高維數(shù)據(jù)分布在多個(gè)不連續(xù)的流形上時(shí)，提出一種新的基于LLE的多類流形學(xué)習(xí)算法，并將多流形學(xué)習(xí)算法應(yīng)用于多類圖像或視頻的數(shù)據(jù)可視化。
　　 由于這些方法采用了非顯性的映射，導(dǎo)致無法直接應(yīng)

6、用于新的測試數(shù)據(jù)，使得這些方法在分類上具有很大的局限性。本文提出了一種針對多類流形數(shù)據(jù)的分類方法，并取得了較好的實(shí)驗(yàn)效果。
　　 c.基于局部線性嵌入的半監(jiān)督流形學(xué)習(xí)
　　 在許多實(shí)際的機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘應(yīng)用中，盡管手邊有大量的無標(biāo)簽數(shù)據(jù)，但通常只有少量的有標(biāo)簽數(shù)據(jù)可以使用。因此，為了自動地使用無標(biāo)簽數(shù)據(jù)來輔助監(jiān)督學(xué)習(xí)，提出了基于LLE算法的半監(jiān)督學(xué)習(xí)方法。算法的基本思想是在維數(shù)約簡的過程中既要保持類內(nèi)數(shù)據(jù)的近鄰關(guān)系，又

7、能通過鄰域點(diǎn)預(yù)測未標(biāo)簽數(shù)據(jù)的類別信息。與其他的方法不同，我們的方法使用了一種改進(jìn)的最小生成樹k-NN圖。我們提出了雙重權(quán)的概念，重構(gòu)權(quán)用于發(fā)現(xiàn)低維嵌入，衍生權(quán)用于標(biāo)簽傳播。應(yīng)用于合成Scurve數(shù)據(jù)、多類數(shù)據(jù)和傳導(dǎo)分類的實(shí)驗(yàn)都驗(yàn)證了算法的有效性。
　　 d.局部保持的流形學(xué)習(xí)統(tǒng)一框架
　　 局部保持的流形學(xué)習(xí)主要是通過建立局部模型刻畫局部幾何特性，然后在平均意義下整合對齊所有交疊的局部幾何模型發(fā)現(xiàn)某種內(nèi)在全局幾何規(guī)律，最