圖劃分準則下基于圖的學習方法研究.pdf

1、基于圖的學習方法是二十一世紀初興起的機器學習方法，經(jīng)過近十年的發(fā)展，它在模式識別、數(shù)據(jù)挖掘和信息檢索等領域已經(jīng)有了一些有價值的應用。基于圖的學習方法用一個圖來表示數(shù)據(jù)的分布信息和關系信息，這意味著當今人們數(shù)據(jù)思維的一種轉變，即更加注重數(shù)據(jù)間的相關關系，而非難以捉摸的因果關系。在眾多基于圖的學習方法中，本文以圖劃分準則為出發(fā)點，形成基于圖的學習方法框架?，F(xiàn)有的圖劃分準則下基于圖的學習算法雖然能夠在一定程度上解決各自領域中的任務，但是缺乏統(tǒng)

2、一的學習框架。本文從理論分析入手，在數(shù)學上建立圖劃分準則下基于圖的學習框架，并從統(tǒng)一的角度理解圖劃分準則下基于圖的學習方法。主要工作是：在圖劃分準則下，通過基于圖的學習方法研究機器學習中的三類基本學習問題，即無監(jiān)督、半監(jiān)督和監(jiān)督學習問題。同時對基于圖的學習進行了拓展，即考慮協(xié)同正則化、多重正則化和路徑傳播，以豐富基于圖的學習方法研究內容。具體創(chuàng)新點及取得的研究成果包括：
　　(1)提出了一種圖劃分準則下基于圖的學習框架模型。總結了

3、基于圖的學習與兩種機器學習中的基本假設的關系，分析歸納了不同圖劃分原問題的構成要素，通過更加恰當?shù)胤潘蓤D劃分原問題（NP難問題）的約束條件，提出了一種合理的圖劃分準則下基于圖的學習框架模型。該框架模型支持多種圖劃分準則，在約束條件的放松上選擇嚴格保持非負性約束，并注重正交性約束和離散性約束?？蚣苣Ｐ途哂辛己玫目蓴U展性并可以衍生出基于圖的無監(jiān)督學習、半監(jiān)督學習、監(jiān)督學習、協(xié)同正則化學習和多重正則化學習等多種學習方法，這部分工作為圖劃分準則

4、下基于圖的學習建立了理論基礎。
　　(2)提出了一種圖劃分準則下基于圖的無監(jiān)督學習方法。在第二章框架模型的基礎之上，通過實現(xiàn)約束條件的放松要求，提出了一種有效的圖劃分準則下基于圖的無監(jiān)督學習方法。該方法在約束條件中僅保留嚴格的非負性約束，并通過設計Logdet正則化項將解的正交性約束和離散性約束融入到目標函數(shù)中，最后實現(xiàn)對正交性約束和離散性約束的近似逼近。設計了相應的求解算法，分析了算法的計算復雜度，并證明了該算法的收斂性，實驗驗

5、證了算法的無監(jiān)督聚類效果。
　　(3)提出了一種圖劃分準則下基于圖的半監(jiān)督學習方法。在第二章框架模型和第三章學習方法的基礎之上，通過設計先驗信息的融入方式，提出了一種有效的圖劃分準則下基于圖的半監(jiān)督學習方法。面向半監(jiān)督分類問題和半監(jiān)督聚類問題，共提出四種先驗信息的融入方式，改善了傳統(tǒng)方法融入先驗信息受限制和低效的問題。回顧了以往的相關研究工作，設計了相應的求解算法，分析了算法的計算復雜度并展示了算法的收斂性，最后實驗驗證了算法的半

6、監(jiān)督分類和聚類效果。
　　(4)提出了一種圖劃分準則下基于圖的監(jiān)督學習方法。分析了圖劃分準則下基于圖的監(jiān)督學習的關鍵步驟，提出一種有效的基于圖的監(jiān)督學習方法，實現(xiàn)對不同類別樣本的等距投影，改進了傳統(tǒng)的基于圖的監(jiān)督學習方法中不同類別樣本投影后間隔可能無限大的弱點。具體地，通過設計不同的多變量標簽矩陣，將嶺回歸拓展為一種基于圖的監(jiān)督學習方法。進一步考慮了投影中維度的平滑性和投影矩陣的稀疏性，提出了稀疏平滑嶺回歸方法，設計了相應的求解算

7、法，實驗驗證了算法的監(jiān)督分類效果。
　　(5)提出了一種圖劃分準則下基于圖的協(xié)同正則化學習方法。在第二章框架模型和第三章學習方法的基礎之上，通過設計多種數(shù)據(jù)視圖的融合方式，提出了一種有效的圖劃分準則下基于圖的協(xié)同正則化學習方法，該方法提升了基于圖的學習方法學習多視圖的能力。面向基于圖的無監(jiān)督學習或半監(jiān)督學習問題，提出了六種多視圖融合的方式，豐富了基于圖的協(xié)同正則化學習方法。設計了相應的求解算法，實驗驗證了算法的無監(jiān)督聚類效果。

8、r>　　(6)提出了一種圖劃分準則下基于圖的多重正則化學習方法。基于非負矩陣分解天然非負性要求的觀察，將非負矩陣分解作為多重正則化項融入到第二章框架模型中，提出一種有效的圖劃分準則下基于圖的多重正則化學習方法。該方法提升了基于圖的學習方法在數(shù)據(jù)表示上的能力，并且可以得到無（半）監(jiān)督學習中的顯式映射?；仡櫫艘酝南嚓P研究工作，設計了相應的求解算法，實驗驗證了算法在無監(jiān)督聚類、半監(jiān)督分類和和半監(jiān)督聚類上的效果。
　　(7)提出了一種基

9、于圖的面向公共視頻場景聚集性度量和分析的學習方法。面向熱點且難度較大的公共視頻場景聚集性度量和分析問題，首先定義了聚集性運動的主題，然后利用路徑傳播和指數(shù)生成函數(shù)拓展了基于圖的學習方法研究，提出了一種新的計算場景聚集度的學習方法，并在場景劃分中檢驗了圖劃分準則下基于圖的無監(jiān)督學習方法的效果。場景劃分為進一步理解場景內容打下基礎，為下一步聚集性運動模式分類和異常檢測提供了有效的高層特征。該部分內容對國家公共安全具有一定的意義，實驗展示了該