圖劃分準(zhǔn)則下基于圖的學(xué)習(xí)方法研究.pdf

1、基于圖的學(xué)習(xí)方法是二十一世紀(jì)初興起的機(jī)器學(xué)習(xí)方法，經(jīng)過近十年的發(fā)展，它在模式識(shí)別、數(shù)據(jù)挖掘和信息檢索等領(lǐng)域已經(jīng)有了一些有價(jià)值的應(yīng)用。基于圖的學(xué)習(xí)方法用一個(gè)圖來表示數(shù)據(jù)的分布信息和關(guān)系信息，這意味著當(dāng)今人們數(shù)據(jù)思維的一種轉(zhuǎn)變，即更加注重?cái)?shù)據(jù)間的相關(guān)關(guān)系，而非難以捉摸的因果關(guān)系。在眾多基于圖的學(xué)習(xí)方法中，本文以圖劃分準(zhǔn)則為出發(fā)點(diǎn)，形成基于圖的學(xué)習(xí)方法框架?，F(xiàn)有的圖劃分準(zhǔn)則下基于圖的學(xué)習(xí)算法雖然能夠在一定程度上解決各自領(lǐng)域中的任務(wù)，但是缺乏統(tǒng)

2、一的學(xué)習(xí)框架。本文從理論分析入手，在數(shù)學(xué)上建立圖劃分準(zhǔn)則下基于圖的學(xué)習(xí)框架，并從統(tǒng)一的角度理解圖劃分準(zhǔn)則下基于圖的學(xué)習(xí)方法。主要工作是：在圖劃分準(zhǔn)則下，通過基于圖的學(xué)習(xí)方法研究機(jī)器學(xué)習(xí)中的三類基本學(xué)習(xí)問題，即無監(jiān)督、半監(jiān)督和監(jiān)督學(xué)習(xí)問題。同時(shí)對基于圖的學(xué)習(xí)進(jìn)行了拓展，即考慮協(xié)同正則化、多重正則化和路徑傳播，以豐富基于圖的學(xué)習(xí)方法研究內(nèi)容。具體創(chuàng)新點(diǎn)及取得的研究成果包括：
　　(1)提出了一種圖劃分準(zhǔn)則下基于圖的學(xué)習(xí)框架模型?？偨Y(jié)了

3、基于圖的學(xué)習(xí)與兩種機(jī)器學(xué)習(xí)中的基本假設(shè)的關(guān)系，分析歸納了不同圖劃分原問題的構(gòu)成要素，通過更加恰當(dāng)?shù)胤潘蓤D劃分原問題（NP難問題）的約束條件，提出了一種合理的圖劃分準(zhǔn)則下基于圖的學(xué)習(xí)框架模型。該框架模型支持多種圖劃分準(zhǔn)則，在約束條件的放松上選擇嚴(yán)格保持非負(fù)性約束，并注重正交性約束和離散性約束?？蚣苣Ｐ途哂辛己玫目蓴U(kuò)展性并可以衍生出基于圖的無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、監(jiān)督學(xué)習(xí)、協(xié)同正則化學(xué)習(xí)和多重正則化學(xué)習(xí)等多種學(xué)習(xí)方法，這部分工作為圖劃分準(zhǔn)則

4、下基于圖的學(xué)習(xí)建立了理論基礎(chǔ)。
　　(2)提出了一種圖劃分準(zhǔn)則下基于圖的無監(jiān)督學(xué)習(xí)方法。在第二章框架模型的基礎(chǔ)之上，通過實(shí)現(xiàn)約束條件的放松要求，提出了一種有效的圖劃分準(zhǔn)則下基于圖的無監(jiān)督學(xué)習(xí)方法。該方法在約束條件中僅保留嚴(yán)格的非負(fù)性約束，并通過設(shè)計(jì)Logdet正則化項(xiàng)將解的正交性約束和離散性約束融入到目標(biāo)函數(shù)中，最后實(shí)現(xiàn)對正交性約束和離散性約束的近似逼近。設(shè)計(jì)了相應(yīng)的求解算法，分析了算法的計(jì)算復(fù)雜度，并證明了該算法的收斂性，實(shí)驗(yàn)驗(yàn)

5、證了算法的無監(jiān)督聚類效果。
　　(3)提出了一種圖劃分準(zhǔn)則下基于圖的半監(jiān)督學(xué)習(xí)方法。在第二章框架模型和第三章學(xué)習(xí)方法的基礎(chǔ)之上，通過設(shè)計(jì)先驗(yàn)信息的融入方式，提出了一種有效的圖劃分準(zhǔn)則下基于圖的半監(jiān)督學(xué)習(xí)方法。面向半監(jiān)督分類問題和半監(jiān)督聚類問題，共提出四種先驗(yàn)信息的融入方式，改善了傳統(tǒng)方法融入先驗(yàn)信息受限制和低效的問題。回顧了以往的相關(guān)研究工作，設(shè)計(jì)了相應(yīng)的求解算法，分析了算法的計(jì)算復(fù)雜度并展示了算法的收斂性，最后實(shí)驗(yàn)驗(yàn)證了算法的半

6、監(jiān)督分類和聚類效果。
　　(4)提出了一種圖劃分準(zhǔn)則下基于圖的監(jiān)督學(xué)習(xí)方法。分析了圖劃分準(zhǔn)則下基于圖的監(jiān)督學(xué)習(xí)的關(guān)鍵步驟，提出一種有效的基于圖的監(jiān)督學(xué)習(xí)方法，實(shí)現(xiàn)對不同類別樣本的等距投影，改進(jìn)了傳統(tǒng)的基于圖的監(jiān)督學(xué)習(xí)方法中不同類別樣本投影后間隔可能無限大的弱點(diǎn)。具體地，通過設(shè)計(jì)不同的多變量標(biāo)簽矩陣，將嶺回歸拓展為一種基于圖的監(jiān)督學(xué)習(xí)方法。進(jìn)一步考慮了投影中維度的平滑性和投影矩陣的稀疏性，提出了稀疏平滑嶺回歸方法，設(shè)計(jì)了相應(yīng)的求解算

7、法，實(shí)驗(yàn)驗(yàn)證了算法的監(jiān)督分類效果。
　　(5)提出了一種圖劃分準(zhǔn)則下基于圖的協(xié)同正則化學(xué)習(xí)方法。在第二章框架模型和第三章學(xué)習(xí)方法的基礎(chǔ)之上，通過設(shè)計(jì)多種數(shù)據(jù)視圖的融合方式，提出了一種有效的圖劃分準(zhǔn)則下基于圖的協(xié)同正則化學(xué)習(xí)方法，該方法提升了基于圖的學(xué)習(xí)方法學(xué)習(xí)多視圖的能力。面向基于圖的無監(jiān)督學(xué)習(xí)或半監(jiān)督學(xué)習(xí)問題，提出了六種多視圖融合的方式，豐富了基于圖的協(xié)同正則化學(xué)習(xí)方法。設(shè)計(jì)了相應(yīng)的求解算法，實(shí)驗(yàn)驗(yàn)證了算法的無監(jiān)督聚類效果。

8、r>　　(6)提出了一種圖劃分準(zhǔn)則下基于圖的多重正則化學(xué)習(xí)方法?；诜秦?fù)矩陣分解天然非負(fù)性要求的觀察，將非負(fù)矩陣分解作為多重正則化項(xiàng)融入到第二章框架模型中，提出一種有效的圖劃分準(zhǔn)則下基于圖的多重正則化學(xué)習(xí)方法。該方法提升了基于圖的學(xué)習(xí)方法在數(shù)據(jù)表示上的能力，并且可以得到無（半）監(jiān)督學(xué)習(xí)中的顯式映射?；仡櫫艘酝南嚓P(guān)研究工作，設(shè)計(jì)了相應(yīng)的求解算法，實(shí)驗(yàn)驗(yàn)證了算法在無監(jiān)督聚類、半監(jiān)督分類和和半監(jiān)督聚類上的效果。
　　(7)提出了一種基

9、于圖的面向公共視頻場景聚集性度量和分析的學(xué)習(xí)方法。面向熱點(diǎn)且難度較大的公共視頻場景聚集性度量和分析問題，首先定義了聚集性運(yùn)動(dòng)的主題，然后利用路徑傳播和指數(shù)生成函數(shù)拓展了基于圖的學(xué)習(xí)方法研究，提出了一種新的計(jì)算場景聚集度的學(xué)習(xí)方法，并在場景劃分中檢驗(yàn)了圖劃分準(zhǔn)則下基于圖的無監(jiān)督學(xué)習(xí)方法的效果。場景劃分為進(jìn)一步理解場景內(nèi)容打下基礎(chǔ)，為下一步聚集性運(yùn)動(dòng)模式分類和異常檢測提供了有效的高層特征。該部分內(nèi)容對國家公共安全具有一定的意義，實(shí)驗(yàn)展示了該