近鄰法與多視角學習的理論與算法研究.pdf

1、本文分別對近鄰法、多視角學習以及組合學習進行了相關的理論和算法的研究，并對它們分別進行了改進。
　　 在實際應用中，近鄰法是一種應用廣泛而且簡單有效的方法。但傳統(tǒng)的近鄰法仍有其不足之處，它在預測過程中沒有完全利用近鄰的全部信息。針對其這一缺點，本文對近鄰法進行了改進。在新的近鄰法中，用于預測樣本標簽的距離不再是查詢點與近鄰訓練樣本的直接距離，而是查詢點與其近鄰們的“重心”之間的距離。這里的“重心”指的就是能夠體現(xiàn)近鄰分布信息的近

2、鄰的“形心”。這樣以來，在預測過程當中不但標簽信息得到運用，分布信息也被考慮在內。在文章當中，我們對這個方法進行了詳細的描述和分析。另外，在實驗中我們在12個公共數(shù)據(jù)集上分別采用馬氏距離和歐式距離的度量方式進行了實驗。實驗證明，形心近鄰法能夠提高傳統(tǒng)近鄰法的分類精度。
　　 多視角學習是近年來機器學習領域的一個熱門的研究方向。多視角學習方法利用事物的兩個獨立或不相關的視角以特定的訓練方式來進行學習。許多理論和實驗都能證明多視角學

3、習能夠大大提高學習的效果。同時，一些研究人員證明采用多學習機的組合學習也能夠提高學習的效果。但尚未有人將多視角學習與組合學習相結合來解決模式識別領域內的學習問題。本文依此對多視角學習與組合學習的結合做了一些相關研究。并提出了多視角多學習機的學習方法，并將其應用到半監(jiān)督學習和主動學習領域。與此同時，本文也提出了一種稱為模糊度的度量方法來計算視角之間對樣本預測的分歧程度。從實驗結果來看，這種方法是一種非常有效的方法。
　　 在多視角

4、學習的領域內，有一個瓶頸的問題。多視角學習雖然可以很有效的提高學習效果，但是并不是所有問題都有多個內在的視角，這就意味著單視角問題是不能夠用多視角學習方法來解決的。這就大大限制了多視角學習方法的應用范圍。針對這個問題，本文提出了一種為單視角問題創(chuàng)建額外視角的方法。該方法利用PCA方法去產生原問題的另一個視角。另外，針對高維問題和非高維問題，文章也提出了不同的創(chuàng)建多視角策略。該方法在多個標準數(shù)據(jù)集上進行了實驗，實驗結果表明該方法所創(chuàng)建的視

5、角是有用的，而且能夠幫助學習方法提高學習效果。
　　 集成學習是將多個分類器以某種組合方式組合在一起進行學習。在傳統(tǒng)的集成學習中，分類器的產生大都是并行的。也就意味著，參與集成的分類器數(shù)量越多，訓練分類器的時間就越長。針對集成學習的這一缺點，本文提出了一種演化的集成學習方法。在該方法中，分類器不是以并行的方式產生的，而是以演化的形式產生的。在文章當中，詳細地敘述了這種方法的過程和假設條件，并且將其推廣到多視角的演化集成學習方法。