基于成對差異性度量的選擇性集成學(xué)習(xí)方法研究.pdf

1、集成學(xué)習(xí)是一種機(jī)器學(xué)習(xí)范式，它通過使用多個學(xué)習(xí)器來解決同一問題可以有效地提高學(xué)習(xí)系統(tǒng)的泛化能力，因此它是國際機(jī)器學(xué)習(xí)界的一個研究熱點(diǎn)。目前，集成學(xué)習(xí)技術(shù)已經(jīng)在行星探測、地震波分析、文本分類、生物特征識別、遙感信息處理、計算機(jī)輔助醫(yī)療診斷等眾多領(lǐng)域得到了應(yīng)用。但是集成學(xué)習(xí)技術(shù)還不夠成熟，集成學(xué)習(xí)的理論研究中還存在著大量未能解決的問題，集成學(xué)習(xí)的實際應(yīng)用研究也有待進(jìn)一步的拓展和深入。
　　 一般認(rèn)為，有效地產(chǎn)生泛化能力強(qiáng)、差異大的個

2、體學(xué)習(xí)器，是集成學(xué)習(xí)算法的關(guān)鍵。但對于如何有效地度量差異、以及更進(jìn)一步如何有效地獲取和利用這種差異，仍然是一個未能完全解決的問題。選擇性集成方法從集成學(xué)習(xí)算法產(chǎn)生的個體學(xué)習(xí)器中選擇一部分來集成，研究結(jié)果表明該方法可能比使用所有個體學(xué)習(xí)器來組成集成效果更好。因此選擇性集成已成為集成學(xué)習(xí)的一個重要研究方向，其更好的選擇策略以及算法運(yùn)算速度的提高有待更多研究人員的深入研究。
　　 本文以集成學(xué)習(xí)為研究對象，介紹了集成學(xué)習(xí)的概念、理論基

3、礎(chǔ)、構(gòu)成及兩種經(jīng)典的集成學(xué)習(xí)算法(Boosting和Bagging)。接著將集成學(xué)習(xí)應(yīng)用到了人臉識別領(lǐng)域中，并與人臉識別中常用的幾種學(xué)習(xí)器進(jìn)行了對比實驗。然后對選擇性集成學(xué)習(xí)方法做了深入的研究，首先介紹了選擇性集成的基本思想、理論基礎(chǔ)，其次介紹了基于遺傳算法的選擇性集成算法(GASEN)和選擇性集成的發(fā)展，最后在基于分類器成對差異性度量方法的基礎(chǔ)上提出了一種新的選擇性集成算法(PDMSEN)及其改進(jìn)算法(PDMSEN-b)。本文的創(chuàng)新研

4、究工作如下：
　　 (1) 將集成學(xué)習(xí)(Boosting RBF神經(jīng)網(wǎng)絡(luò))應(yīng)用到人臉識別中，并與人臉識別中常用的幾種學(xué)習(xí)器進(jìn)行了對比實驗。實驗結(jié)果表明集成學(xué)習(xí)和SVM構(gòu)建的學(xué)習(xí)器在本次實驗中取得了較好的性能，更適合用于人臉識別中特征分類器，為以后在人臉識別中選擇一個合適的分類器提供了參考。
　　 (2)為了提高學(xué)習(xí)器的差異性和精度，本文提出了一種基于成對差異性度量的選擇性集成算法(PDMSEN)。同時研究了一種改進(jìn)算法(