基于成對(duì)差異性度量的選擇性集成學(xué)習(xí)方法研究.pdf

1、集成學(xué)習(xí)是一種機(jī)器學(xué)習(xí)范式，它通過(guò)使用多個(gè)學(xué)習(xí)器來(lái)解決同一問(wèn)題可以有效地提高學(xué)習(xí)系統(tǒng)的泛化能力，因此它是國(guó)際機(jī)器學(xué)習(xí)界的一個(gè)研究熱點(diǎn)。目前，集成學(xué)習(xí)技術(shù)已經(jīng)在行星探測(cè)、地震波分析、文本分類(lèi)、生物特征識(shí)別、遙感信息處理、計(jì)算機(jī)輔助醫(yī)療診斷等眾多領(lǐng)域得到了應(yīng)用。但是集成學(xué)習(xí)技術(shù)還不夠成熟，集成學(xué)習(xí)的理論研究中還存在著大量未能解決的問(wèn)題，集成學(xué)習(xí)的實(shí)際應(yīng)用研究也有待進(jìn)一步的拓展和深入。
　　 一般認(rèn)為，有效地產(chǎn)生泛化能力強(qiáng)、差異大的個(gè)

2、體學(xué)習(xí)器，是集成學(xué)習(xí)算法的關(guān)鍵。但對(duì)于如何有效地度量差異、以及更進(jìn)一步如何有效地獲取和利用這種差異，仍然是一個(gè)未能完全解決的問(wèn)題。選擇性集成方法從集成學(xué)習(xí)算法產(chǎn)生的個(gè)體學(xué)習(xí)器中選擇一部分來(lái)集成，研究結(jié)果表明該方法可能比使用所有個(gè)體學(xué)習(xí)器來(lái)組成集成效果更好。因此選擇性集成已成為集成學(xué)習(xí)的一個(gè)重要研究方向，其更好的選擇策略以及算法運(yùn)算速度的提高有待更多研究人員的深入研究。
　　 本文以集成學(xué)習(xí)為研究對(duì)象，介紹了集成學(xué)習(xí)的概念、理論基

3、礎(chǔ)、構(gòu)成及兩種經(jīng)典的集成學(xué)習(xí)算法(Boosting和Bagging)。接著將集成學(xué)習(xí)應(yīng)用到了人臉識(shí)別領(lǐng)域中，并與人臉識(shí)別中常用的幾種學(xué)習(xí)器進(jìn)行了對(duì)比實(shí)驗(yàn)。然后對(duì)選擇性集成學(xué)習(xí)方法做了深入的研究，首先介紹了選擇性集成的基本思想、理論基礎(chǔ)，其次介紹了基于遺傳算法的選擇性集成算法(GASEN)和選擇性集成的發(fā)展，最后在基于分類(lèi)器成對(duì)差異性度量方法的基礎(chǔ)上提出了一種新的選擇性集成算法(PDMSEN)及其改進(jìn)算法(PDMSEN-b)。本文的創(chuàng)新研

4、究工作如下：
　　 (1) 將集成學(xué)習(xí)(Boosting RBF神經(jīng)網(wǎng)絡(luò))應(yīng)用到人臉識(shí)別中，并與人臉識(shí)別中常用的幾種學(xué)習(xí)器進(jìn)行了對(duì)比實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明集成學(xué)習(xí)和SVM構(gòu)建的學(xué)習(xí)器在本次實(shí)驗(yàn)中取得了較好的性能，更適合用于人臉識(shí)別中特征分類(lèi)器，為以后在人臉識(shí)別中選擇一個(gè)合適的分類(lèi)器提供了參考。
　　 (2)為了提高學(xué)習(xí)器的差異性和精度，本文提出了一種基于成對(duì)差異性度量的選擇性集成算法(PDMSEN)。同時(shí)研究了一種改進(jìn)算法(