小生境粒子群優(yōu)化算法及其在多分類器集成中的應(yīng)用研究.pdf

1、粒子群優(yōu)化算法(Parficle Swarm Optimization)起源于對(duì)鳥(niǎo)群、魚(yú)群以及對(duì)某些社會(huì)行為的模擬，是一種基于群體智能的進(jìn)化計(jì)算技術(shù)。而小生境技術(shù)則起源于遺傳算法，這種方法能使基于群體的隨機(jī)優(yōu)化算法形成物種，從而使相應(yīng)的優(yōu)化算法具有發(fā)現(xiàn)多個(gè)最優(yōu)解的能力。而多分類器集成技術(shù)則是通過(guò)多個(gè)分類器進(jìn)行某種組合來(lái)決定最終的分類，以取得比單個(gè)分類器更好的性能。多分類器集成技術(shù)要求基元分類器不僅個(gè)體性能要好并且其差異度要大，這與小生境

2、技術(shù)形成物種的能力具有很多內(nèi)在的相似性。目前已經(jīng)有研究者將小生境技術(shù)應(yīng)用于多分類器集成，但由于傳統(tǒng)的小生境技術(shù)仍然不完善，存在一些內(nèi)在的缺陷，因而這些應(yīng)用還不成熟和完善。 本文首先回顧了PSO算法及小生境技術(shù)的發(fā)展歷史、研究現(xiàn)狀和存在的問(wèn)題，然后提出了一些對(duì)傳統(tǒng)小生境技術(shù)改進(jìn)的思想。全文的主要研究工作可以概括如下： 1．首次提出了在小生境技術(shù)中需要一種顯式的探索信息交換機(jī)制，并根據(jù)這種機(jī)制首先實(shí)現(xiàn)了一種自適應(yīng)串行小生境粒

3、子群優(yōu)化算法，該算法能避免傳統(tǒng)串行小生境算法的一些內(nèi)在缺陷，特別是對(duì)小生境參數(shù)的依賴性。 2．對(duì)小生境粒子群優(yōu)化算法探索信息交換機(jī)制做了進(jìn)一步的拓展，并分析了探索信息交換在復(fù)雜多模優(yōu)化問(wèn)題中的必要性。提出了探索信息交換不僅應(yīng)該用串行方式，而且還應(yīng)該以并行方式進(jìn)行，即在小生境技術(shù)中，探索信息應(yīng)該是動(dòng)態(tài)互相交換的。基于這些思想，本文實(shí)現(xiàn)了一種多子群并行小生境粒子群優(yōu)化算法，該算法不僅集成了自適應(yīng)串行小生境算法的探索信息交換的優(yōu)點(diǎn)，同

4、時(shí)具有并行小生境算法的運(yùn)行速度，整個(gè)算法的運(yùn)行效率得到了顯著的提高。 3．創(chuàng)造性地提出了一種集成多層選擇模型(Ensemble multilayer pruningmodel)。普通的集成分類器選擇方法，通常只能獲得一個(gè)最優(yōu)集成，在這種情況下，一些具有有用信息的基分類器將可能丟失。而在多層模型中，每一層中將有多種不同的選擇集成，因而能夠充分利用每一個(gè)基元分類器的有用信息。 4．將提出的多子群小生境粒子群優(yōu)化算法和分類器多