基于類電磁機(jī)制算法的SVM決策樹(shù)多分類策略研究.pdf

1、近年來(lái),多類別的分類問(wèn)題是支持向量機(jī)研究的熱點(diǎn)之一。目前已提出的算法中1-a-r算法和1-a-1算法在類別數(shù)目較多時(shí),其訓(xùn)練和分類效率都比較差,且存在“無(wú)法辨識(shí)區(qū)”。DAG-SVM算法在類別數(shù)較多時(shí),訓(xùn)練速度較慢,且根節(jié)點(diǎn)的選擇會(huì)直接影響分類的最終結(jié)果。DT-SVM算法具有較高的訓(xùn)練速度和分類速度,也不存在“無(wú)法辨識(shí)區(qū)”,但是由于其采用的樹(shù)結(jié)構(gòu)固定,而且各個(gè)決策節(jié)點(diǎn)的選擇具有隨機(jī)性,因而很容易產(chǎn)生“誤差積累”問(wèn)題,因此,分類性能常常不夠

2、穩(wěn)定,往往達(dá)不到最優(yōu)。GADT-SVM算法利用遺傳算法對(duì)樹(shù)結(jié)構(gòu)進(jìn)行優(yōu)化,使得決策樹(shù)的結(jié)構(gòu)具有了自適應(yīng)性,但是分類精度還不夠高。
　　為了進(jìn)一步提高SVM多分類策略的總體性能,本文提出了一種基于類電磁機(jī)制算法的SVM決策樹(shù)多分類算法,即在樹(shù)的各個(gè)決策節(jié)點(diǎn)運(yùn)用類電磁機(jī)制算法優(yōu)化兩分類決策,從而自動(dòng)生成最優(yōu)或近優(yōu)的決策樹(shù)。首先,基于分類問(wèn)題的特點(diǎn),對(duì)類電磁機(jī)制算法進(jìn)行了改進(jìn):通過(guò)對(duì)多分類問(wèn)題以及各種編碼方案進(jìn)行分析,采用實(shí)值編碼策略對(duì)粒

3、子進(jìn)行編碼;根據(jù)粒子的受力情況以及多分類問(wèn)題的特點(diǎn),提出了一種新的適合多分類問(wèn)題的粒子移動(dòng)方法;并設(shè)計(jì)了基于最大分類間隔的目標(biāo)函數(shù)。然后,利用改進(jìn)后的類電磁機(jī)制算法,設(shè)計(jì)了最優(yōu)決策樹(shù)生成算法,用以解決SVM多分類問(wèn)題。最后,對(duì)本文提出的EMDT-SVM算法進(jìn)行了理論分析和仿真。
　　實(shí)驗(yàn)結(jié)果表明,改進(jìn)后的算法能夠構(gòu)造出最優(yōu)或近優(yōu)的決策樹(shù),成功地應(yīng)用于多分類問(wèn)題,并且比傳統(tǒng)的1-a-r、1-a-1、DAG-SVM、DT-SVM和GA