一種雙支持向量機(jī)決策樹(shù)的多分類算法.pdf

1、支持向量機(jī)(SVM)是一種基于統(tǒng)計(jì)學(xué)習(xí)理論的V-C維理論和結(jié)構(gòu)風(fēng)險(xiǎn)最小化的新型機(jī)器學(xué)習(xí)方法，常被應(yīng)用于分類或回歸問(wèn)題中，由于其良好的學(xué)習(xí)能力，現(xiàn)已成為業(yè)內(nèi)研究的熱點(diǎn)。Jayadeva等人在此基礎(chǔ)上提出了雙支持向量機(jī)(TSVM)方法，對(duì)于二分類問(wèn)題，TSVM的思想是構(gòu)造兩個(gè)非平行的超平面，使之分別擬合一類樣本而同時(shí)遠(yuǎn)離另一類樣本，而對(duì)于待測(cè)樣本分類時(shí)，根據(jù)其距哪個(gè)超平面近就將其歸于該類。TSVM對(duì)于樣本訓(xùn)練速度有了很好的提升，對(duì)同等樣本訓(xùn)

2、練速度約為傳統(tǒng)SVM的四倍，比起傳統(tǒng)SVM它具有更好的泛化能力。SVM決策樹(shù)作為解決多分類問(wèn)題常用的方法，具有運(yùn)算速度快，無(wú)拒分現(xiàn)象等優(yōu)點(diǎn)。
　　本文結(jié)合TSVM和決策樹(shù)的優(yōu)點(diǎn)，提出了一種基于雙支持向量機(jī)決策樹(shù)(DT-TSVM)的多分類算法。首先定義了表示類與類可分性的類間區(qū)分度，其次對(duì)所有樣本根據(jù)區(qū)分度度量類間可分性的大小，將可分性最大的樣本分成兩類，在這兩個(gè)子類中再分別尋找可分性最高的樣本并將其分成兩類，如此下去直至不能再分，