決策樹分類算法優(yōu)化研究.pdf

1、數(shù)據(jù)挖掘是指從數(shù)據(jù)庫(kù)中抽取隱含的、具有潛在使用價(jià)值信息的過(guò)程，是一種新型的數(shù)據(jù)分析技術(shù)，已被廣泛應(yīng)用于金融、保險(xiǎn)、政府、教育、運(yùn)輸以及國(guó)防等領(lǐng)域。 數(shù)據(jù)分類是數(shù)據(jù)挖掘中一個(gè)重要的內(nèi)容。分類存在很多方法，其中決策樹算法是以實(shí)例為基礎(chǔ)的歸納學(xué)習(xí)算法，以其易于提取顯式規(guī)則、計(jì)算量相對(duì)較小、可以顯示重要的決策屬性和較高的分類準(zhǔn)確率等優(yōu)點(diǎn)而得到廣泛的應(yīng)用。據(jù)統(tǒng)計(jì)，目前決策樹算法是利用最廣泛的數(shù)據(jù)挖掘算法之一。 然而在實(shí)際應(yīng)用過(guò)程中

2、，現(xiàn)存的決策樹算法也存在著很多不足之處，如計(jì)算效率低下、多值偏向等。因此，進(jìn)一步改進(jìn)決策樹，提高決策樹的性能，使其更加適合數(shù)據(jù)挖掘技術(shù)的應(yīng)用要求具有重要的理論和實(shí)際意義。 本文針對(duì)上述數(shù)據(jù)庫(kù)知識(shí)發(fā)現(xiàn)的不足，進(jìn)行深入的研究，探索數(shù)據(jù)挖掘中決策樹分類的組合優(yōu)化算法，以便更好地提高分類的準(zhǔn)確性。應(yīng)用于實(shí)際工作中，主要研究工作如下： 首先，從宏觀上介紹了數(shù)據(jù)挖掘和分類技術(shù)的理論基礎(chǔ)，并重點(diǎn)對(duì)決策樹算法進(jìn)行了分析和比較。

3、然后，提出了一種新的適合于高維數(shù)據(jù)庫(kù)的組合優(yōu)化決策樹算法。相比于傳統(tǒng)的分類算法，該算法從降維、屬性選擇、可擴(kuò)展性和剪枝等方面進(jìn)行了改進(jìn)。其中最主要是提出基于加權(quán)屬性協(xié)調(diào)度并結(jié)合簡(jiǎn)化預(yù)剪枝策略的決策樹算法-DTBAC算法，以及加強(qiáng)算法可擴(kuò)展性的FAVC集。 最后，著重介紹了所研發(fā)的組合優(yōu)化決策樹分類器系統(tǒng)。它以DTBAC算法為核心算法生成分類器，并應(yīng)用到醫(yī)學(xué)領(lǐng)域?qū)Σ∪诉M(jìn)行分類。通過(guò)對(duì)比分析發(fā)現(xiàn)，DTBAC算法在總體性能上要優(yōu)于目前