基于決策樹的數(shù)據(jù)挖掘算法和可視化研究.pdf

1、數(shù)據(jù)挖掘是一種可以從海量數(shù)據(jù)中智能地和自動地抽取一些有用的、可信的、有效的、可以理解的模式的過程，也被稱之為數(shù)據(jù)庫中的知識發(fā)現(xiàn)。分類是數(shù)據(jù)挖掘的一種非常重要的方法。分類的概念是在已有數(shù)據(jù)的基礎(chǔ)上學(xué)習(xí)一個分類函數(shù)或構(gòu)造出一個分類模型（即分類器）進(jìn)行類型的劃分。該函數(shù)或模型能夠把數(shù)據(jù)庫中的數(shù)據(jù)記錄映像到給定類別中的某一個。分類方法應(yīng)用領(lǐng)域廣泛，如金融市場走向分析、顧客信用度分析、醫(yī)療診斷等。 決策樹是數(shù)據(jù)挖掘中一種應(yīng)用最為廣泛的分類

2、器。其原因主要有:（1）決策樹分類的直觀表示方法較容易轉(zhuǎn)化為標(biāo)準(zhǔn)的數(shù)據(jù)庫查詢；（2）決策樹分類歸納的方法行之有效、尤其適合于大型數(shù)據(jù)集；（3）決策樹在分類過程中，除了數(shù)據(jù)集中己經(jīng)包括的信息外，不再需要其他額外的信息；（4）決策樹分類模型的預(yù)測準(zhǔn)確度較高。由于決策樹本身具有建樹思想簡單、易于提取規(guī)則、貼近人類思維、便于理解等優(yōu)點，使其在分類數(shù)據(jù)挖掘中得到了廣泛應(yīng)用。決策樹算法的研究可以擴(kuò)大算法的應(yīng)用范圍，提高算法的運(yùn)行效率以及分類的準(zhǔn)確率

3、。本文從屬性離散化、降維、屬性選擇標(biāo)準(zhǔn)、剪枝、與其它數(shù)據(jù)挖掘方法的結(jié)合等幾個方面對目前決策樹在分類數(shù)據(jù)挖掘中的研究狀況進(jìn)行了闡述。 本文在介紹了一些典型的決策樹分類算法的基礎(chǔ)上，重點描述了一種基于決策樹的數(shù)據(jù)挖掘新算法，即基于屬性相似度的決策樹分類器的研究成果。不同測試屬性在決策中的地位也不相同，部分測試屬性甚至對決策不起任何作用，完全可進(jìn)行約簡。實驗也證明數(shù)據(jù)集中無關(guān)的、干擾的屬性會影響分類器的性能，導(dǎo)致性能變差。因而本文首先

4、進(jìn)行了屬性選擇，只保留與決策最為相關(guān)的屬性，而將其他屬性都去除。然后通過計算測試屬性與決策屬性的相似度作為啟發(fā)規(guī)則來構(gòu)造決策樹。算法還使用了分類閾值設(shè)定方法簡化決策樹的生成過程。新算法在對UCI實驗數(shù)據(jù)庫中的四個數(shù)據(jù)集的實驗中，運(yùn)行效率明顯高于ID3算法，預(yù)測精度在某些數(shù)據(jù)集中也優(yōu)于ID3。 Weka數(shù)據(jù)挖掘平臺是新西蘭懷卡托大學(xué)開發(fā)的基于Java語言的開源的數(shù)據(jù)挖掘平臺。它提供了一個Java類庫形式的框架，這個框架支持嵌入式及