基于粗糙集的決策樹分類方法研究.pdf

1、進(jìn)入“互聯(lián)網(wǎng)+”時(shí)代，人們從生產(chǎn)、生活中積累的數(shù)據(jù)呈現(xiàn)爆發(fā)式增長(zhǎng)，數(shù)據(jù)已成為重要的戰(zhàn)略資源，如何利用海量數(shù)據(jù)發(fā)現(xiàn)新知識(shí)已成為數(shù)據(jù)挖掘領(lǐng)域的研究熱點(diǎn)，其中，決策樹分類算法以其結(jié)構(gòu)清晰、算法高效的特點(diǎn)被廣泛應(yīng)用。
　　由于數(shù)據(jù)挖掘中決策樹算法在分類效率和準(zhǔn)確率上對(duì)決策信息的規(guī)范性較為敏感，并且隨著數(shù)據(jù)量的幾何式增長(zhǎng)，常規(guī)的串行決策樹分類算法已難于突破內(nèi)存瓶頸和計(jì)算能力約束。因此，本文將粗糙集中的屬性約簡(jiǎn)理論與決策樹分類算法相結(jié)合，降低

2、了決策樹的復(fù)雜程度并提高了算法效率，取得了良好的理論和應(yīng)用效果。本文的主要研究?jī)?nèi)容分為以下幾個(gè)部分:
　　(1)粗糙集理論方面:從屬性約簡(jiǎn)的候選屬性入手，在分析現(xiàn)有屬性約簡(jiǎn)算法的基礎(chǔ)上，將相關(guān)屬性測(cè)度加入選擇候選屬性的過程中。在選擇候選屬性時(shí)，優(yōu)先選擇與核屬性相關(guān)度最大的屬性加入候選約簡(jiǎn)集，同時(shí)剔除非相關(guān)屬性，通過這種思想達(dá)到約簡(jiǎn)集最小，并保證屬性約簡(jiǎn)集信息量最大化的目的。通過大量對(duì)比實(shí)驗(yàn)驗(yàn)證，這種算法有效解決了約簡(jiǎn)集增刪候選屬性

3、時(shí)的盲目性，節(jié)省了屬性約簡(jiǎn)過程中的計(jì)算開銷。
　　(2)決策樹分類算法方面:結(jié)合基于相關(guān)屬性的屬性約簡(jiǎn)算法，本文得到了節(jié)點(diǎn)冗余度更低的決策樹分類結(jié)果，并針對(duì)現(xiàn)有串行決策樹分類算法無法適應(yīng)大數(shù)據(jù)環(huán)境下數(shù)據(jù)挖掘需求，及并行決策樹分類算法在分布式框架下I/O開銷過大的問題，使用一種新的數(shù)據(jù)結(jié)構(gòu)簡(jiǎn)化了Map和Reduce過程，得到了新的決策樹分裂標(biāo)準(zhǔn)，藉此降低了節(jié)點(diǎn)周轉(zhuǎn)次數(shù)和I/O開銷。通過實(shí)驗(yàn)顯示，分布式并行決策樹算法在保證分類準(zhǔn)確率的