基于相關(guān)性和冗余性分析的特征選擇算法研究.pdf

1、碩士學(xué)位論文基于相關(guān)性和冗余性分析的特征選擇算法研究TheResearchofFeatureSelectionAlgorithmsBasedonAnalysisofRelevancyandRedundancy學(xué)號(hào)：21009325大連理工大學(xué)DaliallUniversityofTechnology大連理工大學(xué)碩士學(xué)位論文摘要隨著現(xiàn)代科技的高速發(fā)展，獲取數(shù)據(jù)的技術(shù)越來越多，使得數(shù)據(jù)量呈現(xiàn)了一種爆炸性的增長(zhǎng)。而伴隨數(shù)據(jù)量增大的同時(shí)，數(shù)據(jù)中

2、包含的噪音和無關(guān)信息也增多。面對(duì)這種現(xiàn)象，數(shù)據(jù)挖掘技術(shù)占據(jù)著越來越重要的地位。它能從海量數(shù)據(jù)中挖掘出有價(jià)值的東西，使得對(duì)數(shù)據(jù)的分析和解釋更簡(jiǎn)便易懂。特征選擇是數(shù)據(jù)挖掘過程中的一個(gè)重要組成部分，也是近年來數(shù)據(jù)挖掘領(lǐng)域的研究熱點(diǎn)。特征選擇方法能有效地刪除噪音，降低冗余性，提高分類性能等。遺傳算法(GeneticAlgorithm，GA)是一種典型的封裝式特征選擇方法，由于它突出的對(duì)問題的求解能力，受到了大量的關(guān)注。本文通過對(duì)特征與類標(biāo)之間相

3、關(guān)性和特征與特征之間冗余性的分析，提出了一種基于特征組和GA結(jié)合的特征選擇方法FSFGGA。該方法利用對(duì)稱不確定性分析相關(guān)性和冗余性，之后通過近似馬爾科夫毯規(guī)則對(duì)相關(guān)特征進(jìn)行分組，最后在特征組的基礎(chǔ)上用遺傳算法進(jìn)行優(yōu)化搜索。本文的另一主要工作是提出了一種基于動(dòng)態(tài)相關(guān)性分析的前向特征選擇方法DRFFS。該方法是一種filter和wrapper混合的算法，首先通過多filter算法分?jǐn)?shù)融合的方式來衡量特征與類標(biāo)問的總體相關(guān)性；之后在分?jǐn)?shù)融合

4、的基礎(chǔ)上，結(jié)合候選特征與已選子集的冗余性動(dòng)態(tài)地改變候選屬性的互補(bǔ)性，并運(yùn)用基于排序的前向搜索策略選擇最終的特征子集。通過特征組和遺傳算法結(jié)合的方式，加速了問題求解的速度，并提高了解空間的質(zhì)量。8組公共數(shù)據(jù)集的測(cè)試結(jié)果表明，F(xiàn)SFGGA算法的分類準(zhǔn)確率在大部分情況下高于SVMRFE和ECBGS特征選擇算法?；趧?dòng)態(tài)相關(guān)性分析的前向特征選擇方法不僅能選擇與類標(biāo)有高相關(guān)度的特征，而且能有效地降低特征子集中的冗余性。在6組公共數(shù)據(jù)上的測(cè)試結(jié)果證