分類器優(yōu)化算法的研究.pdf

1、隨著國(guó)際互聯(lián)網(wǎng)的發(fā)展和大規(guī)模存儲(chǔ)的普遍應(yīng)用,數(shù)據(jù)挖掘作為對(duì)數(shù)據(jù)進(jìn)行分析理解應(yīng)用的科學(xué),越來(lái)越受到重視.數(shù)據(jù)分類是數(shù)據(jù)挖掘的一個(gè)重要研究領(lǐng)域.近年來(lái)數(shù)據(jù)分類的理論研究和實(shí)際應(yīng)用都獲得了長(zhǎng)足的進(jìn)步,陸續(xù)出現(xiàn)了許多實(shí)用的分類模型和實(shí)現(xiàn)算法.在分類研究領(lǐng)域,組合分類器的優(yōu)化方法逐漸變得引人注目.組合分類器的代表算法有Bagging,AdaBoost和Arcing.三者算法新穎,績(jī)效突出,引起研究者的廣泛重視.對(duì)它們進(jìn)行分析和比較對(duì)實(shí)際應(yīng)用的推廣

2、具有重要意義.該文在分類錯(cuò)誤率、合并規(guī)模和算法相關(guān)度等方面對(duì)三個(gè)算法進(jìn)行綜合對(duì)比,獲得了許多對(duì)實(shí)際應(yīng)用具有指導(dǎo)意義的結(jié)果.Bagging算法分類樣本形式簡(jiǎn)單,對(duì)底層分類模型沒(méi)有特殊要求,適用范圍廣,其單個(gè)分類器的產(chǎn)生是獨(dú)立的,易于并行處理.其循環(huán)步長(zhǎng)優(yōu)化設(shè)置為15左右.AdaBoost和Arcing屬于Booting算法，單個(gè)分類器的產(chǎn)生有順序依賴關(guān)系.由于采用了適應(yīng)性權(quán)重，兩者的優(yōu)化效果好于Bagging.AdaBoost算法形式復(fù)雜

3、，理論基礎(chǔ)深厚.Arcing方法權(quán)重更新模式簡(jiǎn)潔清晰.與AdaBoost相比，兩者分類準(zhǔn)確度接近，而AdaBoost更適用于大規(guī)模數(shù)據(jù)庥，Arcing則在相對(duì)較小的數(shù)據(jù)集上表現(xiàn)出色.兩者的迭代步長(zhǎng)優(yōu)化設(shè)置為25左右.除此分析比較以外，該文提出一種基于適應(yīng)性權(quán)重和限制目標(biāo)類權(quán)重?cái)U(kuò)張的AdaBoost改進(jìn)算法.它通過(guò)避免在目標(biāo)類別上發(fā)生權(quán)重扭曲，有效地解決了在個(gè)別數(shù)據(jù)集上發(fā)生的退化問(wèn)題.針對(duì)目標(biāo)類的權(quán)重限制設(shè)置，該文提出了兩種參考設(shè)置方式.