數(shù)據(jù)流集成分類器算法研究.pdf

1、隨著信息技術(shù)的不斷發(fā)展與應(yīng)用,人們每天可以收集到大量高速、動(dòng)態(tài)和連續(xù)到達(dá)的信息,如傳感器網(wǎng)絡(luò)數(shù)據(jù)、電話記錄、金融數(shù)據(jù)和商業(yè)交易數(shù)據(jù)等。傳統(tǒng)靜態(tài)數(shù)據(jù)集作為信息的載體己無(wú)法有效表達(dá)該類信息,因此,數(shù)據(jù)流作為一種新的數(shù)據(jù)類型被提出并廣泛應(yīng)用于上述領(lǐng)域。數(shù)據(jù)流作為一種連續(xù)到達(dá)的、潛在無(wú)限輸入的數(shù)據(jù)有序序列,與傳統(tǒng)靜態(tài)數(shù)據(jù)集相比,具有以下幾個(gè)特征:(1)數(shù)據(jù)高速到達(dá);(2)數(shù)據(jù)規(guī)模宏大;(3)數(shù)據(jù)流是有序數(shù)據(jù);(4)數(shù)據(jù)流具有動(dòng)態(tài)變化性;(5)數(shù)

2、據(jù)流往往伴隨高維特性。上述特征使數(shù)據(jù)流無(wú)法被傳統(tǒng)數(shù)據(jù)挖掘分類算法有效處理,因此對(duì)數(shù)據(jù)流挖掘算法的研究成為數(shù)據(jù)挖掘領(lǐng)域的熱點(diǎn)之一。
　　 本文聚焦于數(shù)據(jù)流集成分類問題,圍繞個(gè)體分類器生成與結(jié)論融合兩個(gè)方面,對(duì)噪音數(shù)據(jù)流、高速數(shù)據(jù)流以及類標(biāo)簽不完整數(shù)據(jù)流的集成分類問題展開研究,主要研究工作如下:
　　 首先,針對(duì)利用噪音數(shù)據(jù)流訓(xùn)練集成分類器,集成分類器的分類準(zhǔn)確率受噪音數(shù)據(jù)影響嚴(yán)重的問題,提出一種交叉驗(yàn)證容噪數(shù)據(jù)流集成分類器

3、算法。交叉驗(yàn)證容噪分類算法是一種典型的噪音消除算法,可以在建立分類模型之前有效去除數(shù)據(jù)集中的噪音數(shù)據(jù),使分類模型的分類準(zhǔn)確率明顯提高。由于目前并沒有學(xué)者對(duì)其有效性進(jìn)行理論證明,因此本文通過有噪音數(shù)據(jù)集的樣本復(fù)雜度理論,對(duì)其有效性進(jìn)行了嚴(yán)格的理論推導(dǎo),并根據(jù)推導(dǎo)結(jié)果提出了一種新的交叉驗(yàn)證容噪分類算法,應(yīng)用在數(shù)據(jù)流環(huán)境里,進(jìn)一步提高了集成分類模型對(duì)噪音數(shù)據(jù)流的分類能力。
　　 其次,針對(duì)高速數(shù)據(jù)流數(shù)據(jù)到達(dá)速度遠(yuǎn)遠(yuǎn)超過處理器的處理能力

4、,處理器無(wú)法利用全部數(shù)據(jù)訓(xùn)練個(gè)體分類器的問題,提出一種基于偏倚抽樣的高速數(shù)據(jù)流集成分類器算法。抽樣技術(shù)可以有效縮減待處理的數(shù)據(jù)規(guī)模,減少集成分類器的訓(xùn)練和更新時(shí)間,由于不同的抽樣策略產(chǎn)生的訓(xùn)練數(shù)據(jù)集,建立集成分類器,其分類準(zhǔn)確率具有明顯區(qū)別。因此本文通過集成分類器期望錯(cuò)誤的偏差方差分解,計(jì)算各個(gè)待抽樣數(shù)據(jù)的期望錯(cuò)誤貢獻(xiàn)度,并通過集成分類器分類性能的幾何分析,說明抽取期望錯(cuò)誤貢獻(xiàn)度大的數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)更新集成分類器模型,可以有效提高集成分

5、類器的分類準(zhǔn)確率,并依此提出了基于偏倚抽樣的高速數(shù)據(jù)流集成分類器算法。
　　 再次,針對(duì)數(shù)據(jù)流中數(shù)據(jù)類標(biāo)簽難以全部獲得的問題,提出一種基于聚類假設(shè)的半監(jiān)督數(shù)據(jù)流集成分類器算法。傳統(tǒng)半監(jiān)督分類算法雖然能夠解決類標(biāo)簽不完整數(shù)據(jù)集的分類問題,但如何將其引入數(shù)據(jù)流環(huán)境,利用數(shù)據(jù)流特性提高半監(jiān)督分類算法的分類準(zhǔn)確率仍是一個(gè)有待解決的問題。本文通過基于聚類假設(shè)的半監(jiān)督分類算法分類誤差分析,表明在訓(xùn)練個(gè)體分類器時(shí)增加有標(biāo)簽數(shù)據(jù)集的規(guī)模可以有效

6、減少分類算法的分類誤差,并利用此結(jié)論,提出了基于聚類假設(shè)的半監(jiān)督數(shù)據(jù)流集成分類器算法。
　　 最后,針對(duì)選擇性集成分類算法訓(xùn)練一旦結(jié)束,被選擇的個(gè)體分類器組合就以確定,無(wú)法針對(duì)具體數(shù)據(jù)進(jìn)行動(dòng)態(tài)調(diào)整的問題,提出一種兩階段數(shù)據(jù)流選擇性集成分類器算法。本文首先通過分析說明,選擇性集成分類算法獲得的個(gè)體分類器集合,雖然在整體數(shù)據(jù)集上具有最優(yōu)的分類性能,但對(duì)某具體數(shù)據(jù)分類時(shí),并不一定是最優(yōu)的個(gè)體分類器組合。因此,利用支持向量數(shù)據(jù)描述算法,