數據流分類技術研究.pdf

1、實際應用領域中產生了大量的數據流,例如電子商務交易記錄,網絡搜索請求,電信通話記錄等,這些數據流中隱含著豐富的有價值的知識亟待挖掘。然而,由于數據流具有的快速性、無限性、連續(xù)性、多變性等特征,使得已有的分類方法面臨著巨大的挑戰(zhàn)。因此,開展數據流的分類方法研究具有重要的研究和應用價值。
　　 傳統(tǒng)的分類方法多基于多遍掃描并存儲全部數據的方式,難以適應數據流的環(huán)境。此外,實際領域數據流中客觀存在的概念漂移現(xiàn)象,以及概念漂移所具有的多

2、重性,是數據流分類過程中無法回避的問題。為此,本文開展數據流的分類研究,研究內容涉及兩方面:(1)研究適應于數據流環(huán)境的實時、低耗、抗噪的數據流分類方法:(2)數據流中有效的概念漂移處理方法。
　　 主要研究內容如下:
　　 (1)基于UFFT和隨機決策樹,分別提出了數據流集成分類算法UFFT-WB和IRDTC-DS。UFFT通過增量統(tǒng)計的方法構建決策樹,因而具有良好的時空性能,然而這種增量統(tǒng)計方法導致歷史數據對分類器的

3、影響過大。為此,在構建UFFT集成分類器時,通過刪除較差基分類器來減小過期歷史數據對當前數據的影響,從而在保證時空性能的基礎上提高了算法的分類準確率；由于隨機決策樹采用隨機方法選擇分裂屬性具有較高的時間效率,但對分類性能帶來一定的影響,為此在基于隨機決策樹的集成分類方法中提出了采用Hoeffding bounds確定連續(xù)屬性的分割閾值,引入樸素貝葉斯方法判斷葉子結點類別標識等改進措施,并實現(xiàn)了集成隨機決策樹的增量式構建方法。理論分析與實

4、驗表明:上述兩種集成分類方法是在保證時空性能的同時提高了分類精度,因而能有效處理數據流分類問題。
　　 (2)提出一種具有較強抗噪性的數據流混合集成分類方法WE-HG:針對單一模型集成分類方法可能導致分類誤差擴大現(xiàn)象,難以適應含噪數據流的分類,而AP,AE等集成方法雖采用了多模型的集成方法,也存在對當前數據過擬合和時空性能不佳等問題。為此,論文提出基于WE框架的混合集成方法,通過構建1個決策樹的集成分類器和1個相對全局的Na(i

5、)ve
　　 Bayes分類器進行集成,利用全局的Na(i)ve Bayes提高整個分類器的抗噪性能。實驗表明,與AP,AE和WE等集成方法相比,WE-HG在合理的時空開銷范圍內,能有效提高集成分類器的抗噪性能,因而是一種有效的數據流分類方法。
　　 (3)提出一種基于實例方法的、自適應的概念漂移處理方法ACCD:基于“與當前分類模型不適應的實例可能代表了新概念的變化方向”這一假設,在決策樹的集成分類模型基礎上,引入實例

6、加權方法,使得基分類器在構建過程中更關注代表漂移方向的實例,從而使分類器能更快的擬合新概念。此外,針對實際應用中存在的漸進式和突變式概念漂移,為提高模型對不同概念漂移的適應性,引入似然估計法區(qū)分數據流中的漸變式和突變式概念漂移,并分別采用不同的基分類器更新策略。實驗表明,該方法對突變式漂移能較快的收斂,而對漸變式概念漂移在其收斂過程中具有較高的分類精度,是一種有效的概念漂移處理方法。
　　 (4)提出一種基于概念漂移檢測的集成分