基于實(shí)時數(shù)據(jù)的動態(tài)異常檢測方法研究.pdf

1、實(shí)時數(shù)據(jù)異常檢測是數(shù)據(jù)挖掘技術(shù)下異常分析的一個主要課題，高效、準(zhǔn)確的實(shí)時數(shù)據(jù)異常檢測對于保障工業(yè)生產(chǎn)安全、推進(jìn)醫(yī)療技術(shù)發(fā)展、防止網(wǎng)絡(luò)入侵、實(shí)現(xiàn)數(shù)據(jù)預(yù)測等有著重要的意義。當(dāng)實(shí)時數(shù)據(jù)量較小、數(shù)據(jù)維度較低時，應(yīng)用傳統(tǒng)的異常檢測技術(shù)就可以實(shí)現(xiàn)有效的實(shí)時數(shù)據(jù)異常檢測。然而，隨著信息化的加速，實(shí)時數(shù)據(jù)的數(shù)據(jù)量越來越大，實(shí)時數(shù)據(jù)的維度不確定性越來越強(qiáng)。如果應(yīng)用傳統(tǒng)的異常檢測技術(shù)實(shí)現(xiàn)實(shí)時數(shù)據(jù)異常檢測，那么算法的計(jì)算復(fù)雜度太高使得算法的檢測效率低下，同時

2、由于傳統(tǒng)異常檢測算法泛性較強(qiáng)、針對性較弱等特點(diǎn)導(dǎo)致算法的異常判別和異常分類精度不高。面對現(xiàn)有實(shí)時數(shù)據(jù)的數(shù)據(jù)量大、屬性不確定性強(qiáng)的特點(diǎn)，如何實(shí)現(xiàn)高效準(zhǔn)確的實(shí)時數(shù)據(jù)異常檢測是異常分析技術(shù)所面臨的一個嚴(yán)峻的挑戰(zhàn)。為了解決這一問題，本文針對實(shí)時數(shù)據(jù)的特點(diǎn)做了如下工作:
　　 1)通過分析傳統(tǒng)異常檢測方法模型，結(jié)合現(xiàn)有實(shí)時數(shù)據(jù)的特點(diǎn)，本文提出一種針對實(shí)時數(shù)據(jù)的異常檢測模型。相比傳統(tǒng)的異常檢測模型，該模型添加了數(shù)據(jù)過濾模塊和系數(shù)向量模塊:應(yīng)

3、用數(shù)據(jù)過濾模塊可以大大減少待檢測實(shí)時數(shù)據(jù)的數(shù)據(jù)量;應(yīng)用系數(shù)向量模塊可以提高實(shí)時數(shù)據(jù)異常判別和實(shí)時數(shù)據(jù)異常分類的精度。
　　 2)在數(shù)據(jù)過濾模塊中，本文借鑒Sky-Line空間查詢算法提出了基于邊界集的數(shù)據(jù)過濾算法(Boundary-SetFilteringalgorithm，BSF)。該算法通過定義統(tǒng)治集和邊界集可以有效的實(shí)現(xiàn)數(shù)據(jù)過濾。異常檢測過程旨在發(fā)現(xiàn)數(shù)據(jù)集中那些可能或已發(fā)生異常的數(shù)據(jù)，這些數(shù)據(jù)的數(shù)據(jù)量相對于初始數(shù)據(jù)集的數(shù)據(jù)

4、量而言是很小的。基于這一特點(diǎn)本文把初始數(shù)據(jù)集中那些顯然正常的數(shù)據(jù)樣本定義為被統(tǒng)治樣本，把初始數(shù)據(jù)集中不屬于被統(tǒng)治樣本的樣本組成的集合定義為邊界集。BSF算法就是指依照自定義的規(guī)則從初始數(shù)據(jù)集中提取邊界集進(jìn)而實(shí)現(xiàn)數(shù)據(jù)過濾的過程。
　　 3)在系數(shù)向量模塊中，本文基于系數(shù)向量和決策樹理論提出了基于系數(shù)向量的異常判別方法和Sign異常分類算法。在正交空間下，樣本的系數(shù)向量可以確定樣本在空間中的相對位置，所以基于系數(shù)向量應(yīng)用樣本對應(yīng)向量

5、的系數(shù)可以準(zhǔn)確的判別實(shí)時數(shù)據(jù)異常;決策樹理論是一種高效的分類技術(shù)，其核心在于條件的定義，Sign分類算法以樣本對應(yīng)向量的系數(shù)符號為決策條件能夠?qū)崿F(xiàn)高精度的異常分類。
　　 4)基于以上提出的模型和方法，本文提出基于系數(shù)向量的動態(tài)實(shí)時數(shù)據(jù)異常檢測方法，并應(yīng)用UCI數(shù)據(jù)集中的shuttle數(shù)據(jù)和TEP過程數(shù)據(jù)完成算法的仿真實(shí)驗(yàn)，實(shí)驗(yàn)對比了基于PCA的異常檢測方法和基于KPCA的異常檢測方法。實(shí)驗(yàn)結(jié)果表明基于BSF的實(shí)時數(shù)據(jù)動態(tài)異常檢