基于實時數(shù)據(jù)的動態(tài)異常檢測方法研究.pdf

1、實時數(shù)據(jù)異常檢測是數(shù)據(jù)挖掘技術下異常分析的一個主要課題，高效、準確的實時數(shù)據(jù)異常檢測對于保障工業(yè)生產安全、推進醫(yī)療技術發(fā)展、防止網(wǎng)絡入侵、實現(xiàn)數(shù)據(jù)預測等有著重要的意義。當實時數(shù)據(jù)量較小、數(shù)據(jù)維度較低時，應用傳統(tǒng)的異常檢測技術就可以實現(xiàn)有效的實時數(shù)據(jù)異常檢測。然而，隨著信息化的加速，實時數(shù)據(jù)的數(shù)據(jù)量越來越大，實時數(shù)據(jù)的維度不確定性越來越強。如果應用傳統(tǒng)的異常檢測技術實現(xiàn)實時數(shù)據(jù)異常檢測，那么算法的計算復雜度太高使得算法的檢測效率低下，同時

2、由于傳統(tǒng)異常檢測算法泛性較強、針對性較弱等特點導致算法的異常判別和異常分類精度不高。面對現(xiàn)有實時數(shù)據(jù)的數(shù)據(jù)量大、屬性不確定性強的特點，如何實現(xiàn)高效準確的實時數(shù)據(jù)異常檢測是異常分析技術所面臨的一個嚴峻的挑戰(zhàn)。為了解決這一問題，本文針對實時數(shù)據(jù)的特點做了如下工作:
　　 1)通過分析傳統(tǒng)異常檢測方法模型，結合現(xiàn)有實時數(shù)據(jù)的特點，本文提出一種針對實時數(shù)據(jù)的異常檢測模型。相比傳統(tǒng)的異常檢測模型，該模型添加了數(shù)據(jù)過濾模塊和系數(shù)向量模塊:應

3、用數(shù)據(jù)過濾模塊可以大大減少待檢測實時數(shù)據(jù)的數(shù)據(jù)量;應用系數(shù)向量模塊可以提高實時數(shù)據(jù)異常判別和實時數(shù)據(jù)異常分類的精度。
　　 2)在數(shù)據(jù)過濾模塊中，本文借鑒Sky-Line空間查詢算法提出了基于邊界集的數(shù)據(jù)過濾算法(Boundary-SetFilteringalgorithm，BSF)。該算法通過定義統(tǒng)治集和邊界集可以有效的實現(xiàn)數(shù)據(jù)過濾。異常檢測過程旨在發(fā)現(xiàn)數(shù)據(jù)集中那些可能或已發(fā)生異常的數(shù)據(jù)，這些數(shù)據(jù)的數(shù)據(jù)量相對于初始數(shù)據(jù)集的數(shù)據(jù)

4、量而言是很小的?；谶@一特點本文把初始數(shù)據(jù)集中那些顯然正常的數(shù)據(jù)樣本定義為被統(tǒng)治樣本，把初始數(shù)據(jù)集中不屬于被統(tǒng)治樣本的樣本組成的集合定義為邊界集。BSF算法就是指依照自定義的規(guī)則從初始數(shù)據(jù)集中提取邊界集進而實現(xiàn)數(shù)據(jù)過濾的過程。
　　 3)在系數(shù)向量模塊中，本文基于系數(shù)向量和決策樹理論提出了基于系數(shù)向量的異常判別方法和Sign異常分類算法。在正交空間下，樣本的系數(shù)向量可以確定樣本在空間中的相對位置，所以基于系數(shù)向量應用樣本對應向量

5、的系數(shù)可以準確的判別實時數(shù)據(jù)異常;決策樹理論是一種高效的分類技術，其核心在于條件的定義，Sign分類算法以樣本對應向量的系數(shù)符號為決策條件能夠實現(xiàn)高精度的異常分類。
　　 4)基于以上提出的模型和方法，本文提出基于系數(shù)向量的動態(tài)實時數(shù)據(jù)異常檢測方法，并應用UCI數(shù)據(jù)集中的shuttle數(shù)據(jù)和TEP過程數(shù)據(jù)完成算法的仿真實驗，實驗對比了基于PCA的異常檢測方法和基于KPCA的異常檢測方法。實驗結果表明基于BSF的實時數(shù)據(jù)動態(tài)異常檢