面向符號(hào)數(shù)據(jù)流的演化聚類分析.pdf

1、聚類是機(jī)器學(xué)習(xí)領(lǐng)域中的一個(gè)重要研究方向，由于其可自動(dòng)地探測(cè)數(shù)據(jù)中的簇團(tuán)結(jié)構(gòu)而被廣泛用于圖像處理、生物信息學(xué)、中文信息處理、社會(huì)網(wǎng)絡(luò)、智能醫(yī)療等研究領(lǐng)域，也被廣泛應(yīng)用于各行各業(yè)的生產(chǎn)實(shí)踐和社會(huì)管理的數(shù)據(jù)挖掘中.目前，針對(duì)靜態(tài)數(shù)據(jù)的聚類模型和算法已經(jīng)得到了深入的研究，然而在諸如證券交易、實(shí)時(shí)監(jiān)控、電子商務(wù)、社交媒體等領(lǐng)域中，會(huì)連續(xù)產(chǎn)生時(shí)間上有序的、快速到達(dá)的、規(guī)模巨大的和潛在無限的數(shù)據(jù)流.許多實(shí)際應(yīng)用要求挖掘數(shù)據(jù)流中的簇團(tuán)結(jié)構(gòu)、及時(shí)捕獲簇團(tuán)

2、結(jié)構(gòu)的模式變化、以及探測(cè)其中的異常數(shù)據(jù).鑒于數(shù)據(jù)流的時(shí)序性、快速到達(dá)、大規(guī)模和潛在無限等特點(diǎn)，如何利用有限的存儲(chǔ)空間，快速、準(zhǔn)確地探明數(shù)據(jù)流中隱藏的簇團(tuán)模式、概念漂移及模式演化已成為聚類學(xué)習(xí)的一個(gè)重要研究內(nèi)容.相對(duì)于數(shù)值型數(shù)據(jù)流而言，符號(hào)型數(shù)據(jù)流聚類是一個(gè)較新的研究領(lǐng)域.符號(hào)數(shù)據(jù)分析的主要困難之一在于以恰當(dāng)?shù)姆绞蕉攘繑?shù)據(jù)之間的相似性或者不相似性，相應(yīng)的聚類模型和算法與數(shù)值數(shù)據(jù)流也有較大的不同，且相對(duì)來說也更為復(fù)雜.近年來，針對(duì)符號(hào)數(shù)據(jù)流

3、的聚類分析引起了研究者們的廣泛關(guān)注.
　　本文以符號(hào)數(shù)據(jù)流為研究對(duì)象，旨在構(gòu)建符合此類數(shù)據(jù)特點(diǎn)的聚類分析框架.針對(duì)該框架所涉及到的數(shù)據(jù)標(biāo)簽、概念漂移檢測(cè)、數(shù)據(jù)流演化和異常點(diǎn)檢測(cè)的相關(guān)模型與算法進(jìn)行了系統(tǒng)研究.本文的主要研究成果有：
　?。?）提出了一種基于增量熵的符號(hào)數(shù)據(jù)標(biāo)簽方法.該方法利用增量熵來度量未標(biāo)記數(shù)據(jù)加入不同的簇所引起的簇結(jié)構(gòu)的變化程度，用以刻畫一個(gè)數(shù)據(jù)點(diǎn)和一個(gè)數(shù)據(jù)簇的相似性.提出的“點(diǎn)-簇”不相似性度量克服了以

4、往基于屬性值分布的“點(diǎn)-簇”相似性度量不能發(fā)現(xiàn)數(shù)據(jù)點(diǎn)融入到不同簇中所引起的簇結(jié)構(gòu)的變化程度的不足.該方法還可自適應(yīng)地動(dòng)態(tài)調(diào)整數(shù)據(jù)標(biāo)簽過程中異常點(diǎn)識(shí)別的閾值.符號(hào)數(shù)據(jù)流和增量符號(hào)數(shù)據(jù)上的對(duì)比實(shí)驗(yàn)表明，提出的方法提高了數(shù)據(jù)標(biāo)簽的精度，也為符號(hào)數(shù)據(jù)流聚類精度的提高奠定了基礎(chǔ).
　　（2）提出了一種基于簇分布相似性度量的符號(hào)數(shù)據(jù)流概念漂移檢測(cè)方法.該方法定義了一種基于樣本標(biāo)準(zhǔn)差的兩個(gè)簇分布的相似性度量，給出了簇分布相似性度量的密度函數(shù)的近

5、似求解方法，并在此基礎(chǔ)上，提出了一種基于置信水平的簇分布變化閾值確定方法.所提出的概念漂移檢測(cè)算法可以檢測(cè)新窗口中異常點(diǎn)過多、以及新舊窗口簇分布變化較大兩種情形導(dǎo)致的概念漂移.實(shí)驗(yàn)結(jié)果表明，提出的方法能有效地檢測(cè)符號(hào)數(shù)據(jù)流聚類過程中的概念漂移.
　?。?）提出了一種基于增量熵的“簇-簇”不相似性度量，該度量利用一個(gè)簇加入不同簇中所引起的信息熵的變化程度來刻畫兩個(gè)簇的相似性，克服了已有基于屬性值分布“簇-簇”相似性度量不能動(dòng)態(tài)地捕捉

6、簇中數(shù)據(jù)混合后引起的簇結(jié)構(gòu)的變化這一不足.此外，還給出了一種綜合考慮一個(gè)簇的屬性值在本簇以及其它簇中分布情況的簇代表元定義.并在此基礎(chǔ)上，提出了一個(gè)符號(hào)數(shù)據(jù)流演化分析算法，該算法可直觀地展示數(shù)據(jù)流中簇模式的演化過程.
　　（4）提出了一種基于符號(hào)數(shù)據(jù)流演化聚類的網(wǎng)絡(luò)入侵檢測(cè)方法.該方法將誤用檢測(cè)模式與異常檢測(cè)模式相結(jié)合，通過初始聚類建立由正常模式和異常模式構(gòu)成的知識(shí)庫，當(dāng)網(wǎng)絡(luò)訪問數(shù)據(jù)流發(fā)生演化時(shí)，通過重新聚類來更新知識(shí)庫以反映網(wǎng)絡(luò)