一種基于垂直劃分的數(shù)據(jù)流頻繁項集挖掘算法.pdf

1、數(shù)據(jù)流這種數(shù)據(jù)形式廣泛地存在于現(xiàn)實世界中。例如,傳感器網(wǎng)絡(luò)監(jiān)控、氣象監(jiān)測數(shù)據(jù)、電話通話記錄、網(wǎng)絡(luò)通訊監(jiān)測、股市實時交易數(shù)據(jù)、web用戶點擊數(shù)據(jù)流或者網(wǎng)站訪問日志統(tǒng)計等領(lǐng)域都產(chǎn)生了大量的數(shù)據(jù)流。因此如何從應(yīng)用產(chǎn)生的數(shù)據(jù)流數(shù)據(jù)中發(fā)掘出對人們有用的信息一直是國內(nèi)外研究工作者關(guān)注的熱點,而頻繁項集挖掘則是數(shù)據(jù)流挖掘技術(shù)的重要分支。
　　 傳統(tǒng)頻繁項集挖掘算法大都基于集中式單處理器硬件環(huán)境設(shè)計運行,當(dāng)數(shù)據(jù)到達(dá)速度以及數(shù)據(jù)規(guī)模大幅增大之后,

2、算法將會出現(xiàn)數(shù)據(jù)丟失,誤差增大,系統(tǒng)吞吐量下降等一系列問題。為此,本文在分析原有傳統(tǒng)算法FP-Stream存在當(dāng)數(shù)據(jù)量增大時數(shù)據(jù)處理速度無法同步數(shù)據(jù)到達(dá)速度、系統(tǒng)吞吐量不夠等問題的基礎(chǔ)上,提出了一種基于垂直劃分的FP-Stream頻繁項集挖掘算法。該算法運行在分布式多處理器硬件環(huán)境下,采用并行挖掘頻繁項集并最終統(tǒng)一合并的策略,并引入新的傾斜時間窗口實現(xiàn)機制,將全局?jǐn)?shù)據(jù)進行垂直劃分為多個時間段內(nèi)的子集分別進行挖掘,并由合并子系統(tǒng)對各子頻繁

3、項集進行統(tǒng)一合并,得到最終全局頻繁項集結(jié)果。改進后的算法因為傾斜時間窗口的作用,使得挖掘結(jié)果仍然能夠反映較早和較近時間段內(nèi)頻繁項集的變化情況并能提供指定時間段內(nèi)頻繁項集結(jié)果查詢,即結(jié)果仍然具有時間特性。而且最重要的是,由于算法設(shè)計是基于分布式的,在硬件環(huán)境允許的情況下系統(tǒng)吞吐量可以與數(shù)據(jù)規(guī)模達(dá)到同步增長的效果。
　　 最后對算法進行了仿真實驗,結(jié)果表明,本文提出的基于垂直劃分的FP-Stream頻繁項集挖掘算法在犧牲一定的空間需