一種基于垂直劃分的數(shù)據(jù)流頻繁項(xiàng)集挖掘算法.pdf

1、數(shù)據(jù)流這種數(shù)據(jù)形式廣泛地存在于現(xiàn)實(shí)世界中。例如,傳感器網(wǎng)絡(luò)監(jiān)控、氣象監(jiān)測(cè)數(shù)據(jù)、電話通話記錄、網(wǎng)絡(luò)通訊監(jiān)測(cè)、股市實(shí)時(shí)交易數(shù)據(jù)、web用戶點(diǎn)擊數(shù)據(jù)流或者網(wǎng)站訪問日志統(tǒng)計(jì)等領(lǐng)域都產(chǎn)生了大量的數(shù)據(jù)流。因此如何從應(yīng)用產(chǎn)生的數(shù)據(jù)流數(shù)據(jù)中發(fā)掘出對(duì)人們有用的信息一直是國(guó)內(nèi)外研究工作者關(guān)注的熱點(diǎn),而頻繁項(xiàng)集挖掘則是數(shù)據(jù)流挖掘技術(shù)的重要分支。
　　 傳統(tǒng)頻繁項(xiàng)集挖掘算法大都基于集中式單處理器硬件環(huán)境設(shè)計(jì)運(yùn)行,當(dāng)數(shù)據(jù)到達(dá)速度以及數(shù)據(jù)規(guī)模大幅增大之后,

2、算法將會(huì)出現(xiàn)數(shù)據(jù)丟失,誤差增大,系統(tǒng)吞吐量下降等一系列問題。為此,本文在分析原有傳統(tǒng)算法FP-Stream存在當(dāng)數(shù)據(jù)量增大時(shí)數(shù)據(jù)處理速度無法同步數(shù)據(jù)到達(dá)速度、系統(tǒng)吞吐量不夠等問題的基礎(chǔ)上,提出了一種基于垂直劃分的FP-Stream頻繁項(xiàng)集挖掘算法。該算法運(yùn)行在分布式多處理器硬件環(huán)境下,采用并行挖掘頻繁項(xiàng)集并最終統(tǒng)一合并的策略,并引入新的傾斜時(shí)間窗口實(shí)現(xiàn)機(jī)制,將全局?jǐn)?shù)據(jù)進(jìn)行垂直劃分為多個(gè)時(shí)間段內(nèi)的子集分別進(jìn)行挖掘,并由合并子系統(tǒng)對(duì)各子頻繁

3、項(xiàng)集進(jìn)行統(tǒng)一合并,得到最終全局頻繁項(xiàng)集結(jié)果。改進(jìn)后的算法因?yàn)閮A斜時(shí)間窗口的作用,使得挖掘結(jié)果仍然能夠反映較早和較近時(shí)間段內(nèi)頻繁項(xiàng)集的變化情況并能提供指定時(shí)間段內(nèi)頻繁項(xiàng)集結(jié)果查詢,即結(jié)果仍然具有時(shí)間特性。而且最重要的是,由于算法設(shè)計(jì)是基于分布式的,在硬件環(huán)境允許的情況下系統(tǒng)吞吐量可以與數(shù)據(jù)規(guī)模達(dá)到同步增長(zhǎng)的效果。
　　 最后對(duì)算法進(jìn)行了仿真實(shí)驗(yàn),結(jié)果表明,本文提出的基于垂直劃分的FP-Stream頻繁項(xiàng)集挖掘算法在犧牲一定的空間需