基于Hadoop的分布加權(quán)FP-tree算法的研究.pdf

1、關(guān)聯(lián)規(guī)則挖掘(ARM)是數(shù)據(jù)庫知識發(fā)現(xiàn)中的一個重要課題。自ARM思想出現(xiàn)以來,為了提高挖掘的性能,研究人員提出了很多ARM算法。但是,隨著當(dāng)今網(wǎng)絡(luò)的發(fā)展,用戶數(shù)據(jù)和知識指數(shù)級增長,同時,這些數(shù)據(jù)的重要程度又存在很大差別,因此,如何在海量數(shù)據(jù)中挖掘出用戶真正需求的關(guān)聯(lián)規(guī)則,是關(guān)聯(lián)規(guī)則挖掘的一個新的難題。
　　由于數(shù)據(jù)庫中數(shù)據(jù)重要程度不同時,而傳統(tǒng)ARM算法沒有考慮數(shù)據(jù)的權(quán)重,因此傳統(tǒng)的ARM算法不再滿足實際需求。而且在處理大數(shù)據(jù)集時

2、,原有的串行ARM算法計算量大,I/O資源消耗嚴(yán)重,在內(nèi)存和計算消耗方面都會遇到瓶頸,無法在海量數(shù)據(jù)集中挖掘出關(guān)聯(lián)規(guī)則。
　　本文在研究了多種串行ARM算法的基礎(chǔ)上,提出了一種基于Hadoop的分布加權(quán)關(guān)聯(lián)規(guī)則挖掘(HWARM: Weighted Association Rule Mining on Hadoop)算法。該算法滿足加權(quán)向下封閉性,解決了傳統(tǒng)ARM算法無法挖掘不同權(quán)重數(shù)據(jù)的問題,使用Hadoop這一分布式計算平臺并行