DBSCAN算法參數(shù)自適應(yīng)研究及其在Spark平臺上的應(yīng)用.pdf

1、近年來，云計算的興起推動了大數(shù)據(jù)集平臺的發(fā)展。數(shù)據(jù)處理的核心是數(shù)據(jù)挖掘與知識發(fā)現(xiàn)，Spark作為一個大數(shù)據(jù)處理平臺，通過引入RDD模型提高了數(shù)據(jù)處理速度，迎合了企業(yè)、學(xué)者數(shù)據(jù)處理的需求。聚類算法是數(shù)據(jù)挖掘一個重要組成部分，作為該類算法的典型代表，DBSCAN算法能夠從有噪聲的數(shù)據(jù)集中識別出任意形狀的簇，具有很好的聚類效果。但是該算法對輸入?yún)?shù)較為敏感，不能實現(xiàn)參數(shù)自適應(yīng)，尤其對非均勻數(shù)據(jù)集聚類，全局參數(shù)嚴(yán)重影響聚類的效果，并且其計算復(fù)雜

2、度高，處理海量數(shù)據(jù)效率低下。本文針對這些問題提出了解決方法，主要工作有以下幾個方面：
　?。?）針對不能有效處理非均勻數(shù)據(jù)集和對參數(shù)敏感的問題，本文提出的一種基于劃分的DBSCAN改進(jìn)算法，通過計算獲得數(shù)據(jù)集的KNN矩陣，根據(jù)KNN矩陣中的信息得到密度跳變閾值，并以此將數(shù)據(jù)集劃分為不同密度的數(shù)據(jù)集。根據(jù)聚類效果指數(shù)的值自動確定閾值MinPts，并估計每個數(shù)據(jù)集合的鄰域半徑，最后在劃分的每個數(shù)據(jù)集合上使用MinPts和相應(yīng)的Eps進(jìn)

3、行動態(tài)鄰域的局部聚類，并將得到的結(jié)果合并。實驗表明改進(jìn)算法PDBSCAN對自適應(yīng)和處理密度分布不均勻數(shù)據(jù)集的聚類效果優(yōu)于 DBSCAN算法、VDBSCAN算法和AGD-DBSCAN算法。
　　（2）為了降低算法的運(yùn)行時間，減少I/O消耗,本文對改進(jìn)算法實現(xiàn)了基于Spark的運(yùn)行并行化。實驗表明，改進(jìn)算法的并行化能夠有效的減少算法的運(yùn)行時間，充分展示了Spark處理大數(shù)據(jù)的優(yōu)越性。最后對互聯(lián)網(wǎng)用戶行為數(shù)據(jù)在興趣愛好方面進(jìn)行挖掘，為個