Hadoop下基于分類和關(guān)聯(lián)規(guī)則的公安數(shù)據(jù)挖掘研究.pdf

1、隨著警務(wù)信息化建設(shè)的力度逐年增大，公安內(nèi)部累積了海量的業(yè)務(wù)數(shù)據(jù)，越來越多的公安科技部門發(fā)現(xiàn)，傳統(tǒng)的數(shù)據(jù)庫技術(shù)已經(jīng)出現(xiàn)疲軟，相關(guān)情報研判和案件偵破的速度與智慧城市之間的矛盾日益突出，智慧公安成為緩解這一矛盾的關(guān)鍵。公安大數(shù)據(jù)挖掘技術(shù)是實現(xiàn)智慧公安的基礎(chǔ)，高效、準確的大數(shù)據(jù)分析技術(shù)對公安部門的警情分析、預警、犯罪預測等具有重要意義。近幾年，由于Hadoop強大的存儲技術(shù)和計算能力，使其在全球范圍內(nèi)得到了飛速發(fā)展，這也為公安大數(shù)據(jù)挖掘提供了新

2、的契機。
　　論文在大量查閱國內(nèi)外文獻，深入研究公安數(shù)據(jù)特性及數(shù)據(jù)挖掘算法的基礎(chǔ)上，根據(jù)公安科技部門的實際需求，對公安大數(shù)據(jù)挖掘中的文本分類和關(guān)聯(lián)規(guī)則進行了重點研究，提出了差分多層KNN分類算法和基于規(guī)則加權(quán)的多數(shù)據(jù)集時態(tài)關(guān)聯(lián)規(guī)則算法，并通過實驗驗證了算法的有效性。為此，論文的研究內(nèi)容主要集中在以下幾點:
　　(1)提出了一種基于分層和差分的改進算法——DMKNN算法。針對KNN算法在處理公安數(shù)據(jù)時無效計算量大的問題，改進后

3、的算法對訓練數(shù)據(jù)集構(gòu)建樹狀分層結(jié)構(gòu)，僅對高層篩選后的訓練集進行相似度計算，同時針對大數(shù)據(jù)量下的類域交叉性特點，采用了差分和動態(tài)增加類別的方法來有效的防止最近鄰和次近鄰的誤判情況，實驗結(jié)果表明該算法與傳統(tǒng)KNN算法相比在對樣本容量大，涉及鄰域多的公安數(shù)據(jù)進行分類時能取得較好的分類效果。
　　(2)實現(xiàn)了Hadoop平臺下的DMKNN文本分類算法。結(jié)合文本分類并行化方案，實現(xiàn)了DMKNN分類算法的MapReduce并行化，最后進行了基

4、于DMKNN算法的公安情報并行化分類實驗，實驗證明并行化后的改進算法具有很好的加速比性能。
　　(3)提出了基于規(guī)則加權(quán)的多數(shù)據(jù)集時態(tài)關(guān)聯(lián)規(guī)則算法。首先將各個子數(shù)據(jù)集中的時態(tài)關(guān)聯(lián)規(guī)則的時態(tài)因素分別進行區(qū)間歸并和延展，并利用有效投票率對規(guī)則進行剪輯，然后對剪輯后的各個同類子數(shù)據(jù)庫中的規(guī)則進行加權(quán)合成來得到最終提交的全局時態(tài)關(guān)聯(lián)規(guī)則，隨后以實例分析的方式實現(xiàn)了算法的挖掘過程。最后的犯罪預測實驗證明該算法不僅可以用于不同數(shù)據(jù)庫間的關(guān)聯(lián)挖