kNN填充算法的分析和改進(jìn)研究.pdf

1、數(shù)據(jù)挖掘是一個(gè)熱門(mén)的新興領(lǐng)域,在經(jīng)歷了近10幾年的高速發(fā)展之后,現(xiàn)已開(kāi)發(fā)出了很多成熟的算法用于有效的處理海量數(shù)據(jù),并且這些算法和技術(shù)在數(shù)據(jù)挖掘領(lǐng)域都有良好的表現(xiàn)。但是由于應(yīng)用催生的數(shù)據(jù)挖掘技術(shù)絕大部分處理的都是現(xiàn)實(shí)生活中的問(wèn)題,而對(duì)于算法需要使用的數(shù)據(jù)而言,現(xiàn)實(shí)生活中產(chǎn)生和搜集的數(shù)據(jù)通常都是充滿(mǎn)各種各樣的噪聲、不一致和缺失等情況。因此數(shù)據(jù)預(yù)處理技術(shù)在數(shù)據(jù)挖掘過(guò)程中占有越來(lái)越重要地位。通常面臨的各種現(xiàn)實(shí)數(shù)據(jù)的問(wèn)題中,數(shù)據(jù)缺失是最常見(jiàn)的。在

2、已經(jīng)開(kāi)發(fā)出的大部分經(jīng)典算法中,處理帶有缺失的數(shù)據(jù)是非常困難的。因?yàn)閿?shù)據(jù)缺失產(chǎn)生的原因比較復(fù)雜,不同的應(yīng)用中數(shù)據(jù)生成的過(guò)程迥異,所以算法開(kāi)發(fā)和設(shè)計(jì)的時(shí)候通常假設(shè)數(shù)據(jù)是按照理想狀態(tài)收集的。但是使用含有缺失的數(shù)據(jù)進(jìn)行挖掘,會(huì)對(duì)挖掘過(guò)程和結(jié)果都產(chǎn)生嚴(yán)重的影響,甚至導(dǎo)致得出錯(cuò)誤的模型和結(jié)論。因此數(shù)據(jù)挖掘算法和實(shí)際可用的數(shù)據(jù)之間存在一條巨大的鴻溝。針對(duì)數(shù)據(jù)缺失的預(yù)防、避免和處理等問(wèn)題,國(guó)內(nèi)外已經(jīng)有很多學(xué)者進(jìn)行了相關(guān)的研究,這些相關(guān)的研究吸收了統(tǒng)計(jì)、

3、機(jī)器學(xué)習(xí)、概率等學(xué)科的成果,他們?cè)谌笔е堤畛漕I(lǐng)域開(kāi)發(fā)出來(lái)的很多算法被實(shí)驗(yàn)和工業(yè)應(yīng)用證明是非常成功的。在通常意義下,即使填充效果一般的填充算法,對(duì)挖掘算法的執(zhí)行和挖掘效果的提高的作用都是明顯的。本文主要是對(duì)應(yīng)用最為廣泛、可擴(kuò)展性和適應(yīng)性最好的算法之一——KNN算法的分析和改進(jìn)。KNN算法是NN算法的推廣形式。NN算法(最近鄰算法)最早由Cover和Hart在1967年提出,最早用于分類(lèi)的研究。其基本思想是使用距離待分類(lèi)的事例最近的類(lèi)標(biāo)簽來(lái)

4、分類(lèi)未知事例。由于該算法易于理解和編程,并且適用范圍廣泛,在提出之后被廣泛用于分類(lèi)、聚類(lèi)、信息檢索和查詢(xún)、缺失值填充等領(lǐng)域,其中KNN算法就是NN算法在缺失值填充方面的改進(jìn)版本。KNN算法使用缺失點(diǎn)附近的數(shù)據(jù)點(diǎn)對(duì)缺失值進(jìn)行估計(jì)并進(jìn)行填充。傳統(tǒng)的KNN算法有很多的不足,例如計(jì)算量比較大等。已經(jīng)有很多針對(duì)KNN的改進(jìn)算法,這些算法通常專(zhuān)注于距離度量、距離計(jì)算、填充值的計(jì)算和計(jì)算結(jié)果存貯索引等方面的改進(jìn)。在目前所參閱過(guò)的文獻(xiàn)中,所有的補(bǔ)值算法

5、均是使用某一特定算法或者使用某幾種算法依次對(duì)整個(gè)數(shù)據(jù)集進(jìn)行填充,而本文提出的缺失點(diǎn)分類(lèi)思想指出,即使對(duì)于同一個(gè)數(shù)據(jù)集來(lái)說(shuō),不同的缺失點(diǎn)其適合的補(bǔ)值方法也是不同的,算法特別是基于密度和近鄰等的局部算法,應(yīng)該考慮對(duì)待填充的點(diǎn)進(jìn)行分類(lèi),分別使用合適的方法進(jìn)行填充,而不是簡(jiǎn)單的使用一種算法一視同仁的處理所有的數(shù)據(jù)。本文主要的工作是在分類(lèi)填充的框架下,提出K-1NN算法和進(jìn)一步的基于幾何中心的CNN算法,并結(jié)合部分填充策略,提出兩類(lèi)不適合進(jìn)行填充