基于KFCM的模糊最小二乘SVM研究.pdf

1、支持向量機(jī)（SVM）是一種機(jī)器學(xué)習(xí)算法，它建立在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上。具有成熟堅(jiān)實(shí)的理論基礎(chǔ)和直觀的幾何解釋。支持向量機(jī)算法尋求的是類與類之間的最大間隔，支持面僅與少數(shù)的支持向量有關(guān)，因而具有稀疏性，但是同時(shí)也忽略了訓(xùn)練樣本的數(shù)據(jù)結(jié)構(gòu)。在現(xiàn)實(shí)的數(shù)據(jù)集中都含有大量的噪聲點(diǎn)和野點(diǎn)，針對(duì)這一情況，本文引入模糊的方法，給噪聲點(diǎn)和野點(diǎn)賦以小的模糊因子，從而減輕對(duì)訓(xùn)練效果的影響。
　　本文考慮了訓(xùn)練數(shù)據(jù)集的數(shù)據(jù)結(jié)構(gòu)，在最小二乘支持向量機(jī)中引入

2、了類內(nèi)離散度，同時(shí)為了減輕噪聲點(diǎn)和野點(diǎn)對(duì)算法的影響，加入了模糊因子，并利用KFCM來(lái)構(gòu)造懲罰項(xiàng)中的模糊因子。主要?jiǎng)?chuàng)新如下：
　?。?）提出了基于類內(nèi)離散度的最小二乘支持向量機(jī)。將Fisher判別分析（FDA）里面的類內(nèi)離散度引入到了最小二乘支持向量機(jī)中，形成新的基于類內(nèi)離散度的最小二乘支持向量機(jī)（WCSLS-SVM）算法，并給出了在特征空間的對(duì)偶問(wèn)題和求解方法。傳統(tǒng)的支持向量機(jī)算法尋求的是最大間隔，與傳統(tǒng)的相比，該算法將訓(xùn)練樣本的

3、數(shù)據(jù)結(jié)構(gòu)考慮進(jìn)去，實(shí)驗(yàn)結(jié)果表明該算法分類準(zhǔn)確度較高。
　?。?）提出了基于組合特征映射的 FCM算法。將生成局部核函數(shù)和全局核函數(shù)的特征映射在特征空間進(jìn)行正交化處理，然后將它們進(jìn)行線性組合成新的特征映射，生成新的核函數(shù)，同時(shí)給出了FCM在特征空間的模糊隸屬度的求解方法以及核函數(shù)的組合權(quán)重的求解。
　?。?）提出了基于組合特征映射 FCM的模糊 WCSLS-SVM算法，為了減輕野點(diǎn)對(duì)WCSLS-SVM算法的影響，在懲罰項(xiàng)中加入