非監(jiān)督特征約簡算法的研究與應(yīng)用.pdf

1、在機(jī)器學(xué)習(xí)、模式識別、信息檢索和生物信息等很多領(lǐng)域人們都面臨海量的高維數(shù)據(jù)，由此引發(fā)維數(shù)災(zāi)難問題。特征約簡旨在解決上述難題，其任務(wù)是將原始特征空間映射到一個(gè)低維空間，以期在降低維數(shù)的同時(shí)，保持原空間的重要信息。特征約簡可大致分為特征抽取和特征選擇兩部分。特征抽取試圖獲得原始特征的線性或非線性組合，以期去除特征間的冗余性；特征選擇試圖選擇與學(xué)習(xí)任務(wù)最相關(guān)的特征，以期去除噪聲特征。由于在非監(jiān)督背景下缺少類別信息，使得特征約簡尤其是特征選擇任

2、務(wù)，變得異常困難。 流形學(xué)習(xí)是特征抽取的一個(gè)重要分支。本文提出了一種局部線性鑲嵌(Locally Linear Inlaying，LLI)方法。LLI是一種流形學(xué)習(xí)方法，該類方法假設(shè)原始高維空間分布在或近似分布在一個(gè)低維非線性流形之上。LLI利用分而治之的策略，將高維空間中的各個(gè)線性區(qū)域進(jìn)行局部嵌入和全局拼接。該算法可以在很大程度上改善流形學(xué)習(xí)算法的時(shí)間復(fù)雜度和魯棒性，具體表現(xiàn)在：第一，LLI的時(shí)間復(fù)雜度與樣本點(diǎn)數(shù)目成線性關(guān)系；

3、第二，LLI可以適用于任何非凸的數(shù)據(jù)集；第三，LLI有很高的魯棒性，能夠很好的工作于存在異質(zhì)噪聲或同質(zhì)噪聲的數(shù)據(jù)集?；诜抡鏀?shù)據(jù)和真實(shí)人臉數(shù)據(jù)的實(shí)驗(yàn)證實(shí)了LLI的上述特點(diǎn)。 針對特征選擇任務(wù)，因?yàn)樵卣骷写嬖诖罅吭肼曁卣?，這些特征會嚴(yán)重干擾合理的測度(即中肯的測度)，使得特征空間變得不中肯。當(dāng)前大部分非監(jiān)督特征選擇算法因?yàn)槿鄙贉y度不變的性質(zhì)，在強(qiáng)非中肯空間中其效果會很差。本文提出了一種處理非中肯空間的測度不變性模型，該模型基于