基于隨機初始化的非線性降維算法的研究.pdf

1、進入21世紀以來，隨著互聯(lián)網(wǎng)和信息行業(yè)的發(fā)展，人們獲得的數(shù)據(jù)量正在以幾何級的速度快速增長。在許多領域，如電子商務、天文、航空航天等，每天所收集的數(shù)據(jù)已經不能用傳統(tǒng)的GB或TB來衡量。目前，數(shù)據(jù)正在從不同層面對人類社會經濟生活產生著重要而深遠的影響。如此海量的數(shù)據(jù)即給人們的生活帶來了方便，也給一些企業(yè)和科研工作人員帶來了煩惱。豐富的信息可以讓人們在做出選擇前有更多的權衡。但是如何從海量數(shù)據(jù)中快速的挖掘出對企業(yè)有意義的數(shù)據(jù)已經成為企業(yè)需要面

2、對的問題。如何對這些體積龐大、維度更高的數(shù)據(jù)進行有效的分析也在困擾著科研工作人員。其實，解決這些問題的根本就在于如何通過一種技術手段將這些維度很高的數(shù)據(jù)用我們熟悉的低維數(shù)據(jù)來表示。因為一旦數(shù)據(jù)的維度變的很低，對我們來說，處理起來就非常的簡單。降維技術的存在正好可以被用來解決這一類問題。
　　降維技術的出現(xiàn)給企業(yè)和科研工作人員的工作提供了極大的便利。通過使用降維技術，我們可以更容易地對高維數(shù)據(jù)的低維表示進行分析。如此一來，我們就可以

3、去更好的應用這些高維數(shù)據(jù)。降維技術的產生經歷了一個由線性到非線性的過程。在早期，線性降維技術應用的比較廣泛。誕生了許多線性降維算法。例如有主成分分析算法、線性判別算法、投影尋蹤算法等。對于一些其結構呈現(xiàn)線性關系的數(shù)據(jù)，線性降維算法往往能得到較好的降維結果。但是，隨著數(shù)據(jù)體積以及維度的不斷增加，數(shù)據(jù)的結構也發(fā)生了很大變化。數(shù)據(jù)之間的結構不再是簡單的線性關系，而是一種更加復雜的非線性結構。在對具有非線性結構的數(shù)據(jù)上應用線性降維算法時，其得到

4、的低維結果往往無法令人滿意。為了解決這一難題，許多非線性降維算法近年來相繼被人們提出。比如有多維尺度分析算法、ISOMAP算法、局部線性嵌入降維算法、隨機鄰域嵌入算法以及t分布隨機鄰域嵌入算法等等。與線性降維算法相比，非線性降維算法在面對結構為非線性的數(shù)據(jù)時往往具有著明顯的優(yōu)勢。其得到的低維結果也往往好于由線性降維算法產生的低維結果。
　　本文主要討論的是非線性降維算法。在對幾種線性降維算法的原理進行簡單介紹之后，接著對部分非線性

5、降維算法的原理及具體的實現(xiàn)過程進行了詳細的介紹。通過對不同的非線性降維算法原理的比較。在此基礎上本文提出了一種新的基于隨機初始化的非線性降維算法，稱之為最近鄰隨機嵌入（Stochastic nonlinear dimensionality reduction based on nearest neighbors，簡稱NNSE）算法。我們將該算法產生的低維結果與另外三種降維算法（主成分分析算法、局部線性嵌入算法、t分布隨機鄰域嵌入算法）得