余弦度量下的高維數(shù)據(jù)降維及分類(lèi)方法研究.pdf

1、博士學(xué)位論文余弦度量下的高維數(shù)據(jù)降維及分類(lèi)方法研究DimensionalityReductionandClassificationofHighdimensionalDatausingCosineMetric學(xué)號(hào)：11109038答辯日期：20150609大連理工大學(xué)DalianUniversityofTechnology大連理工大學(xué)博士學(xué)位論文摘要近些年，隨著數(shù)字化、多媒體等技術(shù)的迅速發(fā)展，促使機(jī)器學(xué)習(xí)領(lǐng)域飛速發(fā)展，其中，維數(shù)約簡(jiǎn)、數(shù)據(jù)

2、分類(lèi)是兩個(gè)非常重要的課題。目前，在維數(shù)約簡(jiǎn)、數(shù)據(jù)分類(lèi)方法中，大多采用歐氏距離度量樣本間的相似性，少有其他度量方法的研究。隨著度量學(xué)習(xí)研究的深入，使得樣本間的相似性度量得到重視。本文主要研究余弦度量下的維數(shù)約簡(jiǎn)和分類(lèi)問(wèn)題，并將其應(yīng)用到人體運(yùn)動(dòng)時(shí)間序列分析和數(shù)據(jù)流學(xué)習(xí)中。在對(duì)維數(shù)約簡(jiǎn)算法及分類(lèi)算法深入分析的基礎(chǔ)上，取得了如下創(chuàng)新性成果：(1)針對(duì)局部切空間排列算法無(wú)法學(xué)習(xí)局部高曲率數(shù)據(jù)集的問(wèn)題，給出了描述數(shù)據(jù)集局部曲率的參數(shù)及局部的魯棒子空

3、間。在非線性降維方面，提出一種局部最小偏差空間排列算法，該算法考慮到局部切空間低魯棒性的缺陷，在計(jì)算局部最小偏差空間的同時(shí)，能夠發(fā)現(xiàn)數(shù)據(jù)的局部高曲率現(xiàn)象，通過(guò)參數(shù)控制及鄰域間的連接信息，減少計(jì)算局部高曲率空間的可能，進(jìn)而利用空間排列技術(shù)進(jìn)行降維。進(jìn)一步地，為了實(shí)現(xiàn)人體運(yùn)動(dòng)時(shí)間序列的分割，將最小偏差空間排列算法及局部曲率拓展為序列彎曲的流形學(xué)習(xí)方法，該方法根據(jù)序列數(shù)據(jù)的局部彎曲指標(biāo)描述人體運(yùn)動(dòng)的連貫性，利用過(guò)渡片段數(shù)據(jù)局部彎曲較大的特點(diǎn)，

4、尋找分割點(diǎn)。通過(guò)濾波技術(shù)及分段線性近似算法對(duì)局部彎曲指標(biāo)數(shù)據(jù)進(jìn)行處理，結(jié)合降維后的特征曲線，實(shí)現(xiàn)人體運(yùn)動(dòng)時(shí)間序列的分割。然而，非線性降維的應(yīng)用并不廣泛，相比之下，線性降維應(yīng)用前景較好。在線性降維方面，以往的許多提取局部樣本信息的全局線性算法的學(xué)習(xí)效果優(yōu)于主成分分析(Principalcomponentanalysis，PCA)等全局算法，但這些算法都沒(méi)有提取數(shù)據(jù)集局部的特征，導(dǎo)致局部樣本沒(méi)有得到徹底學(xué)習(xí)。在分析局部空間的基礎(chǔ)上，提出一種

5、保留局部特征的全局線性流形學(xué)習(xí)算法——最大相似嵌入(Maximalsimilarityembedding，MSE)，該算法通過(guò)余弦度量來(lái)反映數(shù)據(jù)的局部幾何特征，并通過(guò)整體的相似性的最大化達(dá)到降維的目的。最大相似嵌入能夠?qū)W習(xí)稀疏分布的流形，廣泛應(yīng)用于人臉識(shí)別等領(lǐng)域，并成功避免了小樣本問(wèn)題。(2)通過(guò)線性判別分析及最大邊界準(zhǔn)則算法深入分析了離散度對(duì)子空間選擇的影響，并給出了線性判別分析(Lineardiscriminantanalysis，