互信息多元時(shí)間序列相關(guān)分析與變量選擇.pdf

1、碩士學(xué)位論文互信息多元時(shí)間序列相關(guān)分析與變量選擇CorrelationAnalysisandVariableSelectionforMultivariateTimeSeriesbasedonMutualInformationerlesa學(xué)號(hào)：21009179完成日期：201365大連理工大學(xué)DalianUniversityofTechnology大連理工大學(xué)碩士學(xué)位論文摘要多元時(shí)間序列廣泛存在于生產(chǎn)生活的各個(gè)領(lǐng)域之中。時(shí)間序列采樣值之間

2、，序列與序列之間往往存在復(fù)雜多變的關(guān)聯(lián)特性。合理利用這些數(shù)據(jù)特性，分析變量之間的相關(guān)性，有助于識(shí)別出與預(yù)測(cè)對(duì)象不相關(guān)的無(wú)關(guān)變量，以及對(duì)預(yù)測(cè)對(duì)象作用相似的冗余變量。進(jìn)而對(duì)輸入變量進(jìn)行有效選擇，降低模型規(guī)模和計(jì)算復(fù)雜度，最終達(dá)到提高模型預(yù)測(cè)性能的目的。本文從多元時(shí)間序列的數(shù)據(jù)特點(diǎn)出發(fā)，在相關(guān)性分析的基礎(chǔ)之上對(duì)變量進(jìn)行有效降維，為預(yù)測(cè)模型構(gòu)建合適的輸入。由于互信息不需預(yù)先假設(shè)數(shù)據(jù)的分布類(lèi)型，且能夠有效捕捉非線性相關(guān)關(guān)系，本文提出以互信息作為相

3、關(guān)性分析方法的變量選擇算法。針對(duì)現(xiàn)有單一評(píng)價(jià)函數(shù)中相關(guān)項(xiàng)與冗余項(xiàng)不平衡的問(wèn)題，提出一種基于互信息的分步式變量選擇算法，通過(guò)兩個(gè)步驟分別實(shí)現(xiàn)相關(guān)變量的選擇和弱相關(guān)變量的剔除。同時(shí)將其應(yīng)用于RBF網(wǎng)絡(luò)隱含層節(jié)點(diǎn)的選擇之中，實(shí)現(xiàn)網(wǎng)絡(luò)輸入層與隱含層的結(jié)構(gòu)優(yōu)化。封裝式算法由于需要反復(fù)訓(xùn)練模型，往往計(jì)算復(fù)雜度較高，本文將互信息與具有快速訓(xùn)練機(jī)制的極端學(xué)習(xí)機(jī)模型相結(jié)合，提出一種封裝式的變量選擇算法，在網(wǎng)絡(luò)的訓(xùn)練過(guò)程中，同時(shí)確定輸入層與隱含層的規(guī)模?；?/p>

4、信息估計(jì)的準(zhǔn)確程度對(duì)于變量選擇至關(guān)重要，而聯(lián)合概率密度函數(shù)的估計(jì)一直是互信息估計(jì)中的難點(diǎn)。為解決該問(wèn)題，將互信息估計(jì)轉(zhuǎn)化為Copula熵的估計(jì)問(wèn)題，分別提出基于不同Copula函數(shù)類(lèi)型的參數(shù)方法和基于截?cái)鄈近鄰的非參數(shù)方法，并將非參數(shù)估計(jì)方法用于大連氣象序列的變量選擇之中。針對(duì)以矩陣形式出現(xiàn)的一類(lèi)多元時(shí)間序列數(shù)據(jù)的分類(lèi)問(wèn)題，采用互信息提取序列的特征，在類(lèi)可分離性的基礎(chǔ)上提出變量可分離性的概念用以衡量各變量之間的區(qū)分程度。在UCI腦電信號(hào)