互信息多元時間序列相關(guān)分析與變量選擇.pdf

1、碩士學(xué)位論文互信息多元時間序列相關(guān)分析與變量選擇CorrelationAnalysisandVariableSelectionforMultivariateTimeSeriesbasedonMutualInformationerlesa學(xué)號：21009179完成日期：201365大連理工大學(xué)DalianUniversityofTechnology大連理工大學(xué)碩士學(xué)位論文摘要多元時間序列廣泛存在于生產(chǎn)生活的各個領(lǐng)域之中。時間序列采樣值之間

2、，序列與序列之間往往存在復(fù)雜多變的關(guān)聯(lián)特性。合理利用這些數(shù)據(jù)特性，分析變量之間的相關(guān)性，有助于識別出與預(yù)測對象不相關(guān)的無關(guān)變量，以及對預(yù)測對象作用相似的冗余變量。進而對輸入變量進行有效選擇，降低模型規(guī)模和計算復(fù)雜度，最終達到提高模型預(yù)測性能的目的。本文從多元時間序列的數(shù)據(jù)特點出發(fā)，在相關(guān)性分析的基礎(chǔ)之上對變量進行有效降維，為預(yù)測模型構(gòu)建合適的輸入。由于互信息不需預(yù)先假設(shè)數(shù)據(jù)的分布類型，且能夠有效捕捉非線性相關(guān)關(guān)系，本文提出以互信息作為相

3、關(guān)性分析方法的變量選擇算法。針對現(xiàn)有單一評價函數(shù)中相關(guān)項與冗余項不平衡的問題，提出一種基于互信息的分步式變量選擇算法，通過兩個步驟分別實現(xiàn)相關(guān)變量的選擇和弱相關(guān)變量的剔除。同時將其應(yīng)用于RBF網(wǎng)絡(luò)隱含層節(jié)點的選擇之中，實現(xiàn)網(wǎng)絡(luò)輸入層與隱含層的結(jié)構(gòu)優(yōu)化。封裝式算法由于需要反復(fù)訓(xùn)練模型，往往計算復(fù)雜度較高，本文將互信息與具有快速訓(xùn)練機制的極端學(xué)習(xí)機模型相結(jié)合，提出一種封裝式的變量選擇算法，在網(wǎng)絡(luò)的訓(xùn)練過程中，同時確定輸入層與隱含層的規(guī)模。互

4、信息估計的準(zhǔn)確程度對于變量選擇至關(guān)重要，而聯(lián)合概率密度函數(shù)的估計一直是互信息估計中的難點。為解決該問題，將互信息估計轉(zhuǎn)化為Copula熵的估計問題，分別提出基于不同Copula函數(shù)類型的參數(shù)方法和基于截斷k近鄰的非參數(shù)方法，并將非參數(shù)估計方法用于大連氣象序列的變量選擇之中。針對以矩陣形式出現(xiàn)的一類多元時間序列數(shù)據(jù)的分類問題，采用互信息提取序列的特征，在類可分離性的基礎(chǔ)上提出變量可分離性的概念用以衡量各變量之間的區(qū)分程度。在UCI腦電信號