混沌時間序列預測與儲備池機器學習方法研究.pdf

1、本文以混沌時間序列的儲備池預測方法為題進行研究，以期探索儲備池的非線性處理機制，另覓新的機器學習方法，主要研究內容包括： 1、分析和建立混沌時間序列的儲備池預測模型。對于一些確定性混沌序列，基于儲備池的迭代預測方法性能卓越，但其結構設置缺乏合理解釋，而且到目前為止，這種方法較好地應用于含噪聲的混沌時間序列。針對這些問題，本文首先證明此類模型對非線性系統(tǒng)狀態(tài)軌跡的逼近特性，并探討初始狀態(tài)設置的任意性。其次，本文將儲備池模型分為三類

2、：常規(guī)狀態(tài)反饋結構、輸出反饋結構和前饋(靜態(tài))結構，而著名的迭代預測方法則可由輸出反饋結構加以分析。通過進一步對比這三類結構，本文提出了基于儲備池的混沌序列直接預測方法，該方法利用預測原點和預測時域之間的關系直接構建預測器。相對于已有的迭代方法，本文所建直接預測器的穩(wěn)定性可預先加以保障，遂避免由于網(wǎng)絡附加回路閉合而產生的穩(wěn)定性和誤差積累問題。 2、提出儲備池正則化學習方法。在現(xiàn)有的儲備池學習方法中，存在較為嚴重的不適定性，表現(xiàn)為

3、奇異值分布較連續(xù)、條件數(shù)較大，得到的輸出權值幅值較大，從而為儲備池的應用埋下了隱患。針對這個問題，本文提出儲備池的正則化學習方法。該方法可通過奇異值截斷或懲罰方法實現(xiàn)，其中，截斷方法直接處理病態(tài)的系數(shù)矩陣，通過矩陣的奇異值截斷，舍棄較小的奇異值以解決不適定問題；懲罰方法則采用嶺回歸形式，改善待因子化矩陣的性質，使其對稱正定，因而可通過高效的Cholesky或高斯消元法進行求解。此外，本文還探討了正則化方法應用于含噪聲混沌序列預測的理論問

4、題。假設時間序列所含的噪聲有界，從變量含誤差(Errors-in-variables)模型的角度，可得到由噪聲所引起的最壞預測誤差。通過最小化該誤差，便得到含噪混沌序列的魯棒最優(yōu)預測模型，該模型具有懲罰正則化的形式。 3、基于儲備池方法，提出無核非線性支持向量機模型。傳統(tǒng)的核方法實現(xiàn)了一種靜態(tài)映射，但較難實現(xiàn)遞歸結構，因此無法直接處理動態(tài)模式。儲備池具有“遞歸核”的功能，并可較好地應用于動態(tài)系統(tǒng)辨識?；诖耍疚慕Y合儲備池的特點

5、和傳統(tǒng)支持向量機的處理方法，提出一種不依賴核的非線性支持向量機一支持向量回聲狀態(tài)機(SupportVectorEcho-StateMachines，SVESMs)。SVESMs的主要特點是不依賴核方法構建隱式的特征空間，它采用隨機生成的儲備池來處理非線性系統(tǒng)建模問題，在高維的儲備池狀態(tài)空間中進行計算。這種方法便于實現(xiàn)結構風險最小化(StructuralRiskMinimization)，并可根據(jù)問題的不同引入不同的代價函數(shù)，當采用魯棒損