不定最小二乘問(wèn)題和近似因子模型的相關(guān)研究.pdf

1、不定最小二乘問(wèn)題不僅可以作為一般最小二乘問(wèn)題的一種推廣形式，同時(shí)H估計(jì)和控制，風(fēng)險(xiǎn)敏感估計(jì)和控制(risk-sensitive estiamtion and control)，有限記憶自適應(yīng)濾波(finite memory adaptive filtering)等控制論問(wèn)題都可以統(tǒng)一的轉(zhuǎn)化成不定最小二乘問(wèn)題來(lái)研究.因此關(guān)于不定最小二乘問(wèn)題展開研究是有價(jià)值和意義的。另外，我們還對(duì)因子模型作了一些討論。由于嚴(yán)格因子模型不能很好的刻畫變量之間

2、的聯(lián)系，而且在高維的情況下，現(xiàn)有的樣本量不足以給出一個(gè)好的估計(jì)，這些因素促使關(guān)于近似因子模型的研究變得日益活躍起來(lái)。
　　第二章是預(yù)備知識(shí)部分，我們首先給出一些基本定義，再在此基礎(chǔ)上給出條件數(shù)的統(tǒng)一定義形式。另外，一些必要的引理和概念也在這里給出，同時(shí)我們還證明了一些文章中要使用的基本定理。
　　在第三章和第四章中，我們討論了不定最小二乘問(wèn)題及其線性約束情況的條件數(shù)?；跀?shù)據(jù)空間上定義的乘積范數(shù)，我們首先給出其條件數(shù)的統(tǒng)一定

3、義形式，然后在此新的框架下建立不定最小二乘問(wèn)題條件數(shù)的精確表達(dá)式.作為其特殊情況，我們還給出了范數(shù)型，混合型和分量型條件數(shù)的具體表達(dá)式。在2-范數(shù)的情況下，我們給出了幾種具有存儲(chǔ)和計(jì)算優(yōu)勢(shì)的各類最小二乘問(wèn)題條件數(shù)的等價(jià)形式。在第三章中，根據(jù)不定最小二乘問(wèn)題與整體最小二乘問(wèn)題之間的聯(lián)系，我們從不定最小二乘問(wèn)題的角度重新推導(dǎo)了整體最小二乘問(wèn)題的條件數(shù)表達(dá)式。在第四章，我們給出了推導(dǎo)各類線性最小二乘問(wèn)題及其約束情況的條件數(shù)表達(dá)式所使用的統(tǒng)一技

4、巧。我們的方法不再借助于奇異值分解，不需要各種復(fù)雜的構(gòu)造技巧，具有一定的普適性。同時(shí)，我們還研究了系數(shù)矩陣具有特殊結(jié)構(gòu)的各類最小二乘問(wèn)題，建立了相應(yīng)的結(jié)構(gòu)型條件數(shù)的表達(dá)式。針對(duì)大型矩陣精確計(jì)算條件數(shù)過(guò)于耗時(shí)的問(wèn)題，我們提出了基于概率統(tǒng)計(jì)方法的幾種估計(jì)條件數(shù)的算法。最后，我們通過(guò)隨機(jī)數(shù)值實(shí)驗(yàn)來(lái)檢驗(yàn)這幾種算法估計(jì)條件數(shù)的效率，另外還對(duì)不同條件數(shù)之間的差異做了比較。
　　第五章，我們研究了近似因子模型的估計(jì)問(wèn)題。由于目前關(guān)于近似因子模型

5、的懲罰似然估計(jì)方法不能保證誤差協(xié)方差矩陣的正定性，而且現(xiàn)有文獻(xiàn)中基于極大似然方法估計(jì)協(xié)方差矩陣通常是使用ADMM方法來(lái)保證協(xié)方差陣的正定性。但是ADMM方法需要選取懲罰參數(shù)，而懲罰參數(shù)又對(duì)實(shí)際計(jì)算中算法的收斂速度有著不可忽視的影響。為了克服這些困難，我們提出了一種新的算法，該算法能在保證誤差協(xié)方差矩陣正定性的同時(shí)，還有著較快的收斂速度。通過(guò)數(shù)值模擬，我們發(fā)現(xiàn)保證誤差協(xié)方差矩陣的正定性可以提高近似因子模型的估計(jì)效率和預(yù)測(cè)精度，而且根據(jù)協(xié)方