23570.高維共線性統(tǒng)計(jì)模型的參數(shù)估計(jì)與變量選擇

1、博士學(xué)位論文高維共線性統(tǒng)計(jì)模型的參數(shù)估計(jì)與變量選擇TheParameterEstimationandVariableSelectioninHighDimensionalCollinearityModels作者姓名：學(xué)科、，專業(yè)：學(xué)號(hào)：指導(dǎo)教師：完成日期：董瑩金融數(shù)學(xué)與保險(xiǎn)精算10901002宋立新教授2014年6月大連理工大學(xué)DalianUniversityofTechnology大連理工大學(xué)博士學(xué)位論文摘要變量選擇在統(tǒng)計(jì)研究特別是高維

2、數(shù)據(jù)研究中占有極其重要的地位實(shí)際問題中對(duì)模型影響程度較大的預(yù)測(cè)變量往往是比較少的，而研究者通常會(huì)在預(yù)測(cè)模型時(shí)給出許多可能的預(yù)測(cè)變量以盡量提高預(yù)測(cè)的準(zhǔn)確程度，那么如何將這些重要的變量選擇出來，以得到精確的預(yù)測(cè)模型是我們非常關(guān)心的問題，這就是變量選擇的過程加入懲罰函數(shù)的觀點(diǎn)在變量選擇的研究中是相當(dāng)有用和有效的，這種方法能夠?qū)⒛Ｐ椭酗@著變量的系數(shù)進(jìn)行很小的壓縮或者不壓縮的保留于原模型中，而對(duì)于較小的系數(shù)會(huì)將其壓縮為零，這樣便實(shí)現(xiàn)了同時(shí)對(duì)模型變

3、量的選擇和對(duì)模型參數(shù)的估計(jì)的效果，進(jìn)而顯著提高了計(jì)算的效率大部分問題在構(gòu)造模型時(shí)還有可能存在另一種情況，即所提出的解釋變量之間多數(shù)是具有很高的相關(guān)性的，特別是在具有很多變量參與即高維的情形下這里我們更為關(guān)注對(duì)共線性問題的探討本文給出了我們關(guān)于高維數(shù)據(jù)中相關(guān)度過高(即共線性)的數(shù)據(jù)下的參數(shù)估計(jì)和變量選擇問題的研究所取得的一些成果本文的內(nèi)容結(jié)構(gòu)如下：文章第二部分討論了組合懲罰下聯(lián)合均值與方差模型的變量選擇問題該模型的提出是由于在回歸模型中，

4、對(duì)均值參數(shù)估計(jì)的有效性依賴于對(duì)方差參數(shù)的估計(jì)，因此對(duì)方差的討論能更好地解釋數(shù)據(jù)變化的原因和規(guī)律這里我們對(duì)所提出的估計(jì)的相合性和漸近正態(tài)性做出了論證同時(shí)將該模型與組合懲罰相結(jié)合，用于處理相關(guān)度較高的數(shù)據(jù)的變量選擇文章第三部分給出了參數(shù)發(fā)散的情況下廣義線性模型的變量選擇和參數(shù)估計(jì)的問題在給出的組合懲罰之下得到了這種估計(jì)的漸近結(jié)果提出的相應(yīng)算法得到的模擬和實(shí)際數(shù)據(jù)分析結(jié)果說明了該組合懲罰對(duì)于處理相關(guān)性較高的模型具有重要的意義文章第四部分討論了

5、超高維情況下廣義線性模型的變量選擇應(yīng)用SCADRidge組合的懲罰，在一定的假設(shè)條件之下，證明了該模型的估計(jì)所具有的理論性質(zhì)當(dāng)調(diào)整參數(shù)滿足適當(dāng)?shù)臈l件時(shí)，該方法能夠一致地選出真實(shí)模型，模擬結(jié)果也表明了這一方法是很有實(shí)際應(yīng)用價(jià)值的文章第五部分提出了一種新的很有實(shí)際意義的模型混合總體廣義線性模型這一模型可以用來討論混合總體中個(gè)體的特征情況，我們利用M一估計(jì)的方法對(duì)這個(gè)模型的參數(shù)進(jìn)行了估計(jì)，同時(shí)證明了該估計(jì)具有相合性和漸近正態(tài)性為了驗(yàn)證這一估計(jì)