高維數據變量選擇的幾點研究.pdf

1、變量選擇是高維數據分析的一個重要研究問題，而對似然函數加一個懲罰項是近些年使用最為廣泛的變量選擇方法。懲罰似然方法的提出始自上世紀六七十年代，但直到上世紀九十年代，統(tǒng)計學家才開始系統(tǒng)地研究懲罰似然方法的理論性質，其中研究較多的是線性模型和廣義線性模型。針對具有重要實際應用背景的生存分析模型鮮有突破性的理論性質，其中的困難主要來源于生存分析數據的刪失特征。本論文的一部分內容是針對生存分析模型研究懲罰似然方法的理論性質，主要研究了生存分析中

2、最重要的Cox模型下懲罰似然估計量的oracle性質。我們在計數過程框架下研究高維、非齊次變量的Cox模型，在證明定理時，所加的正則條件僅加在真實的回歸參數上，從而使得條件更自然，這有別于文獻中其他方法所加條件。
　　在實際應用中，人們更感興趣的是如何快速有效地獲得合適的參數估計。近十幾年來人們提出了各種算法，大部分可以歸結為路徑算法。似然懲罰估計量的求解是一個最優(yōu)化問題，對于凸懲罰其算法相對簡單，而對于非凸懲罰的算法往往復雜多了

3、。我們在第三章中提出了一種新的路徑算法，該方法與文獻中已有方法的優(yōu)點是，可以更容易找到全局最優(yōu)解。可以針對凸懲罰和非凸懲罰都得到有效的路徑解。通過數值計算比較發(fā)現新提出的算法在計算效率上與現有方法有較大的優(yōu)勢。
　　路徑算法提供了一系列的解，必須從中選擇最優(yōu)的解，而針對低維數據的傳統(tǒng)方法不適用于高維數據。大多數針對高維數據的前人工作是基于修正信息類準則，本文的第四章和第五章對交叉驗證方法（一類數據驅動的方法）進行修正以分別應用于線