半參回歸模型的兩步回歸估計.pdf

1、半參數(shù)回歸模型是八十年代發(fā)展起來的一種重要的統(tǒng)計模型。由于這種模型既含參數(shù)分量，又含非參數(shù)分量?？梢愿爬ê兔枋霰姸鄬嶋H問題，因而引起廣泛重視。給定一個半參數(shù)回歸模型，Y<,i>=X<'T><,i>β+g(t<,i>)+β<,i> i=1，2，…，n諸X<,i>為已知p維設計向量。β=(β<,1>，…，β<,p>)<'T>是未知向量， g(·)為R<'1>上未知Borel函數(shù)。X<'T><,i>，g(t<,i>)分別稱為該模型的參數(shù)分量與

2、非參數(shù)分量。 在文獻中，關于半參數(shù)回歸的工作大多沿著這樣的思路：第一步先設β已知，使用標準非參數(shù)回歸方法，基于{t<,i>，Y<,i>一X<'T><,i>β}<'n><,i=1>估計g，記估計量為g<,λ>(·，β)；第二步再以g<,λ>代g，使用最小二乘法找β的下述極小問題的解。而g的最后估計為g<,λ>(·，β)，此處λ是非參數(shù)回歸估計中的光滑參數(shù)。例如，在核估計時，λ就是窗寬h。常用的計算窗寬的方法有： CV方法、風險估計

3、和GCV方法。這些方法所選擇的窗寬在各自標準下，都是最優(yōu)窗寬。但是計算量偏大，且標準不統(tǒng)一。 非參數(shù)分量g(·)的估計好壞直接影響參數(shù)β的估計。因此，非參數(shù)分量g(·)的估計就顯得尤為重要。但是標準的非參數(shù)回歸估計沒有一個滿意的收斂速度，為了改進非參數(shù)估計的收斂速度，這篇文章結合了非參數(shù)回歸和參數(shù)回歸，提出了兩步回歸估計： 第一步：準備好不同窗寬的非參數(shù)回歸作為先驗選擇。 第二步：將被選擇的估計結合一些參數(shù)回歸技

4、術形成一種新的估計，同時獲得包括最優(yōu)窗寬在內的最優(yōu)設計條件。這樣就避免了使用CV等方法選擇窗寬，減小了計算量，而且對于單變量模型，在內點處的均方誤差的最優(yōu)收斂速度的階為O(n<'-8/9>)。而現(xiàn)存的一些方法沒有達到。通過模擬，對新方法在有限樣本下的表現(xiàn)給出評估并與現(xiàn)存的方法進行比較。 在上述給定的半參數(shù)回歸模型滿足一定的條件下，得到了本文的主要結論： 結論1： 在偏差方面：新估計g(t)的偏差的階為O(n<'-

5、4/9>)，而原來的估計g<,h>(t；β)的偏差的階為O(n<'-2/5>)，新估計的漸近偏差小于原來估計；在方差方面，新估計和原來估計的方差具有相等的漸近階；在均方誤差方面，新估計的均方誤差的收斂速度為O(n<'-8/9>)，而原來估計為O(n-<,4/5>)。因此可以得出：新估計在收斂速度方面較原來的估計有很大的改進。 結論2： 通過兩步估計的結果達到了用最優(yōu)窗寬回歸的結果，避免了使用CV等方法選擇窗寬，減小了計算