線性模型參數(shù)的多種估計方法的隨機(jī)模擬

1、線性模型參數(shù)的多種估計方法的隨機(jī)模擬問題的陳述：人們常常使用線性模型對數(shù)據(jù)進(jìn)行回歸與預(yù)測，在假定了數(shù)據(jù)的自變量X與響應(yīng)變量Y具有線性關(guān)系Y=之后，我們可以對參數(shù)值進(jìn)行估計，從而達(dá)到對模型進(jìn)行估計的效果。這是本次模擬要處理的主要問題，即各種估計方式的優(yōu)劣判別。目的的陳述：對于給定的數(shù)據(jù)X，Y（兩列數(shù)據(jù)），我們將對4種距離：d1(ab)=|(y–a–bx)|；d2(ab)=|(y–a–bx)|；d3(ab)=|(y–a–bx)b|；d4(a

2、b)=|21|與3種計算方式、、(y–a–bx)21()=(())2()=?(())（每個元素平方）進(jìn)行優(yōu)劣比較。3()=(()^2)試驗的設(shè)計：對一組給定的數(shù)據(jù)X，Y，我們將通過極小化目標(biāo)函數(shù)f1、f2、f3的方式來求得a與b。第零部分，比較通過隨機(jī)數(shù)產(chǎn)生的樣本點(diǎn)與固定樣本點(diǎn)對參數(shù)估計帶來的影響。第一部分，比較距離函數(shù)d1、d2、d3、d4對參數(shù)估計帶來的影響。方法如下：對每一個計算方式f1、f2、f3，與每一組數(shù)據(jù)，我們分別計算使用

3、4種不同距離函數(shù)得到的參數(shù)值并且將其對比。第二部分，比較計算方式f1、f2、f3的優(yōu)劣。方法如下：對4種距離中的每一種，我們都用3種計算方式來得到估計的參數(shù)值，并將其對比。關(guān)于參數(shù)估計的其他興趣：參數(shù)估計值的漸近性質(zhì)。對上文的任意一個單項的檢驗，我們都遵從如下步驟：Step1：產(chǎn)生n個樣本點(diǎn)（固定樣本點(diǎn)等距離取定即可，隨機(jī)樣本點(diǎn)Xi~iidU(01)或Xi~iidN(21)），產(chǎn)生對應(yīng)于n個樣本點(diǎn)的隨機(jī)誤差，可以取1與0.1，或者~(0

4、2)2Cauchy(01)。對應(yīng)的Yi=。從而，我們得到了“數(shù)據(jù)”，(X1Y1)(X2~Y2)…(XnYn)。Step2：利用上文產(chǎn)生的“數(shù)據(jù)”，我們分別通過最小化對應(yīng)的f函數(shù)的方式來得到參數(shù)與的估計，a與b。Step3：重復(fù)Step1&Step2n_repeat次，得到若干組估計值a、bStep4：對得到的估計數(shù)據(jù)進(jìn)行分析。1、通過方差、偏倚直接描述估計值，2、通過假設(shè)檢驗的方式比較不同的計算方式得來的結(jié)果。第零部分：探究X取固定樣本

5、點(diǎn)與隨機(jī)樣本點(diǎn)的關(guān)系（代碼統(tǒng)一見1.txt，在代碼里，可供1）均值是否相同？由于這里兩種估計方式的樣本數(shù)量都高達(dá)10000，遠(yuǎn)大于30，我們可以認(rèn)為這是大樣本的檢驗，我們計算兩次估計得到的樣本的z值對a的估計值：z==0.01539，這個值的絕對值遠(yuǎn)遠(yuǎn)小于1.96（95%significance），(1)?(2)(1)10000(2)10000于是我們便沒有充分的理由拒絕兩者均值相同的假設(shè)。對b的估計值：同上計算得到z=0.06282，

6、同樣，我們也沒有充分的理由拒絕兩者有相同的期望2）方差是否相同？計算Fratio，F(xiàn)=max，，對自由度為（99999999）的F分布，(1)(2)(2)(1)，0.05=1.0334470.01=1.047632對a的估計值：F=1.002618F=1.041891，同樣我們有95%可信度來拒絕關(guān)于b的估計兩者具有0.010.05相同的方差，不過，沒有99%的可信度。Part3：綜上所述，在d2，f3這一計算方式下，樣本點(diǎn)取值是[01