估計量設(shè)為總體x未知參數(shù)

1、估計量：設(shè)θ為總體X的未知參數(shù)，用樣本（X1，X2，…，Xn）構(gòu)成的一個統(tǒng)計量 來估計θ的真值，稱 為θ的估計量。,參數(shù)的點估計(方法)：指用樣本統(tǒng)計量的值估計未知參數(shù)的值。,估計值：對應(yīng)于樣本的一組觀測值（x1，x2，…，xn），估計量 的值 （ x1，x2，…，xn）稱為θ的估計值，仍記作 。,本章介紹 ：1）矩估計法；2）極大似然估計法

2、。,§7.1參數(shù)的點估計,問題：若總體X的分布函數(shù)F(x)的類型已知，但它的一個或多個參數(shù)未知,如何估計總體的未知參數(shù)？想法：用X的一組樣本觀察值（x1，x2，…，xn）來估計總體中未知參數(shù)的值，即用樣本統(tǒng)計量的值估計總體中未知參數(shù)的值。,第七章 參數(shù)估計,mk= E（Xk）,ck= E[X-E(X)]k,總體矩 總體矩的估計值 樣本矩,=,=,顯然,通常取,理論根據(jù)：

3、格利文科定理。Fn(X) 以概率1收斂于F(X)，可以證明, 只要總體的l階矩存在,樣本的l階矩依概率1收斂于總體的l階矩。,一、矩估計法,矩估計法：是用樣本矩估計相應(yīng)的總體矩，用樣本矩函數(shù)估計總體矩的同一函數(shù)的一種估計方法。,解得θ1，θ2的矩估計量為：,解：由于,據(jù)矩估計法有,例1．設(shè)總體X~N(μ，σ2 )，試求μ，σ2的矩估計量。,解：由于 E(X)= μ, D(X)= σ2，據(jù)矩估計法有,解得μ，σ2 的

4、矩計量分別為：,即：,即：,例2．設(shè)總體X~U[θ1，θ2] ，試求θ1，θ2的矩估計量。,試求θ的矩估計量。,解：由于 E(X)=θ,,根據(jù)矩估計法：,(k=0,1,2…；0＜θ＜+∞),又由于 D(X)=θ,故可得θ的另一個矩估計量為,由此可見一個參數(shù)的矩估計量是不唯一的。,例3．設(shè)總體X服從參數(shù)為θ的泊松分布，即,極大似然估計法是求估計值的另一種方法，最早由高斯(R.A,Gauss)提出，后來為費史（Fisher)在1

5、912年重新提出，并證明該方法的一些性質(zhì)．它是建立在極大似然原理基礎(chǔ)上的一個統(tǒng)計方法． 極大似然原理：一個隨機試驗有若干種可能的結(jié)果Ａ，Ｂ，Ｃ，…．若在一次試驗中，結(jié)果A出現(xiàn)，則一般認為試驗條件對A出現(xiàn)有利，也即A出現(xiàn)的概率很大．,引例．設(shè)有外形完全相同的兩個箱子，甲箱有99個白球1個黑球，乙箱有1個白球99個黑球，今隨機地取出一箱，再從取出的一箱中抽取一球，結(jié)果取得白球，問這球是從哪一個箱子中取出的？,解：甲箱

6、中抽得白球的概率P（白|甲）＝99/100,乙箱中抽得白球的概率P（白|乙）=1/100,白球從甲箱中抽出的概率比從乙箱中抽出的概率大得多，根據(jù)極大似然原理，既然在一次抽樣中抽得白球，當(dāng)然可以認為是從抽取概率大的箱子中抽出的，所以，可作出統(tǒng)計推斷：白球是從甲箱中抽出的.,二、 極大似然估計法（Fisher),設(shè)總體X的概率密度函數(shù)為 f(x;θ)，(若X是離散型， f(x;θ) 是分布律），則樣本（x1,…，xn ）的聯(lián)合密度函數(shù)為：,

7、2、求極大似然估計步驟,這是參數(shù)θ的函數(shù)，稱為樣本的似然函數(shù)，記為L(θ)。使似然函數(shù)取得最大值的 稱為 θ的極大似然估計量。這種方法稱為極大似然估計法。,(1)寫出似然函數(shù),特別地，若θ的取值范圍為開集時，可轉(zhuǎn)化為求L(x,θ)的駐點. 取對數(shù)lnL，求lnL關(guān)于未知參數(shù)θ的導(dǎo)數(shù)。由導(dǎo)數(shù)等于零解得θ的估計值,(2) 求出使L(x;θ)達到最大值的,1、極大似然估計法,二、 極大似然估計法（Fishe

8、r),解：設(shè)x1,…,xn為樣本的一組觀測值，于是似然函數(shù)為：,兩邊取對數(shù)得，,對λ求導(dǎo)數(shù)，并使其等于0得，,解這一方程得λ的極大似然估計為：,比如，樣本觀測值為：10，13，65，18，79，42，65，77，88，123，n=10。則，,例4．X~P（λ），求λ極大似然估計。,例6．設(shè)X~N(μ,σ2）,求μ,σ2的極大似然估計。,得μ，σ2的極大似然估計值為：,則,由,例5．X服從參數(shù)為λ的指數(shù)分布，求λ的極大似然估計。,解：似然

9、函數(shù)L（x1,…，xn;μ,σ2),解：似然函數(shù)為,例7．設(shè)總體Ｘ具有[0,θ] 均勻分布，密度函數(shù)為：,求未知參數(shù)θ的極大似然估計。,解：設(shè)x1,…, xn是取自這一總體的一個樣本，似然函數(shù)為：,顯然L是θ的一個單值遞減函數(shù)。,每一個xi ( i=1,2,3 …,n),所以θ的極大似然估計量為：,對同一個參數(shù)用不同的方法得到的估計量可能不相同，,[問題]：選哪一個估計的結(jié)果更好呢？有沒有評價估計量好壞的標準？,1 . 一致性,2 .

10、無偏性,，則稱 為θ的一致估計量。,定義2 設(shè) 為未知參數(shù)θ的估計量，若E( ) =θ，,則稱 為θ的無偏估計量。,若 依概率收斂于θ，即 對于任意ε>0,有,一般情況 ，但希望n→∞時， 。這就是說當(dāng)樣本容量n無限增大時，估計值 非常接近真值的概率趨近于1,一致估計是對極限性質(zhì)而言的，它只在樣本容量較大時才起作用。,一個好的估計

11、量的數(shù)值應(yīng)該在參數(shù)的真值周圍擺動，也就是估計的期望值與未知參數(shù)的真值相等。,定義1 設(shè),三、估計量的評選標準,為未知參數(shù)θ的估計量，,即樣本的二階中心距，不是總體方差的無偏估計．,故 為μ的無偏估計量。,證明：,而,故,，即S2為σ2的無偏估計量。,例8．試證樣本均值 及樣本方差S2分別是總體均值μ及總體方差σ2的無偏估計。,若 ， 則稱 較 有

12、效。,設(shè) ， 是θ的兩個無偏估計量，,若在θ的一切無偏估計中， 的方差最小，則稱 為θ的最小方差無偏估計量。,3. 有效性,對總體的某一參數(shù)的無偏估計量往往不止一個，而且無偏僅僅表明 所有可能取的值按概率平均等于θ，有可能它取的值大部分與θ相差很大.為保證 的取值能集中于θ附近，自然要求 的方差越小越好。,定義3,結(jié)束,例9 比較總體期望 的兩個