應用統(tǒng)計學第12章

1、1,本章教學目標：了解回歸分析在經(jīng)濟與管理中的廣泛應用；掌握回歸分析的基本概念、基本原理及其分析應用的基本步驟；熟練掌握使用軟件求解回歸方程及其運行輸出結(jié)果的分析與使用；能應用回歸分析方法解決實際問題（分析各種變量間的關系，進行預測和控制）,第12章 多元線性回歸,2,本章主要內(nèi)容：,§12.1 多元線性回歸的數(shù)學模型§12.2 參數(shù)β的最小二乘估計§12.3 多元回歸模型的

2、顯著性檢驗§12.4 預測與控制 本章內(nèi)容重點： 回歸方程和回歸系數(shù)的顯著性檢驗；多元線性回歸及其預測和控制；軟件的求解分析。,3,在許多實際問題中，對某一變量 Y 有重要影響的解釋變量不止一個，此時就需要研究一個隨機變量 Y 與多個普通變量 X1, X2, ···, XP 之間的回歸關系，這就是多元回歸問題。 多元線性回歸分析的原理與一元線性回歸

3、是類似的。,§12.1 多元線性回歸的數(shù)學模型,4,設被解釋變量 Y 與 P 個解釋變量 X1, X2, ···, XP 之間,存在線性相關關系。,則 Y 與 X1, X2, ···, XP 之間的多元,線性回歸模型為：,Y= ?0 + ?1 X1 + ?2 X2 + ··· + ?P XP + ? (12.4-1),設

4、第 i 次試驗數(shù)據(jù)為 (xi1, xi2 ,···, xip, yi )，,則多元線性,回歸有如下數(shù)據(jù)結(jié)構(gòu)：,yi = ?0 + ?1 xi1 + ?2 xi2 + ··· + ?p xip + ?i (12.4-2),?i ～N(0, ? 2 )，且相互獨立,i = 1, 2, ···, N,一. 多元線性回歸的數(shù)學模型,5,設,在多

5、元線性回歸中，同樣使用最小二乘法進行參數(shù)估計。,則多元線性回歸方程為,為參數(shù) ?0, ?1, ···, ?P 的最小二乘估計，,同樣稱,為回歸方程的回歸系數(shù)。,,二. 參數(shù) ? 的最小二乘估計,6,如果變量 Y 與 X1, X2, ···, Xp 之間并無線性關系，,則,模型(12.4-1)式中各一次項系數(shù)應全為零。,因此要檢驗,的原假設為,H0：?1 = ?2 = ·

6、;·· = ?p = 0,為構(gòu)造檢驗 H0 的統(tǒng)計量，,同樣需要對總的偏差平,方和 ST 作如下分解：,= SE + SR,同樣稱 SR 為回歸平方和，,SE 為剩余平方和。,三．回歸方程的顯著性檢驗,7,檢驗 H0 的統(tǒng)計量,可以證明，當 H0 為真時，統(tǒng)計量,～F( P, N-P-1),檢驗過程同樣可以列成一張方差分析表。,多元回,歸方差分析表的格式與一元回歸完全相同。,,8,在多元回歸中，,回歸方程顯著的結(jié)論

7、僅表明模型中,各 ?j 不全為零，,但并不說明它們?nèi)粸榱恪?也即并不,能保證每個解釋變量都對 Y 有重要影響。,如果模型中含有對 Y 無顯著影響的變量，,就會降低,回歸方程的預測精度和穩(wěn)定性。,因此，,需要從回歸方程中剔除對 Y 無顯著影響的變,量，,重新建立更為簡單的回歸方程。,如果某個變量 Xk 對 Y 的作用不顯著，,則模型中 ?k,就可以為零。,故要檢驗的原假設為,H0k：?k = 0，k = 1, 2, ·

8、3;·, P,四. 回歸系數(shù)的顯著性檢驗,9,記 tk 為檢驗 H0k 的統(tǒng)計量，則當 H0k為真時，統(tǒng)計量 tk ～t (N-P-1)，k = 1, 2,···, P 因此，在給定水平 ? 下，若 tk > t?(N-P-1)就拒絕 H0k，說明 Xk 的作用顯著。 反之，則說明 Xk 的作用不

9、顯著。,10,2. 存在不顯著變量后的處理,若經(jīng)檢驗，,Xk 的作用不顯著，,則應從模型中剔除,Xk，,并重新求解 Y 對余下的 P-1 個變量的回歸方程。,若檢驗中同時存在多個不顯著的變量，,則每次只能,剔除一個顯著性水平最低的變量，,重新求解新的回歸,方程。,再對新的回歸系數(shù)進行檢驗，,直至所有變量都,顯著為止。,當模型中解釋變量很多時，,通常會存在較多的不顯,著變量，,以上步驟就非常繁瑣。,更為有效的方法是采,用“逐步回歸”來求解

10、多元線性回歸方程。,,11,逐步回歸的基本思想是： 采用一定的評價標準，將解釋變量一個一個地逐步引入回歸方程。每引進一個新變量后，都對方程中的所有變量進行顯著性檢驗，并剔除不顯著的變量，被剔除的變量以后就不再進入回歸方程。 采用逐步回歸方法最終所得到的回歸方程與前述方法的結(jié)果是一樣的，但計算量要少得多。 在 SPSS 軟件的線性回歸功能中就提供了逐步回歸的可選項。,逐步回歸方法簡介,12,家電商品的需求量 Y 與其價

11、格 X1 及居民家庭平均收入 X2 有關。 下表給出了某市 10 年中某家電商品需求量與價格和家庭年平均收入水平間的數(shù)據(jù)。,求該商品年需求量 Y 關于價格 X1和家庭年平均收入 X2 的回歸方程。,【案例3】需求量與價格及收入間的關系,13,由方差分析表，Significance F = 0.0001，因而回歸方程極高度顯著。 對回歸系數(shù)的顯著性檢驗結(jié)果為： X1 的P-value = 0.0268，X2 的 P-

12、value = 0.0262都是一般顯著。 此外還得到回歸方程的標準誤差：,用 Excel 求解案例 3，可得回歸方程如下：,該值在求預測區(qū)間和控制范圍時要用到。,案例 3 分析,14,⑴預計下一年度該商品的價格水平為1800元，家庭年平均收入為30000元，希望預測該商品下一年的需求量。 ⑵假定下一年度居民家庭年平均收入估計在30000-31000元之間。 若要以90%的概率使該商品的年需求量不低于12萬臺

13、，則應將價格控制在什么范圍內(nèi)？,案例3 需要進一步分析的問題,15,1. 預測 在給定解釋變量的一組取值 ( x01, x02 ,···, x0P )，由回歸方程可得回歸值,它是 Y0 = ?0 + ?1X01 + ?2X02 + ··· + ?pX0p+ ?0 的一個點估計。 可以證明，Y0 的置信度為 1-? 的預測區(qū)間為,五. 預測和控制,,16,預計下

14、一年度該商品的價格水平為1800元，家庭年平均收入為30000元，求該商品年需求量的置信度為90%的預測區(qū)間。解：由所得回歸方程，可求得,∴該商品在該市下一年的年需求量的置信度為90%的預測區(qū)間為,案例3的預測分析,= t0.05(7)×0.8618,= 1.63,= (11.20萬臺，14.46萬臺),17,2. 控制,在多元回歸情況下，,由于解釋變量有多個，,若控制,問題的提法是：,當要求以 1-? 的概率將 Y 控制在

15、某一,給定范圍內(nèi)，,問應將各解釋變量控制在什么范圍內(nèi)？,顯然此問題可以有無窮多個解。,因此多元回歸控制問題的一般提法是：,若要將 Y 控,制在某給定范圍內(nèi)，,在給定其中 P-1 個解釋變量的取,值范圍時，,應將另一個解釋變量控制在什么范圍之內(nèi)？,多元回歸的控制分析方法與一元回歸是完全類似的。,18,假定下一年度居民家庭的年平均收入估計在30000-31000元之間，若要以90％概率使該商品在的年需求量不低于12萬臺，問應將價格控制在什么

16、范圍內(nèi)？。解：此問題仍是單測控制問題，即要控制 X1 的取值范圍，使,其中,案例3的控制要求分析,= t0.1(7)×0.8618,= 1.2194,19,可解得：x1 < 1.594 (千元)∴應將該商品價格控制在 1594元/臺 之下。,由所得回歸方程，可得以下不等式組,,11.167 - 1.903x1 + 0.1695×30 - 1.2194 > 1211.167 - 1.903x1 + 0

17、.1695×31 - 1.2194 > 12,案例3的控制要求分析(續(xù)),20,根據(jù)我國自 1975 年到 1986 年 12 年間上述各項經(jīng)濟指標數(shù)據(jù)，建立計劃經(jīng)濟時期影響我國鋼材產(chǎn)量最合適的回歸模型。,【案例4】宏觀經(jīng)濟模型,在計劃經(jīng)濟時期，,我國鋼材產(chǎn)量 Y 主要與以,下因素有關：,原油產(chǎn)量 X1，,生鐵產(chǎn)量 X2，,原煤產(chǎn)量 X3，,電力產(chǎn)量 X4，,固定資產(chǎn)投資 X5，,國民收入消費額 X6，,鐵路運輸能力 X

18、7。,21,即在計劃經(jīng)濟時期，我國鋼材產(chǎn)量主要受原油產(chǎn)量X1，生鐵產(chǎn)量 X2，電力產(chǎn)量 X4的影響。其中原油產(chǎn)量與鋼材產(chǎn)量之間是負相關的，這主要是因當時資金有限的原故。 如果使用 SPSS 軟件中的“逐步回歸”求解，可直接得到上述結(jié)果。,用 Excel 求解本案例的分析步驟,第一次回歸的結(jié)果是：回歸方程極高度顯著，但回歸系數(shù)的檢驗結(jié)果中除X4(電力產(chǎn)量)外，其他變量都不顯著。 經(jīng)過4輪逐個剔除t統(tǒng)計量最小的變量后，得到最優(yōu)