應(yīng)用統(tǒng)計chapter10

1、第十章：方差分析,方差分析,方差分析的引論 單因素方差分析雙因素方差分析,10.1 方差分析引論,10.1.1 方差分析及其有關(guān)術(shù)語10.1.2 方差分析的基本思想和原理10.1.3 方差分析的基本假定10.1.4 問題的一般提法,方差分析及其有關(guān)術(shù)語,什么是方差分析(ANOVA)?(analysis of variance),檢驗多個總體均值是否相等通過分析數(shù)據(jù)的誤差判斷各總體均值是否相等研究分類型自變量對

2、數(shù)值型因變量的影響 一個或多個分類型自變量兩個或多個 (k 個) 處理水平或分類一個數(shù)值型因變量有單因素方差分析和雙因素方差分析單因素方差分析：涉及一個分類的自變量雙因素方差分析：涉及兩個分類的自變量,什么是方差分析? (例題分析),【 例 】為了對幾個行業(yè)的服務(wù)質(zhì)量進行評價，消費者協(xié)會在四個行業(yè)分別抽取了不同的企業(yè)作為樣本。最近一年中消費者對總共23家企業(yè)投訴的次數(shù)如下表,什么是方差分析? (例題分析),分析四個行業(yè)之

3、間的服務(wù)質(zhì)量是否有顯著差異，也就是要判斷“行業(yè)”對“投訴次數(shù)”是否有顯著影響作出這種判斷最終被歸結(jié)為檢驗這四個行業(yè)被投訴次數(shù)的均值是否相等若它們的均值相等，則意味著“行業(yè)”對投訴次數(shù)是沒有影響的，即它們之間的服務(wù)質(zhì)量沒有顯著差異；若均值不全相等，則意味著“行業(yè)”對投訴次數(shù)是有影響的，它們之間的服務(wù)質(zhì)量有顯著差異,方差分析中的有關(guān)術(shù)語,因素或因子(factor)所要檢驗的對象要分析行業(yè)對投訴次數(shù)是否有影響，行業(yè)是要檢驗的因素或因子

4、水平或處理(treatment)因子的不同表現(xiàn)零售業(yè)、旅游業(yè)、航空公司、家電制造業(yè)就是因子的水平觀察值在每個因素水平下得到的樣本數(shù)據(jù)每個行業(yè)被投訴的次數(shù)就是觀察值,方差分析中的有關(guān)術(shù)語,試驗這里只涉及一個因素，因此稱為單因素四水平的試驗總體因素的每一個水平可以看作是一個總體比如零售業(yè)、旅游業(yè)、航空公司、家電制造業(yè)可以看作是四個總體樣本數(shù)據(jù)被投訴次數(shù)可以看作是從這四個總體中抽取的樣本數(shù)據(jù),方差分析的基本思想和原理,

5、方差分析的基本思想和原理(圖形分析),方差分析的基本思想和原理(圖形分析),從散點圖上可以看出不同行業(yè)被投訴的次數(shù)是有明顯差異的同一個行業(yè)，不同企業(yè)被投訴的次數(shù)也明顯不同家電制造被投訴的次數(shù)較高，航空公司被投訴的次數(shù)較低行業(yè)與被投訴次數(shù)之間有一定的關(guān)系如果行業(yè)與被投訴次數(shù)之間沒有關(guān)系，那么它們被投訴的次數(shù)應(yīng)該差不多相同，在散點圖上所呈現(xiàn)的模式也就應(yīng)該很接近,方差分析的基本思想和原理,僅從散點圖上觀察還不能提供充分的證據(jù)證明

6、不同行業(yè)被投訴的次數(shù)之間有顯著差異這種差異也可能是由于抽樣的隨機性所造成的需要有更準確的方法來檢驗這種差異是否顯著，也就是進行方差分析所以叫方差分析，因為雖然我們感興趣的是均值，但在判斷均值之間是否有差異時則需要借助于方差這個名字也表示：它是通過對數(shù)據(jù)誤差來源的分析判斷不同總體的均值是否相等。因此，進行方差分析時，需要考察數(shù)據(jù)誤差的來源,方差分析的基本思想和原理(兩類誤差),隨機誤差因素的同一水平(總體)下，樣本各觀察值之間

7、的差異比如，同一行業(yè)下不同企業(yè)被投訴次數(shù)是不同的這種差異可以看成是隨機因素的影響，稱為隨機誤差 系統(tǒng)誤差因素的不同水平(不同總體)下，各觀察值之間的差異比如，不同行業(yè)之間的被投訴次數(shù)之間的差異這種差異可能是由于抽樣的隨機性所造成的，也可能是由于行業(yè)本身所造成的，后者所形成的誤差是由系統(tǒng)性因素造成的，稱為系統(tǒng)誤差,方差分析的基本思想和原理(誤差平方和),數(shù)據(jù)的誤差用平方和(sum of squares)表示組內(nèi)平方和(wi

8、thin groups)因素的同一水平(同一個總體)下樣本數(shù)據(jù)的平方和比如，零售業(yè)被投訴次數(shù)的誤差平方和組內(nèi)平方和只包含隨機誤差組間平方和(between groups)因素的不同水平(不同總體)下各樣本之間的平方和比如，四個行業(yè)被投訴次數(shù)之間的誤差平方和組間平方和既包括隨機誤差，也包括系統(tǒng)誤差,方差分析的基本思想和原理(誤差的比較),若原假設(shè)成立，組間平方和與組內(nèi)平方和經(jīng)過平均后的數(shù)值就應(yīng)該很接近，它們的比值就會接近1

9、若原假設(shè)不成立，組間平方和平均后的數(shù)值就會大于組內(nèi)平方和平均后的數(shù)值，它們之間的比值就會大于1當這個比值大到某種程度時，就可以說不同水平之間存在著顯著差異，也就是自變量對因變量有影響判斷行業(yè)對投訴次數(shù)是否有顯著影響，也就是檢驗被投訴次數(shù)的差異主要是由于什么原因所引起的。如果這種差異主要是系統(tǒng)誤差，說明不同行業(yè)對投訴次數(shù)有顯著影響,方差分析的基本假定,方差分析的基本假定,每個總體都應(yīng)服從正態(tài)分布對于因素的每一個水平，其觀察值是來自

10、服從正態(tài)分布總體的簡單隨機樣本比如，每個行業(yè)被投訴的次數(shù)必需服從正態(tài)分布各個總體的方差必須相同各組觀察數(shù)據(jù)是從具有相同方差的總體中抽取的比如，四個行業(yè)被投訴次數(shù)的方差都相等觀察值是獨立的比如，每個行業(yè)被投訴的次數(shù)與其他行業(yè)被投訴的次數(shù)獨立,方差分析中的基本假定,在上述假定條件下，判斷行業(yè)對投訴次數(shù)是否有顯著影響，實際上也就是檢驗具有同方差的四個正態(tài)總體的均值是否相等如果四個總體的均值相等，可以期望四個樣本的均值也會很接近

11、四個樣本的均值越接近，推斷四個總體均值相等的證據(jù)也就越充分樣本均值越不同，推斷總體均值不同的證據(jù)就越充分,方差分析中基本假定,? 如果原假設(shè)成立，即H0 ： m1 = m2 = m3 = m44個行業(yè)被投訴次數(shù)的均值都相等意味著每個樣本都來自均值為??、方差為? 2的同一正態(tài)總體,,X,f(X),?1 ? ?2 ? ?3 ? ?4,,方差分析中基本假定,?若備擇假設(shè)成立，即H1 ： mi (i=1,2,3,4)不全相等至少有一

12、個總體的均值是不同的4個樣本分別來自均值不同的4個正態(tài)總體,問題的一般提法,問題的一般提法,設(shè)因素有k個水平，每個水平的均值分別用?1 , ?2, ?, ?k 表示要檢驗k個水平(總體)的均值是否相等，需要提出如下假設(shè)： H0 ： ?1 ? ?2 ? …? ?k H1 ： ?1 , ?2 , ?，?k 不全相等設(shè)?1為零售業(yè)被投訴次數(shù)的均值，?2為旅游業(yè)被投訴次數(shù)的均值，?3為航空公司被投訴次數(shù)的均值，?4為家電制造業(yè)被投

13、訴次數(shù)的均值，提出的假設(shè)為H0 ： ?1 ? ?2 ? ?3 ? ?4 H1 ： ?1 , ?2 , ?3 , ?4 不全相等,10.2 單因素方差分析,10.2.1 數(shù)據(jù)結(jié)構(gòu)10.2.2 分析步驟10.2.3 關(guān)系強度的測量10.2.4 方差分析中的多重比較,單因素方差分析,數(shù)據(jù)結(jié)構(gòu)分析步驟用Excel進行方差分析,單因素方差分析的數(shù)據(jù)結(jié)構(gòu)(one-way analysis of variance),

14、分析步驟提出假設(shè)構(gòu)造檢驗統(tǒng)計量統(tǒng)計決策,提出假設(shè),一般提法H0 ： m1 = m2 =…= mk 自變量對因變量沒有顯著影響 H1 ： m1 ，m2 ，… ，mk不全相等自變量對因變量有顯著影響 注意：拒絕原假設(shè)，只表明至少有兩個總體的均值不相等，并不意味著所有的均值都不相等,構(gòu)造檢驗的統(tǒng)計量,構(gòu)造統(tǒng)計量需要計算水平的均值全部觀察值的總均值誤差平方和均方(MS),構(gòu)造檢驗的統(tǒng)計量(計算水平的均值),假定從

15、第i個總體中抽取一個容量為ni的簡單隨機樣本，第i個總體的樣本均值為該樣本的全部觀察值總和除以觀察值的個數(shù)計算公式為,式中： ni為第 i 個總體的樣本觀察值個數(shù) xij 為第 i 個總體的第 j 個觀察值,構(gòu)造檢驗的統(tǒng)計量(計算全部觀察值的總均值),全部觀察值的總和除以觀察值的總個數(shù)計算公式為,構(gòu)造檢驗的統(tǒng)計量(計算總誤差平方和 SST),全部觀察值 與總平均值 的離差平方和反映全部觀

16、察值的離散狀況其計算公式為,前例的計算結(jié)果： SST = (57-47.869565)2+…+(58-47.869565)2 =115.9295,構(gòu)造檢驗的統(tǒng)計量(計算誤差項平方和 SSE),每個水平或組的各樣本數(shù)據(jù)與其組平均值的離差平方和反映每個樣本各觀察值的離散狀況，又稱組內(nèi)平方和（列內(nèi)平方和）該平方和反映的是隨機誤差的大小計算公式為,前例的計算結(jié)果：SSE = 2708,構(gòu)造檢驗的

17、統(tǒng)計量(計算水平項平方和 SSA),各組平均值 與總平均值 的離差平方和反映各總體的樣本均值之間的差異程度，又稱組間平方和(列間平方和)。該平方和既包括隨機誤差，也包括系統(tǒng)誤差計算公式為,前例的計算結(jié)果：SSA = 1456.608696,構(gòu)造檢驗的統(tǒng)計量(三個平方和的關(guān)系),?總離差平方和(SST)、誤差項離差平方和(SSE)、水平項離差平方和 (SSA) 之間的關(guān)系

18、,SST = SSA + SSE,,,,前例的計算結(jié)果： 4164.608696=1456.608696+2708,構(gòu)造檢驗的統(tǒng)計量(三個平方和的作用),1. SST反映全部數(shù)據(jù)總的誤差程度；SSE反映隨機誤差的大?。籗SA反映隨機誤差和系統(tǒng)誤差的大小2. 如果原假設(shè)成立，則表明沒有系統(tǒng)誤差，組間平方和SSA除以自由度后的均方與組內(nèi)平方和SSE和除以自由度后的均方差異就不會太大；如果組間均方顯著地大于組內(nèi)均

19、方，說明各水平(總體)之間的差異不僅有隨機誤差，還有系統(tǒng)誤差3. 判斷因素的水平是否對其觀察值有影響，實際上就是比較組間方差與組內(nèi)方差之間差異的大小,構(gòu)造檢驗的統(tǒng)計量(計算均方MS),各誤差平方和的大小與觀察值的多少有關(guān)，為消除觀察值多少對誤差平方和大小的影響，需要將其平均，這就是均方，也稱為方差計算方法是用誤差平方和除以相應(yīng)的自由度三個平方和對應(yīng)的自由度分別是SST 的自由度為n-1，其中n為全部觀察值的個數(shù)SSA的自由

20、度為k-1，其中k為因素水平(總體)的個數(shù)SSE 的自由度為n-k,構(gòu)造檢驗的統(tǒng)計量(計算均方 MS),組間方差：SSA的均方，記為MSA，計算公式為,組內(nèi)方差：SSE的均方，記為MSE，計算公式為,構(gòu)造檢驗的統(tǒng)計量(計算檢驗統(tǒng)計量 F ),將MSA和MSE進行對比，即得到所需要的檢驗統(tǒng)計量F當H0為真時，二者的比值服從分子自由度為k-1、分母自由度為 n-k 的 F 分布，即,設(shè)若U為服從自由度為n1的?2分布，即U~?2(n

21、1)，V為服從自由度為n2的?2分布，即V~?2(n2),且U和V相互獨立，則 稱F為服從自由度n1和n2的F分布，記為,F分布(F distribution),F分布(F distribution),? 不同自由度的F分布,?,構(gòu)造檢驗的統(tǒng)計量(F分布與拒絕域),如果均值相等，F(xiàn)=MSA/MSE?1,統(tǒng)計決策,將統(tǒng)計量的值F與給定的顯著性水平?的臨界值F?進行比較，作出對原假設(shè)H0的決策根據(jù)給定的顯著性水平?，在F分布表中

22、查找與第一自由度df1＝k-1、第二自由度df2=n-k 相應(yīng)的臨界值 F? 若F>F? ，則拒絕原假設(shè)H0 ，表明均值之間的差異是顯著的，所檢驗的因素對觀察值有顯著影響若F<F? ，則不能拒絕原假設(shè)H0 ，無證據(jù)支持表明所檢驗的因素對觀察值有顯著影響,單因素方差分析表(基本結(jié)構(gòu)),單因素方差分析(例題分析),單因素方差分析(例題分析),關(guān)系強度的測量,關(guān)系強度的測量,拒絕原假設(shè)表明因素(自變量)與觀測值之間有顯著

23、關(guān)系組間平方和(SSA)度量了自變量(行業(yè))對因變量(投訴次數(shù))的影響效應(yīng)只要組間平方和SSA不等于0，就表明兩個變量之間有關(guān)系(只是是否顯著的問題) 當組間平方和比組內(nèi)平方和(SSE)大，而且大到一定程度時，就意味著兩個變量之間的關(guān)系顯著，大得越多，表明它們之間的關(guān)系就越強。反之，就意味著兩個變量之間的關(guān)系不顯著，小得越多，表明它們之間的關(guān)系就越弱,關(guān)系強度的測量,變量間關(guān)系的強度用自變量平方和(SSA) 占總平方和(SST)的

24、比例大小來反映自變量平方和占總平方和的比例記為R2 ,即其平方根R就可以用來測量兩個變量之間的關(guān)系強度,關(guān)系強度的測量(例題分析),R=0.591404結(jié)論行業(yè)(自變量)對投訴次數(shù)(因變量)的影響效應(yīng)占總效應(yīng)的34.9759%，而殘差效應(yīng)則占65.0241%。即行業(yè)對投訴次數(shù)差異解釋的比例達到近35%，而其他因素(殘差變量)所解釋的比例近為65%以上 R=0.591404，表明行業(yè)與投訴次數(shù)之間有中等以上的關(guān)系,方差分

25、析中的多重比較 (multiple comparison procedures),多重比較的意義,通過對總體均值之間的配對比較來進一步檢驗到底哪些均值之間存在差異可采用Fisher提出的最小顯著差異方法，簡寫為LSDLSD方法是對檢驗兩個總體均值是否相等的t檢驗方法的總體方差估計加以修正(用MSE來代替)而得到的,多重比較的步驟,提出假設(shè)H0: mi=mj (第i個總體的均值等于第j個總體的均值)H1: mi?mj (第i個總

26、體的均值不等于第j個總體的均值)計算檢驗的統(tǒng)計量: 計算LSD決策：若 ，拒絕H0；若 ，不拒絕H0,多重比較分析(例題分析),第1步：提出假設(shè)檢驗1：檢驗2：檢驗3：檢驗4：檢驗5：檢驗6：,方差分析中的多重比較(例題分析),第2步：計算檢驗統(tǒng)計量檢驗1：檢驗2：檢驗3：檢驗4：檢驗5：檢驗6：,方差分析中的多重比較

27、(例題分析),第3步：計算LSD檢驗1：檢驗2：檢驗3：檢驗4：檢驗5：檢驗6：,方差分析中的多重比較(例題分析),第4步：作出決策,不能認為零售業(yè)與旅游業(yè)均值之間有顯著差異,不能認為零售業(yè)與航空公司均值之間有顯著差異,不能認為零售業(yè)與家電業(yè)均值之間有顯著差異,不能認為旅游業(yè)與航空業(yè)均值之間有顯著差異,不能認為旅游業(yè)與家電業(yè)均值之間有顯著差異,航空業(yè)與家電業(yè)均值有顯著差異,用Excel進行方差分析 (Excel檢驗步

28、驟),第1步：選擇“工具 ”下拉菜單第2步：選擇“數(shù)據(jù)分析 ”選項第3步：在分析工具中選擇“單因素方差分析 ” ，然后選擇“確定 ”第4步：當對話框出現(xiàn)時 在“輸入?yún)^(qū)域 ”方框內(nèi)鍵入數(shù)據(jù)單元格區(qū)域 在?方框內(nèi)鍵入0.05（可根據(jù)需要確定） 在“輸出選項 ”中選擇輸出區(qū)域,雙因素方差分析,雙因素方差分析及其類型無交互作用的雙因素方差分析有交互作用的

29、雙因素方差分析,雙因素方差分析(two-way analysis of variance),分析兩個因素(行因素Row和列因素Column)對試驗結(jié)果的影響 如果兩個因素對試驗結(jié)果的影響是相互獨立的，分別判斷行因素和列因素對試驗數(shù)據(jù)的影響，這時的雙因素方差分析稱為無交互作用的雙因素方差分析或無重復(fù)雙因素方差分析(Two-factor without replication)如果除了行因素和列因素對試驗數(shù)據(jù)的單獨影響外，兩個因素的搭

30、配還會對結(jié)果產(chǎn)生一種新的影響，這時的雙因素方差分析稱為有交互作用的雙因素方差分析或可重復(fù)雙因素方差分析 (Two-factor with replication ),雙因素方差分析的基本假定,每個總體都服從正態(tài)分布對于因素的每一個水平，其觀察值是來自正態(tài)分布總體的簡單隨機樣本各個總體的方差必須相同對于各組觀察數(shù)據(jù)，是從具有相同方差的總體中抽取的觀察值是獨立的,交互作用的雙因素方差分析 (例題分析),【例】有4個品牌的彩電在5個

31、地區(qū)銷售，為分析彩電的品牌(品牌因素)和銷售地區(qū)(地區(qū)因素)對銷售量是否有影響，對每種品牌在各地區(qū)的銷售量取得以下數(shù)據(jù)。試分析品牌和銷售地區(qū)對彩電的銷售量是否有顯著影響？(?=0.05),數(shù)據(jù)結(jié)構(gòu),數(shù)據(jù)結(jié)構(gòu),? 是行因素的第i個水平下各觀察值的平均值,? 是列因素的第j個水平下的各觀察值的均值,? 是全部 kr 個樣本數(shù)據(jù)的總平均值,分析步驟(提出假設(shè)),?提出假設(shè)對行因素提出的假設(shè)為H0： m1 =

32、 m2 = … = mi = …= mk (mi為第i個水平的均值)H1： mi (i =1,2, … , k) 不全相等對列因素提出的假設(shè)為H0： m1 = m2 = … = mj = …= mr (mj為第j個水平的均值)H1： mj (j =1,2,…,r) 不全相等,分析步驟(構(gòu)造檢驗的統(tǒng)計量),?計算平方和(SS)總誤差平方和行因素誤差平方和 列因素誤差平方和 隨機誤差項平方和,分析步驟(構(gòu)造檢

33、驗的統(tǒng)計量),總離差平方和(SST )、水平項離差平方和 (SSC和SSR) 、誤差項離差平方和(SSE) 之間的關(guān)系,SST = SSR + SSC +SSE,分析步驟(構(gòu)造檢驗的統(tǒng)計量),?計算均方(MS)誤差平方和除以相應(yīng)的自由度三個平方和的自由度分別是總離差平方和SST的自由度為 kr-1行因素的離差平方和SSR的自由度為 k-1列因素的離差平方和SSC的自由度為 r-1隨機誤差平方和SSE的自由度為 (k-1)&

34、#215;(r-1),分析步驟(構(gòu)造檢驗的統(tǒng)計量),?計算均方(MS)行因素的均方，記為MSR，計算公式為列因素的均方，記為MSC ，計算公式為隨機誤差項的均方，記為MSE ，計算公式為,分析步驟(構(gòu)造檢驗的統(tǒng)計量),計算檢驗統(tǒng)計量(F)檢驗行因素的統(tǒng)計量 檢驗列因素的統(tǒng)計量,分析步驟(統(tǒng)計決策),將統(tǒng)計量的值F與給定的顯著性水平?的臨界值F?進行比較，作出對原假設(shè)H0的決策根據(jù)給定的顯著性水平?在F分布表

35、中查找相應(yīng)的臨界值 F? 若FR>F? ，則拒絕原假設(shè)H0 ，表明均值之間的差異是顯著的，即所檢驗的行因素對觀察值有顯著影響若FC > F? ，則拒絕原假設(shè)H0 ，表明均值之間有顯著差異，即所檢驗的列因素對觀察值有顯著影響,雙因素方差分析表(基本結(jié)構(gòu)),雙因素方差分析(例題分析),提出假設(shè)對品牌因素提出的假設(shè)為H0： m1=m2=m3=m4 (品牌對銷售量無顯著影響)H1： mi (i

36、=1,2, … , 4) 不全相等 (有顯著影響)對地區(qū)因素提出的假設(shè)為H0： m1=m2=m3=m4=m5 (地區(qū)對銷售量無顯著影響)H1： mj (j =1,2,…,5) 不全相等 (有顯著影響) ?用Excel進行無重復(fù)雙因素分析,雙因素方差分析(例題分析),結(jié)論： FR＝18.10777>F?＝3.4903，拒絕原假設(shè)H0，說明彩電的品牌對銷售量有顯著影響 FC＝2.100846<

37、; F?＝3.2592，不拒絕原假設(shè)H0，無證據(jù)表明銷售地區(qū)對彩電的銷售量有顯著影響,雙因素方差分析(關(guān)系強度的測量),行平方和(SSR)度量了品牌這個自變量對因變量(銷售量)的影響效應(yīng)列平方和(SSC)度量了地區(qū)這個自變量對因變量(銷售量)的影響效應(yīng)這兩個平方和加在一起則度量了兩個自變量對因變量的聯(lián)合效應(yīng)聯(lián)合效應(yīng)與總平方和的比值定義為R2其平方根R反映了這兩個自變量合起來與因變量之間的關(guān)系強度,雙因素方差分析(關(guān)系強度

38、的測量),?例題分析品牌因素和地區(qū)因素合起來總共解釋了銷售量差異的83.94%其他因素(殘差變量)只解釋了銷售量差異的16.06%R=0.9162，表明品牌和地區(qū)兩個因素合起來與銷售量之間有較強的關(guān)系,有交互作用的雙因素方差分析(可重復(fù)雙因素分析),有交互作用的雙因素方差分析(例題),【例】城市道路交通管理部門為研究不同的路段和不同的時間段對行車時間的影響，讓一名交通警察分別在兩個路段和高峰期與非高峰期親自駕車進行試驗，通

39、過試驗取得共獲得20個行車時間(分鐘)的數(shù)據(jù)，如下表。試分析路段、時段以及路段和時段的交互作用對行車時間的影響,,交互作用的圖示,路段與時段對行車時間的影響,可重復(fù)雙因素分析(方差分析表的結(jié)構(gòu)),可重復(fù)雙因素分析(平方和的計算),設(shè)： 為對應(yīng)于行因素的第i個水平和列因素的第j個 水平的第l行的觀察值 為行因素的第i個水平的樣本均值

40、 為列因素的第j個水平的樣本均值 對應(yīng)于行因素的第i個水平和列因素的第j個水 平組合的樣本均值 為全部n個觀察值的總均值,可重復(fù)雙因素分析(平方和的計算),總平方和：行變量平方和：列變量平方和：交互作用平方和：誤差項平方和：,可重復(fù)雙因素分析(Excel檢驗步驟),第1步：選擇“工具”下拉菜單，并選擇“數(shù)據(jù)