概率論與數(shù)理統(tǒng)計4.3協(xié)方差及相關(guān)系數(shù)

1、一、協(xié)方差與相關(guān)系數(shù)的概念及性質(zhì),二、相關(guān)系數(shù)的意義,三、小結(jié),第三節(jié) 協(xié)方差及相關(guān)系數(shù),,,,協(xié)方差和相關(guān)系數(shù),1. 問題的提出,一、協(xié)方差與相關(guān)系數(shù)的概念及性質(zhì),對于二維隨機(jī)向量(X,Y)來說,數(shù)學(xué)期望只反映了X與Y各自的平均值,方差只反映了X與Y各自離開均值的偏離程度,它們對X與Y之間相互關(guān)系不提供任何信息.,但二維隨機(jī)向量(X,Y)的概率密度f(x,y)或分布律pij全面地描述了(X,Y)的統(tǒng)計規(guī)律,也包含有X與Y之間關(guān)系的

2、信息.我們希望有一個數(shù)字特征能夠在一定程度上反映這種聯(lián)系.,在討論這個問題之前，我們先看一個例子。在研究子女與父母的相象程度時，有一項是關(guān)于父親的身高和其成年兒子身高的關(guān)系。,1. 問題的提出,這里有兩個變量，一個是父親的身高，一個是成年兒子身高.為了研究二者關(guān)系，英國統(tǒng)計學(xué)家皮爾遜收集了1078個父親及其成年兒子身高的數(shù)據(jù), 畫出了一張散點圖。,問：父親及其成年兒子身高存在怎樣的關(guān)系呢？,1. 問題的提出,類似的問題有：,1、吸煙和

3、患肺癌有什么關(guān)系？,1. 問題的提出,因此,方差是協(xié)方差的特例,協(xié)方差刻畫兩個隨機(jī)變量之間的“某種”關(guān)系.,2. 定義,特別, 若X=Y,則 cov(X,X)=E(X-E(X))2=D(X),對兩個隨機(jī)向量(X,Y),若 存在，則稱 為X和Y的協(xié)方差.,對于任意隨機(jī)變量X與Y,總有,由協(xié)方差定義得,這是計算協(xié)方差的常用公式.,可見，若X與Y獨立，則,Cov(X,

4、Y)= 0 .,Cov(X,Y)=E(XY)-E(X)E(Y),3. 計算,(4) Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y),(2) Cov(X,X)=D(X),4.協(xié)方差的性質(zhì),(3) Cov(aX,bY)=abCov(X,Y) 其中 a、b是常數(shù),(1) Cov(X,Y)=Cov(Y,X) (對稱性)特別的: Cov(X,c)=0 (c為常數(shù)),(5) 若X與Y獨立，則,Cov(X

5、,Y)= 0 .,協(xié)方差的數(shù)值在一定程度上反映了X與Y相互間的聯(lián)系,但它受X與Y本身數(shù)值大小的影響.如令X*=kX,Y*=kY,這時X*與Y*間的相互聯(lián)系和X與Y的相互聯(lián)系應(yīng)該是一樣的,但是,Cov(X*,Y*)=k2Cov(X,Y),為了克服這一缺點,在計算X與Y的協(xié)方差之前,先對X與Y進(jìn)行標(biāo)準(zhǔn)化:,再來計算X*和Y*的協(xié)方差，這樣就引進(jìn)了相關(guān)系數(shù)的概念.,為隨機(jī)變量X和Y的相關(guān)系數(shù) (correlation confficient

6、).,1.定義:若D(X)>0, D(Y)>0,且Cov(X,Y)存在時，稱,在不致引起混淆時，記 為 .,二、相關(guān)系數(shù),考慮以X的線性函數(shù)a+bX來近似表示Y.以均方誤差 e=E{[Y-(a+bX)]2} =E(Y2)+b2E(X2)+a2-2bE(XY)+2abE(X)-2aE(Y)來衡量以a+bX近似表達(dá)Y的好壞程度.e的值越小表示a+bX與Y的近似程度越好.為此令,從而得,2

7、. 相關(guān)系數(shù)的性質(zhì),性質(zhì)1:隨機(jī)變量X和Y的相關(guān)系數(shù)滿足|ρXY|≤1.,證明 由,可知,性質(zhì)2: |ρXY|=1 的充要條件是,存在常數(shù)a,b使得P{Y=a+bX}=1,證明:(1)若|ρXY|=1,則由,(2) 若存在常數(shù)a*,b*使得P{Y=a*+b*X}=1,則有P{[Y-(a*+b*X)]2=0}=1.即得E {[Y-(a*+b*X)]2}= 0,又由,即得 |ρXY|=1,注意 |ρXY| 的大小反映了X,Y之間線

8、性關(guān)系的密切程度: ρXY=0時, X,Y之間無線性關(guān)系; |ρXY|=1時,X,Y之間具有線性關(guān)系.,ρXY>0,X,Y正相關(guān)ρXY<0,X,Y負(fù)相關(guān),ρXY ≠0,X,Y相關(guān)ρXY=0,X,Y不相關(guān),(ρXY=1,X,Y完全正相關(guān)),(ρXY=-1,X,Y完全負(fù)相關(guān)),完全正相關(guān) Y=aX+b a>0,完全負(fù)相關(guān) Y=aX+b a<0,,,x,y,0,,,,,,,,,,,,,,,,,,,,,,

9、,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,完全不相關(guān),正相關(guān),負(fù)相關(guān),A：0 B：1 C：-1 D：1或-1,解：因為X＋Y＝n，即P{Y=-X+n}=1，所以X與Y完全負(fù)相關(guān)，故,從而選C。,注：若,例1：將一枚密度均勻硬幣拋n次，分別以X和Y記作正反面出現(xiàn)的次數(shù)，則X和Y的相關(guān)系數(shù)為,例2 (X,Y)的聯(lián)合分布為:,求相關(guān)系數(shù)ρXY,并判斷X,Y是否相關(guān),是否獨立.

10、,解：,,,,例2 (X,Y)的聯(lián)合分布為:,求相關(guān)系數(shù)ρXY,并判斷X,Y是否相關(guān),是否獨立.,解：,從而：,另一方面：,P(X=-1,Y=-1)=1/8≠P(X=-1)P(Y=-1)=(3/8)×(3/8),所以X與Y不獨立.,例3:設(shè)隨機(jī)變量Θ在[-π,π]上服從均勻分布,又X=sinΘ, Y=cosΘ試求X與Y的相關(guān)系數(shù)ρ.,解：,這時有Cov(X,Y)=E(XY)-E(X)E(Y)=0,即ρ=0.,從

11、而X與Y不相關(guān),沒有線性關(guān)系;但是X與Y存在另一個函數(shù)關(guān)X2+Y2=1,從而X與Y是不獨立的.,,,X , Y 不相關(guān),,,,X ,Y 相互獨立,,X , Y 不相關(guān),不相關(guān)與相互獨立的關(guān)系,結(jié)論,若 ( X , Y ) 服從二維正態(tài)分布，,X , Y 相互獨立,,X , Y 不相關(guān),解,練習(xí),,,1.定義,三、矩,2. 協(xié)方差矩陣,這一講我們主要介紹了協(xié)方差和相關(guān)系數(shù)，相關(guān)系數(shù)是刻劃兩個隨機(jī)變量間線性相關(guān)程度的重要的數(shù)字特征,它取值在

12、-1到1之間.,小 結(jié),例4 設(shè)隨機(jī)變量X和Y相互獨立且X~N(1,2), Y~N(0,1). 試求Z=2X-Y+3的概率密度.,解 X與Y的分布律分別為,,,,于是,,解,,,,,,,,,,,則,,,于是,,,解,,,,,,,,,,所以,因此,例4 設(shè)隨機(jī)變量X和Y相互獨立且X~N(1,2), Y~N(0,1). 試求Z=2X-Y+3的概率密度.,,故X 和Y 的聯(lián)合分布為正態(tài)分布，X 和Y 的任意線性組合是正