第13講-協方差與相關系數--太原理工大學工程碩士概率論與數理統計

1、1,協方差與相關系數,對于二維隨機向量(X,Y)， 除了其分量X和Y 的期望與方差之外, 還有一些數字特征, 用以刻畫X與Y之間的相關程度，其中最主要的就是協方差和相關系數。,定義1：若 E{[ X-E(X)][Y-E(Y)]} 存在，則稱其為X 與Y 的協方差，記為Cov(X,Y), 即,一 協方差,Cov(X, Y) = E{[ X-E(X)][Y-E(Y) ]}. (1),第十三講,2,(3) Cov(X1+X

2、2, Y)= Cov(X1, Y) + Cov(X2, Y) ；,(1) Cov(X, Y) = Cov(Y, X)；,協方差性質,(2) 設 a, b, c, d 是常數，則 Cov( aX+b, cY+d ) = ac Cov(X, Y) ；,(4) Cov(X, Y) =E(XY)-[E(X)][E(Y)] ，,(5) Var(X+Y)=Var(X)+Var(Y)+2Cov(X, Y) .,當 X 和 Y 相

3、互獨立時，Cov(X, Y)=0；,3,若 X1, X2, …, Xn 兩兩獨立，則,性質(5)可推廣到 n 個隨機變量的情形：,4,協方差的大小在一定程度上反映了X 和Y相互間的關系，但它還受X 和Y 本身度量單位的影響。 例如：,Cov(aX, bY) = ab Cov(X, Y).,為了克服這一缺點，對協方差進行標準化，這就引入了相關系數 。,5,二 相關系數,為隨機變量X 和Y 的相關系數 。,定義2: 設Var(X)

4、> 0, Var(Y) > 0, 則稱,在不致引起混淆時，記 為 。,6,相關系數性質,證：由方差與協方差關系，,對任意實數b, 有,0≤Var(Y-bX)=b2Var(X)+Var(Y)-2b Cov(X,Y ),,Var(Y-bX) =,由方差Var(Y)>0, 知 1-ρ 2≥ 0, 所以 | ρ |≤1。,7,由于當 X 和 Y 獨立時，Cov(X, Y)= 0 .,請看下例：,(

5、2). X 和Y 獨立時, ρ=0，但其逆不真；,但ρ=0 并不一定能推出 X 和 Y 獨立。,所以，,8,證明:,例 1：設 (X,Y) 服從單位 D={ (x, y): x2+y2≤1}上的均勻分布，證明： ?XY = 0。,9,所以，Cov(X, Y)= E(XY)-E(X) E(Y) = 0 .,同樣，得 E(Y)=0,,此外，Var(X) > 0, Var(Y) > 0 .,所以，?XY = 0，即 X 與

6、 Y 不相關。,但是，前面已計算過: X與Y不獨立。,10,存在常數a, b(b≠0)，,使 P{ Y = a+bX } = 1 ，即 X 和 Y 以概率 1 線性相關。,,(3). |ρ|=1,11,但對下述情形，獨立與不相關是一回事：,前面,

7、 我們已經看到：,若X 與Y 獨立，則X 與Y 不相關；但由X與Y 不相關，不一定能推出X與Y獨立。,若(X, Y )服從二維正態(tài)分布，則X 與Y 獨立的充分必要條件是X與Y不相關。,12,定義1：設X是隨機變量, 若E(Xk) 存在(k =1, 2, …), 則稱其為X 的 k 階原點矩；若 E{[X-E(X)]k} 存在(k = 1,2, …), 則稱其為X的 k 階中心矩。,矩與協方差矩陣,一 矩,易知：X 的期望 E(X

8、) 是 X 的一階原點矩，方差Var(X) 是 X 的二階中心矩。,13,定義2：設X和Y是隨機變量, 若 E(XkYm) 存在(k, m=1, 2,…), 則稱其為X與Y的 k+m 階混合原點矩；若 E{[X-E(X)]k [Y-E(Y)]m}存在(k, m=1,2,…，則稱其為X與Y的 k+m 階混合中心矩。,14,二 　協方差矩陣,,將隨機向量 (X1, X2) 的四個二階中心矩,排成一個2×2矩陣

9、 ，,則稱此矩陣為(X1, X2)的方差與協方差矩陣，簡稱協方差陣。,15,類似地，我們也可定義n 維隨機向量 (X1, X2, …, Xn) 的協方差陣：若隨機向量的所有的二階中心矩,為(X1, X2, …, Xn) 的協方差陣。,存在，,則稱矩陣,16,,f (x1, x2, …, xn),則稱X服從n元正態(tài)分布。,其中C是 (X1, X2, …, Xn) 的協方差陣，,|C|是C的行列式， 表示C的

10、逆矩陣，,X和 是n維列向量， 表示X的轉置。,設 =(X1,X2, …,Xn)是一個n維隨機向量,若其概率密度,17,n元正態(tài)分布的幾條重要性質：,(1) X =(X1, X2, …, Xn) ' 服從 n 元正態(tài)分布,,對一切不全為 0 的實數 a1, a2, …, an， a1X1+ a2 X2+ …+ an Xn 服從正態(tài)分布。,(2) 若 X=(X1,X2, …,Xn)'服從n 元正態(tài)

11、分布，,Y1,Y2,…,Yk 是 Xj (j=1, 2,…, n)的線性組合,,則(Y1,Y2, …, Yk)'服從k 元正態(tài)分布。,這一性質稱為正態(tài)變量的線性變換不變性。,18,,,(3) 設(X1,X2, …,Xn)服從n元正態(tài)分布，則,“X1,X2, …,Xn兩兩不相關”。,“X1, X2, …, Xn 相互獨立” 等價于,19,例2 設X和Y相互獨立，且X~N(1, 2), Y~N(0, 1)。求 Z = 2X-Y+

12、3 的概率密度。,,知 Z=2X-Y+3 服從正態(tài)分布，且,解: 由X~N(1,2), Y~N(0,1)，且X與Y相互獨立,,Var(Z) = 4Var(X)+Var(Y) = 8+1 = 9,,E(Z) = 2E(X)-E(Y)+3 = 2-0+3=5 ，,故，Z~N(5, 32) .,Z 的概率密度為,20,[例],解：,21,小結,本講首先介紹二維隨機向量 (X,Y) 的分量X與Y 的協方差及相關系數的概念、性質和計算；然后介紹

13、隨機變量的各種矩(k 階原點矩、 k 階中心矩、k+m 階混合原點矩、k+m 階混合中心矩)，n 維隨機向量的協方差陣的概念、性質和計算；最后簡單介紹了n 元正態(tài)分布的概念和三條重要性質。,22,[例] 設 的分布列為,求,解,補充,23,[例] 已知,,服從,,上的均勻分布，求,,解,的概率密度,,24,[例] 設在規(guī)定的時間段內，某電氣設備用于最大負荷的時間X（單位：min）是一個隨機變量，其概率密度為,求,解,25,[

14、例] 設隨機變量,求,,解,補充,26,[例] 已知隨機變量,相互獨立且分別服從,和,，求,的方差．,解,所以,,27,求隨機變量 和 的密度函數 和 ，及 和 的相關系數(2)問 和 是否獨立？為什么？,解 （1）由于二維正態(tài)密度函數的兩個邊緣密度都是正態(tài)密度函數，因此有,28,隨機變量 和 的相關系數,29,（2）由題設,30