[學(xué)習(xí)]概率論與數(shù)理統(tǒng)計(jì)柴中林復(fù)習(xí)

1、課件在郵箱mathsmodeling@163.com，密碼518516,隨機(jī)現(xiàn)象(偶然性現(xiàn)象)：在一定條件下有多種可能結(jié)果。事先可以知道發(fā)生的所有結(jié)果，但發(fā)生什么結(jié)果事先無法預(yù)知。,隨機(jī)現(xiàn)象廣泛的存在于現(xiàn)實(shí)生活中。 概率論與數(shù)理統(tǒng)計(jì)是研究和揭示隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性的一門科學(xué)。,相關(guān)概念和定義,對(duì)隨機(jī)現(xiàn)象做一次觀察或測(cè)量稱為做一個(gè)試驗(yàn)，記為 E 。,試驗(yàn)所有可能結(jié)果構(gòu)成的集合稱為樣本空間，記為Ω。樣本空間中的元素， 稱為樣本點(diǎn)。,Ω的

2、任意一個(gè)子集（或一些樣本點(diǎn)的集合）稱為一個(gè)隨機(jī)事件，簡(jiǎn)稱事件。,樣本點(diǎn)（基本事件）在一次實(shí)驗(yàn)中或發(fā)生，或不發(fā)生。事件也一樣（除了必然事件和不可能事件）。,事件間的關(guān)系,A?B :事件A的發(fā)生會(huì)導(dǎo)致事件B的發(fā)生。,若A?B, 且B?A, 則A=B。,A∪B ：事件 A或事件 B發(fā)生的事件 。,A∩B或AB ：事件A與B同時(shí)發(fā)生的事件。,若AB=Ø，稱A與B為互斥事件(或互不相容事件)。,A－B：A發(fā)生且B不發(fā)生的事件 。,它也等

3、價(jià)于不同事件雖在試驗(yàn)中都會(huì)發(fā)生，但發(fā)生的可能性（幾率）不同，有的大有的小，稱這個(gè)可能性為概率。它貫穿于概率論的始末。,隨機(jī)現(xiàn)象具有偶然性：事件在一次試驗(yàn)中可能發(fā)生，也可能不發(fā)生（無法預(yù)測(cè)）。它也有必然性：在大量重復(fù)試驗(yàn)中任何事件都呈現(xiàn)統(tǒng)計(jì)規(guī)律性:頻率的穩(wěn)定性：頻率總穩(wěn)定在一個(gè)常值附近，即,基本特征(1). 1 ≥ P(A)≥0；（2） P(Ω)=1 ; （3） P(Ø)=1 。該值越大，事件在試驗(yàn)中越容易發(fā)生。,2. 若A?

4、B, 則:P(B-A)=P(B)-P(A), P(B)≥P(A)。,,1.,幾個(gè)式子,3.,4. 當(dāng) AB=Ø時(shí) P(A?B)=P(A)+P(B),古典概型:試驗(yàn)結(jié)果只有有限個(gè);各個(gè)結(jié)果出現(xiàn)的可能性相同,此時(shí)，若基本事件總數(shù)為n個(gè)，事件A 包含 k 個(gè)基本事件，則 P(A)=k/n,條件概率: 事件B發(fā)生的條件下事件A發(fā)生的概率稱為條件概率，記為P(A|B) 。一般的， P(A|B) ≠P(A) 。計(jì)算公式,于是 P(A

5、B)=P(B)P(A|B)。同理P(AB)=P(A)P(B|A),全概率公式與貝葉斯公式：設(shè) A1,A2,…,An為一完備事件組，則對(duì)任一事件B有,,P(A|B)=P(A)， P(B|A) = P(B) ， P(AB)=P(A) P(B).,事件的獨(dú)立性：若事件A ，B的發(fā)生不受對(duì)方發(fā)生與否的影響，則稱A與B相互獨(dú)立。判定式子,獨(dú)立試驗(yàn)序列：事件A發(fā)生的概率是p，將試驗(yàn)重復(fù)獨(dú)立進(jìn)行n次。這樣的n次重復(fù)試驗(yàn)稱為n重獨(dú)立試驗(yàn)序列，也稱n重貝

6、努利試驗(yàn)。,在n重貝努利試驗(yàn)中， A發(fā)生的次數(shù)的可能取值為0,1,2,…n。記A發(fā)生k次的概率為Pn(k)，則有,隨機(jī)變量：為將隨機(jī)現(xiàn)象數(shù)字化而引入的。 方法：將每一個(gè)樣本點(diǎn)ω與一個(gè)數(shù)X(ω)相對(duì)應(yīng)（本身有數(shù)字的就用這個(gè)數(shù)字），不同樣本點(diǎn)對(duì)應(yīng)不同的值。再引入一個(gè)變量X。當(dāng)一個(gè)樣本點(diǎn)發(fā)生了，說X取到了對(duì)應(yīng)的值。顯然，X可以取到不同的值，而僅當(dāng)一個(gè)樣本點(diǎn)ω發(fā)生了，才說X取到了X(ω) 。因?yàn)闃颖军c(diǎn)的發(fā)生是隨機(jī)的，故稱為隨機(jī)

7、變量。 注意：一個(gè)隨機(jī)變量表示一個(gè)隨機(jī)現(xiàn)象。,通過引入隨機(jī)變量，在隨機(jī)現(xiàn)象中對(duì)事件及事件概率的研究轉(zhuǎn)化為對(duì)隨機(jī)變量取值規(guī)律和概率的研究。,離散型隨機(jī)變量， 分布律。設(shè)X的取值為則的分布律可描述為,分布函數(shù)，設(shè) X是隨機(jī)變量，稱函數(shù)F(x)=P{X≤x} 為X 的分布函數(shù)（X小于等于x的全部概率，故有局限性。離散、連續(xù)均可）。,(1).?a<b,總有F(a)≤F(b)；(2).F(x)是一個(gè)右連續(xù)函數(shù)；(3).

8、0≤F(x)≤1，且F(-?)=0,F(+?)=1,離散型隨機(jī)變量的分布函數(shù),圖形：臺(tái)階狀階梯線，每經(jīng)過一個(gè)概率點(diǎn)，臺(tái)階向上跳躍，躍度為該點(diǎn)的概率。,當(dāng)n=1時(shí)就是 兩點(diǎn)分布，X～B(1, p) P(X=k)=p(1-p)1-k,k=0,1.,常見分布,1 二項(xiàng)分布（獨(dú)立試驗(yàn)序列），X～B(n, p)，,2. 超幾何分布， X ～ H(n;M,N),,3泊松分布X ～ P(λ),N很大時(shí)，超幾何分布 H(n;M,N) 近似于一個(gè)二項(xiàng)

9、分布B(n;p) ， n很大時(shí),二項(xiàng)分布B(n;p) 近似于一個(gè)泊松分布P(λ). 此外，二項(xiàng)分布可看做若干獨(dú)立同分布的兩點(diǎn)分布之和.,連續(xù)型隨機(jī)變量:對(duì)隨機(jī)變量X，若存在非負(fù)可積函數(shù) f(x), 使得對(duì)任意a,b, 有,稱 X為連續(xù)型隨機(jī)變量， f(x)為 X 的概率密度函數(shù)。性質(zhì),對(duì)任何常數(shù)a都有P(X=a)=0.因此，概率為0的事件未必為不可能事件。概率為1的事件也未必為必然事件。此外，,常見分布,1,正態(tài)分布, X ～N(

10、μ,σ2),,2.均勻分布,X ～U(a,b),,對(duì)它，總有P(X>μ)=P(X<μ)=0.5,標(biāo)準(zhǔn)正態(tài)分布， X ～N(0,1),,聯(lián)系，若X ～N(μ,σ2), 則(X-μ)/σ ～ N(0,1),,指數(shù)分布, X ~e(λ),隨機(jī)變量函數(shù)的分布:X的分布已知, Y=g(X)也已知，求Y的分布。,離散型，設(shè)X的分布律為P(X=xk)=pk,對(duì)每個(gè)xk，利用Y=g(X)求出所有的Y值 ，就得Y的所有取值。對(duì)每個(gè)Y的取值y

11、i ，將原來的xk的概率相加，就是P(Y=yi)，從而得到Y(jié)的分布,連續(xù)型，利用分布函數(shù)，F(xiàn)Y (y)= P(Y≤y)= P(g(X) ≤y)，根據(jù)g(X) ≤y求解得到關(guān)于X的不等式，進(jìn)而轉(zhuǎn)化成X的分布函數(shù)，兩邊對(duì)y求導(dǎo)即可,二維隨機(jī)向量（變量）, (X, Y),(聯(lián)合)分布函數(shù)為F(x,y)=P(X≤x,Y ≤ y),性質(zhì)(1). x1< x2 時(shí)，F(xiàn)(x1, y)≤F(x2, y). 當(dāng)y1≤y2時(shí),

12、 F(x, y1)≤F(x, y2).,(2).?x, y?R, 有 0≤F(x, y)≤1；,(3). F(-∞, y)=0， F(x, -∞)=0， F(-∞, -∞)=0，F(xiàn)(∞, ∞)=1.,離散型,（聯(lián)合）分布律,或,連續(xù)型，設(shè)(X, Y)的分布函數(shù)為F(x, y)，如果存在一個(gè)非負(fù)函數(shù)f(x,y),使得對(duì)任意實(shí)數(shù) x,y, 有,稱(X,Y)為連續(xù)型隨機(jī)向量,f(x,y)為(

13、X,Y)的概率密度函數(shù)。.,邊緣分布,在二維分布(X, Y)中分別考慮X, Y的分布時(shí)的分布,FX(x)=P{X≤x}=P{X≤x,Y<∞}=F(x,∞)，F(xiàn)Y(y)=P{Y≤y}=P{X<∞,Y≤y}=F(∞,y).,求法,離散型,設(shè)(X, Y ) 的概率分布為P(X=xi,Y=yj)=pij,則,連續(xù)型， (X, Y) 的概率密度為 f (x, y)，則,獨(dú)立性,對(duì)（ X, Y）來說，若X, Y相互不受對(duì)方的影響，稱

14、它們相互獨(dú)立。判定方法,連續(xù)型,離散型,二維隨機(jī)變量函數(shù)的分布Z=X+Y,離散（略）。連續(xù),FZ(z)=P(Z≤z)=P(X+Y ≤ z),獨(dú)立時(shí),M = max(X,Y) , N = min(X,Y) 的分布,FX(x) FY(y),FM(z) = FX(z) FY(z) .,FN(z) = 1-[1-FX(z)][1-FY(z)],隨機(jī)變量的數(shù)字特征。期望：隨機(jī)變量X平均取值的大小。計(jì)算,離散, P{X=xk}=pk ,,連續(xù),

15、f(x)，,若Y=g(X) ,則,若Z = g(X,Y),則,性質(zhì),(3). X, Y 相互獨(dú)立，則 E(XY)=E(X)E(Y);,方差：反映隨機(jī)變量X取值的分散程度,式子 D(X)= E[X-E(X)]2 = E(X2)-[E(X)]2 ,計(jì)算,(1). Var(C)=0;,(2)Var(CX)=C2 Var(X);,(4). Var(X1±X2)= Var(X1)+Var(X2);,對(duì)X ，若,則E(Y)=0,D(Y

16、)=1,常用隨機(jī)變量的期望與方差,協(xié)方差,Cov(X, Y) = E{[ X-E(X)][Y-E(Y) ]}= E( XY) -E(X)E(Y),相關(guān)系數(shù),性質(zhì),若X, Y相互獨(dú)立，兩個(gè)都為0，但反之不對(duì)。,矩， k 階原點(diǎn)矩，E(Xk)； k 階中心矩， E{[X-E(X)]k} 。,大數(shù)定律,中心極限定理(略),數(shù)理統(tǒng)計(jì)：研究以有效的方式收集、 整理和分析帶有隨機(jī)性的數(shù)據(jù)，以便對(duì)所考察的問題作出正確的推斷。總體（X）： （具有隨機(jī)

17、性的）研究對(duì)象（的相關(guān)數(shù)字）的全體。樣本：從總體中抽取部分個(gè)體X1, X2 , … , Xn進(jìn)行觀測(cè)(檢測(cè))，已達(dá)到對(duì)總體的科學(xué)推斷。簡(jiǎn)單樣本，對(duì)總體做簡(jiǎn)單重復(fù)抽樣得到的樣本。 各X1, X2 , … , Xn 相互獨(dú)立且與X具有相同的分布。,此外，引入3個(gè)新的分布,統(tǒng)計(jì)量，對(duì)獲得的樣本進(jìn)行“加工”的各種規(guī)則（函數(shù)），稱為統(tǒng)計(jì)量，如,F =(X/m)/(Y/n),當(dāng)X為正態(tài)總體時(shí)，為樣本時(shí),參數(shù)估計(jì)，X 的分布函數(shù)為 F( x,

18、θ )，其中θ 未知，有樣本， X1, X2 , … , Xn . 給出θ的一個(gè)估計(jì)值。矩估計(jì),總體矩ak中含有θ ，對(duì)一些正整數(shù)k，令兩個(gè)矩相等，解出θ ，就是θ的估計(jì)值。,極大似然估計(jì)，一切發(fā)生的都是應(yīng)該發(fā)生的，從而是最大可能發(fā)生的，設(shè)總體 X 的分布 (連續(xù)型時(shí)為密度函數(shù)，離散型時(shí)為分布律) 為 f(x, θ) , 今有樣本 X1, X2 , … , Xn . 從而認(rèn)為θ的值應(yīng)使得