第二章隨機(jī)過(guò)程和隨機(jī)序列

1、第四講 從隨機(jī)變量到隨機(jī)過(guò)程,4.1 從隨機(jī)變量到隨機(jī)過(guò)程,4.1.1 隨機(jī)過(guò)程的定義 隨某些參量變化的隨機(jī)變量稱為隨機(jī)函數(shù)。,通常將以時(shí)間為參量的隨機(jī)函數(shù)稱為隨機(jī)過(guò)程，也稱為隨機(jī)信號(hào)。,自然界中變化的過(guò)程可分為兩大類： 確定性過(guò)程和隨機(jī)過(guò)程,確定性過(guò)程：就是事物的變化過(guò)程可以用一個(gè)（或幾個(gè)）時(shí)間t的確定的函數(shù)來(lái)描繪。,隨機(jī)過(guò)程：就是事物變化的過(guò)程不能用一個(gè)（或幾個(gè)）時(shí)間t的確定的函數(shù)來(lái)加以

2、描述。,隨機(jī)過(guò)程的定義： 定義1：設(shè)隨機(jī)試驗(yàn)的樣本空間為S={ei}，對(duì)于空間的每一個(gè)樣本 ，總有一個(gè)時(shí)間函數(shù)X(t, ei)與之對(duì)應(yīng) 對(duì)于空間的所有樣本 ，可有一族時(shí)間函數(shù)X(t,e)與其對(duì)應(yīng)，這族時(shí)間函數(shù)稱為隨機(jī)過(guò)程，簡(jiǎn)記為X(t)。,定義2：設(shè)有一個(gè)過(guò)程X(t)，若對(duì)于每一個(gè)固定的時(shí)刻tj(j=1,2,…)，X(tj)是一個(gè)隨機(jī)變量，則稱X(t)為隨機(jī)過(guò)程。,4.1.2 隨機(jī)過(guò)程的分類,1)

3、 按照時(shí)間和狀態(tài)是連續(xù)還是離散來(lái)分類： 連續(xù)型隨機(jī)過(guò)程 隨機(jī)過(guò)程X(t)對(duì)于任意時(shí)刻 ， X(ti)都是連續(xù)型隨機(jī)變量，即時(shí)間和狀態(tài)都是連續(xù)的情況，稱這類隨機(jī)過(guò)程為連續(xù)型隨機(jī)過(guò)程。,連續(xù)隨機(jī)序列 隨機(jī)過(guò)程X(t)在任一離散時(shí)刻的狀態(tài)是連續(xù)型隨機(jī)變量，即時(shí)間是離散的，狀態(tài)是連續(xù)的情況，稱這類隨機(jī)過(guò)程為連續(xù)隨機(jī)序列。,離散隨機(jī)過(guò)程 隨機(jī)過(guò)程X(t)對(duì)于任意時(shí)刻 ， X(ti)都是離散型隨

4、機(jī)變量，即時(shí)間是連續(xù)的，狀態(tài)是離散的情況。,離散隨機(jī)序列 對(duì)應(yīng)于時(shí)間和狀態(tài)都是離散的情況，即隨機(jī)數(shù)字信號(hào)。,2) 按照隨機(jī)過(guò)程的分布函數(shù)（或概率密度）的不同特性進(jìn)行分類 按照這種分類法，最重要的就是平穩(wěn)隨機(jī)過(guò)程，其次是馬爾可夫過(guò)程等等。,4.2 隨機(jī)過(guò)程的統(tǒng)計(jì)特性,4.2.1 隨機(jī)過(guò)程的概率分布1. 一維概率分布 對(duì)于任意的時(shí)刻t，X(t)是一個(gè)隨機(jī)變量，設(shè)x為任意實(shí)數(shù)，定義 為隨機(jī)過(guò)程X(t)的一維分

5、布函數(shù)。,若 的一階偏導(dǎo)數(shù)存在，則定義 為隨機(jī)過(guò)程X(t)的一維概率密度。,隨機(jī)過(guò)程一維分布的性質(zhì)：,2. 二維概率分布和n維概率分布 對(duì)于隨機(jī)過(guò)程X(t)，在任意兩個(gè)時(shí)刻t1和t2可得到兩個(gè)隨機(jī)變量X(t1)和X(t2)，可構(gòu)成二維隨機(jī)變量{X(t1),X(t2)}，它的二維分布函數(shù) 稱為隨機(jī)過(guò)程X(t)的二維概率分布函數(shù)。,若

6、 對(duì)x1,x2的偏導(dǎo)數(shù)存在，則定義 為隨機(jī)過(guò)程X(t)的二維概率密度。,對(duì)于任意的時(shí)刻t1,t2,…, tn， X(t1),X(t2),…, X(tn)是一組隨機(jī)變量，定義這組隨機(jī)變量的聯(lián)合分布為隨機(jī)過(guò)程X(t)的n維概率分布，即定義 為隨機(jī)過(guò)程X(t)的n維概率分布函數(shù)。,為隨機(jī)過(guò)程X(t)的n維概率密度。,隨機(jī)過(guò)程X(t)和Y(t)的四維聯(lián)合概率密度,若兩個(gè)隨機(jī)過(guò)程互相獨(dú)立，則有,一個(gè)隨機(jī)過(guò)程不同時(shí)

7、刻狀態(tài)間互相獨(dú)立，即X(t1)和X(t2)互相獨(dú)立,4.2.2 隨機(jī)過(guò)程的數(shù)字特征,1. 數(shù)學(xué)期望 對(duì)于任意的時(shí)刻t，X(t)是一個(gè)隨機(jī)變量，將這個(gè)隨機(jī)變量的數(shù)學(xué)期望定義為隨機(jī)過(guò)程的數(shù)學(xué)期望，記為mx(t)，即,2. 方差 對(duì)于任意的時(shí)刻t，X(t)是一個(gè)隨機(jī)變量，稱該隨機(jī)變量X(t)的二階中心矩為隨機(jī)過(guò)程的方差，記為D[X(t)]，即,,,3. 自相關(guān)函數(shù)和協(xié)方差函數(shù) 設(shè)X(t1)和X(t2)是隨機(jī)過(guò)程X(t)在t1

8、和t2二個(gè)任意時(shí)刻的狀態(tài)，fX(x1,x2;t1,t2)是相應(yīng)的二維概率密度，稱它們的二階聯(lián)合原點(diǎn)矩為X(t)的自相關(guān)函數(shù)，簡(jiǎn)稱相關(guān)函數(shù),設(shè)X(t1)和X(t2)是隨機(jī)過(guò)程X(t)在t1和t2二個(gè)任意時(shí)刻的狀態(tài)，稱X(t1)和X(t2)的二階聯(lián)合中心矩為X(t)的自協(xié)方差函數(shù),當(dāng) 時(shí)，當(dāng) 時(shí)，,若對(duì)于任意的t1和t2都有CX(t1,t2)=0,那么隨機(jī)過(guò)程的任意兩個(gè)時(shí)刻狀態(tài)間是不

9、相關(guān)的。,若RX(t1,t2)=0，則稱X(t1)和X(t2)是相互正交的。,若 則稱隨機(jī)過(guò)程在t1和t2時(shí)刻的狀態(tài)是相互獨(dú)立的。,4. 互相關(guān)函數(shù)和互協(xié)方差函數(shù) 設(shè)有兩個(gè)隨機(jī)過(guò)程X(t)和Y(t)，它們?cè)谌我鈨蓚€(gè)時(shí)刻t1和t2的狀態(tài)分別為X(t1)和Y(t2)，則隨機(jī)過(guò)程X(t)和Y(t)的互相關(guān)函數(shù)定義為,類似地，定義兩個(gè)隨機(jī)過(guò)程的互協(xié)方差函數(shù)為,若對(duì)于任意時(shí)刻t1和t2，有RXY(t1,t2)=0，則稱X(t)和Y(

10、t)是正交過(guò)程，此時(shí)有,若對(duì)于任意時(shí)刻t1和t2，有CXY(t1,t2)=0，則稱X(t)和Y(t)是互不相關(guān)的，此時(shí)有,當(dāng)X(t)和Y(t)互相獨(dú)立時(shí)，滿足 則有 當(dāng)X(t)和Y(t)互相獨(dú)立時(shí)， X(t)與Y(t)之間一定不相關(guān)；反之則不成立。,研究隨機(jī)過(guò)程有兩條途經(jīng)：側(cè)重于研究概率結(jié)構(gòu)側(cè)重于統(tǒng)計(jì)平均性質(zhì)的研究,4.2.3 隨機(jī)過(guò)程的特征函數(shù),對(duì)于某一固定時(shí)刻t，隨機(jī)變量X(t)的特征函數(shù)就定義為隨機(jī)過(guò)

11、程的一維特征函數(shù),一維特征函數(shù)與一維概率密度有類似傅立葉變換對(duì)的關(guān)系,隨機(jī)過(guò)程的二維特征函數(shù)： 隨機(jī)過(guò)程在任意兩個(gè)時(shí)刻t1和t2的取值構(gòu)成一個(gè)二維隨機(jī)變量{X(t1),X(t2)},它的特征函數(shù) 定義為隨機(jī)過(guò)程X(t)的二維特征函數(shù)。,隨機(jī)過(guò)程的特征函數(shù)與矩函數(shù)之間的關(guān)系為：,相關(guān)函數(shù)與二維特征函數(shù)之間的關(guān)系為：,4.3 隨機(jī)過(guò)程的微分與積分,4.3.1 隨機(jī)過(guò)程的連續(xù)性,若隨機(jī)過(guò)程X(t)滿足 則X(t)在

12、t時(shí)刻均方意義下連續(xù)。,若R(t1,t2)沿直線t1=t2處處連續(xù)，則隨機(jī)過(guò)程X(t)處處均方連續(xù)。,從隨機(jī)過(guò)程X(t)的均方連續(xù)性，可推得，X(t)的數(shù)學(xué)期望必然是連續(xù)的，即,4.3.2 隨機(jī)過(guò)程的微分1. 定義 如果隨機(jī)過(guò)程X’(t)滿足 則稱X(t)在t時(shí)刻具有均方導(dǎo)數(shù)X’(t)。,判斷隨機(jī)過(guò)程的導(dǎo)數(shù)存在與否，可采用柯西判別準(zhǔn)則，即如果 則X(t)的導(dǎo)數(shù)存在。,2. 均方可微的條件（導(dǎo)數(shù)存在的

13、條件）,可推導(dǎo)出，隨機(jī)過(guò)程X(t)均方可微的充分條件是：相關(guān)函數(shù)在它的自變量相等時(shí)，存在二階偏導(dǎo)數(shù)，即存在,只有當(dāng)隨機(jī)過(guò)程連續(xù)，即相關(guān)函數(shù)R(t1,t2)在t1=t2時(shí)連續(xù)，且有 存在，則隨機(jī)過(guò)程在均方意義下存在導(dǎo)數(shù)。,3. 隨機(jī)過(guò)程導(dǎo)數(shù)運(yùn)算的法則 設(shè)用Y(t)表示隨機(jī)過(guò)程X(t)的均方導(dǎo)數(shù)，即 Y(t)的數(shù)學(xué)期望,Y(t)的相關(guān)函數(shù),4.3.3 隨機(jī)過(guò)程的積分1. 隨機(jī)過(guò)程的積分 當(dāng)把積分區(qū)間[a,b]

14、分成n個(gè)小區(qū)間 ，當(dāng) 時(shí)，令 Y就定義為X(t)在均方意義下的積分。,當(dāng)隨機(jī)過(guò)程通過(guò)線性時(shí)不變系統(tǒng)時(shí)，其輸出應(yīng)為輸入與系統(tǒng)沖激響應(yīng)的卷積，即,2. 隨機(jī)過(guò)程均方積分的運(yùn)算法則 設(shè)Y為隨機(jī)過(guò)程的均方積分，即 Y的均值,Y的方差,隨機(jī)過(guò)程積分的相關(guān)函數(shù) 隨機(jī)過(guò)程的變上限積分,4.4 隨機(jī)序列,隨著數(shù)字信號(hào)處理技術(shù)和大規(guī)模集成電路的發(fā)展，從音頻信號(hào)到視頻信號(hào)、雷達(dá)信號(hào)都傾向于數(shù)字