第二章隨機(jī)過程和隨機(jī)序列

1、第四講 從隨機(jī)變量到隨機(jī)過程,4.1 從隨機(jī)變量到隨機(jī)過程,4.1.1 隨機(jī)過程的定義 隨某些參量變化的隨機(jī)變量稱為隨機(jī)函數(shù)。,通常將以時間為參量的隨機(jī)函數(shù)稱為隨機(jī)過程，也稱為隨機(jī)信號。,自然界中變化的過程可分為兩大類： 確定性過程和隨機(jī)過程,確定性過程：就是事物的變化過程可以用一個（或幾個）時間t的確定的函數(shù)來描繪。,隨機(jī)過程：就是事物變化的過程不能用一個（或幾個）時間t的確定的函數(shù)來加以

2、描述。,隨機(jī)過程的定義： 定義1：設(shè)隨機(jī)試驗的樣本空間為S={ei}，對于空間的每一個樣本 ，總有一個時間函數(shù)X(t, ei)與之對應(yīng) 對于空間的所有樣本 ，可有一族時間函數(shù)X(t,e)與其對應(yīng)，這族時間函數(shù)稱為隨機(jī)過程，簡記為X(t)。,定義2：設(shè)有一個過程X(t)，若對于每一個固定的時刻tj(j=1,2,…)，X(tj)是一個隨機(jī)變量，則稱X(t)為隨機(jī)過程。,4.1.2 隨機(jī)過程的分類,1)

3、 按照時間和狀態(tài)是連續(xù)還是離散來分類： 連續(xù)型隨機(jī)過程 隨機(jī)過程X(t)對于任意時刻 ， X(ti)都是連續(xù)型隨機(jī)變量，即時間和狀態(tài)都是連續(xù)的情況，稱這類隨機(jī)過程為連續(xù)型隨機(jī)過程。,連續(xù)隨機(jī)序列 隨機(jī)過程X(t)在任一離散時刻的狀態(tài)是連續(xù)型隨機(jī)變量，即時間是離散的，狀態(tài)是連續(xù)的情況，稱這類隨機(jī)過程為連續(xù)隨機(jī)序列。,離散隨機(jī)過程 隨機(jī)過程X(t)對于任意時刻 ， X(ti)都是離散型隨

4、機(jī)變量，即時間是連續(xù)的，狀態(tài)是離散的情況。,離散隨機(jī)序列 對應(yīng)于時間和狀態(tài)都是離散的情況，即隨機(jī)數(shù)字信號。,2) 按照隨機(jī)過程的分布函數(shù)（或概率密度）的不同特性進(jìn)行分類 按照這種分類法，最重要的就是平穩(wěn)隨機(jī)過程，其次是馬爾可夫過程等等。,4.2 隨機(jī)過程的統(tǒng)計特性,4.2.1 隨機(jī)過程的概率分布1. 一維概率分布 對于任意的時刻t，X(t)是一個隨機(jī)變量，設(shè)x為任意實數(shù)，定義 為隨機(jī)過程X(t)的一維分

5、布函數(shù)。,若 的一階偏導(dǎo)數(shù)存在，則定義 為隨機(jī)過程X(t)的一維概率密度。,隨機(jī)過程一維分布的性質(zhì)：,2. 二維概率分布和n維概率分布 對于隨機(jī)過程X(t)，在任意兩個時刻t1和t2可得到兩個隨機(jī)變量X(t1)和X(t2)，可構(gòu)成二維隨機(jī)變量{X(t1),X(t2)}，它的二維分布函數(shù) 稱為隨機(jī)過程X(t)的二維概率分布函數(shù)。,若

6、 對x1,x2的偏導(dǎo)數(shù)存在，則定義 為隨機(jī)過程X(t)的二維概率密度。,對于任意的時刻t1,t2,…, tn， X(t1),X(t2),…, X(tn)是一組隨機(jī)變量，定義這組隨機(jī)變量的聯(lián)合分布為隨機(jī)過程X(t)的n維概率分布，即定義 為隨機(jī)過程X(t)的n維概率分布函數(shù)。,為隨機(jī)過程X(t)的n維概率密度。,隨機(jī)過程X(t)和Y(t)的四維聯(lián)合概率密度,若兩個隨機(jī)過程互相獨立，則有,一個隨機(jī)過程不同時

7、刻狀態(tài)間互相獨立，即X(t1)和X(t2)互相獨立,4.2.2 隨機(jī)過程的數(shù)字特征,1. 數(shù)學(xué)期望 對于任意的時刻t，X(t)是一個隨機(jī)變量，將這個隨機(jī)變量的數(shù)學(xué)期望定義為隨機(jī)過程的數(shù)學(xué)期望，記為mx(t)，即,2. 方差 對于任意的時刻t，X(t)是一個隨機(jī)變量，稱該隨機(jī)變量X(t)的二階中心矩為隨機(jī)過程的方差，記為D[X(t)]，即,,,3. 自相關(guān)函數(shù)和協(xié)方差函數(shù) 設(shè)X(t1)和X(t2)是隨機(jī)過程X(t)在t1

8、和t2二個任意時刻的狀態(tài)，fX(x1,x2;t1,t2)是相應(yīng)的二維概率密度，稱它們的二階聯(lián)合原點矩為X(t)的自相關(guān)函數(shù)，簡稱相關(guān)函數(shù),設(shè)X(t1)和X(t2)是隨機(jī)過程X(t)在t1和t2二個任意時刻的狀態(tài)，稱X(t1)和X(t2)的二階聯(lián)合中心矩為X(t)的自協(xié)方差函數(shù),當(dāng) 時，當(dāng) 時，,若對于任意的t1和t2都有CX(t1,t2)=0,那么隨機(jī)過程的任意兩個時刻狀態(tài)間是不

9、相關(guān)的。,若RX(t1,t2)=0，則稱X(t1)和X(t2)是相互正交的。,若 則稱隨機(jī)過程在t1和t2時刻的狀態(tài)是相互獨立的。,4. 互相關(guān)函數(shù)和互協(xié)方差函數(shù) 設(shè)有兩個隨機(jī)過程X(t)和Y(t)，它們在任意兩個時刻t1和t2的狀態(tài)分別為X(t1)和Y(t2)，則隨機(jī)過程X(t)和Y(t)的互相關(guān)函數(shù)定義為,類似地，定義兩個隨機(jī)過程的互協(xié)方差函數(shù)為,若對于任意時刻t1和t2，有RXY(t1,t2)=0，則稱X(t)和Y(

10、t)是正交過程，此時有,若對于任意時刻t1和t2，有CXY(t1,t2)=0，則稱X(t)和Y(t)是互不相關(guān)的，此時有,當(dāng)X(t)和Y(t)互相獨立時，滿足 則有 當(dāng)X(t)和Y(t)互相獨立時， X(t)與Y(t)之間一定不相關(guān)；反之則不成立。,研究隨機(jī)過程有兩條途經(jīng)：側(cè)重于研究概率結(jié)構(gòu)側(cè)重于統(tǒng)計平均性質(zhì)的研究,4.2.3 隨機(jī)過程的特征函數(shù),對于某一固定時刻t，隨機(jī)變量X(t)的特征函數(shù)就定義為隨機(jī)過

11、程的一維特征函數(shù),一維特征函數(shù)與一維概率密度有類似傅立葉變換對的關(guān)系,隨機(jī)過程的二維特征函數(shù)： 隨機(jī)過程在任意兩個時刻t1和t2的取值構(gòu)成一個二維隨機(jī)變量{X(t1),X(t2)},它的特征函數(shù) 定義為隨機(jī)過程X(t)的二維特征函數(shù)。,隨機(jī)過程的特征函數(shù)與矩函數(shù)之間的關(guān)系為：,相關(guān)函數(shù)與二維特征函數(shù)之間的關(guān)系為：,4.3 隨機(jī)過程的微分與積分,4.3.1 隨機(jī)過程的連續(xù)性,若隨機(jī)過程X(t)滿足 則X(t)在

12、t時刻均方意義下連續(xù)。,若R(t1,t2)沿直線t1=t2處處連續(xù)，則隨機(jī)過程X(t)處處均方連續(xù)。,從隨機(jī)過程X(t)的均方連續(xù)性，可推得，X(t)的數(shù)學(xué)期望必然是連續(xù)的，即,4.3.2 隨機(jī)過程的微分1. 定義 如果隨機(jī)過程X’(t)滿足 則稱X(t)在t時刻具有均方導(dǎo)數(shù)X’(t)。,判斷隨機(jī)過程的導(dǎo)數(shù)存在與否，可采用柯西判別準(zhǔn)則，即如果 則X(t)的導(dǎo)數(shù)存在。,2. 均方可微的條件（導(dǎo)數(shù)存在的

13、條件）,可推導(dǎo)出，隨機(jī)過程X(t)均方可微的充分條件是：相關(guān)函數(shù)在它的自變量相等時，存在二階偏導(dǎo)數(shù)，即存在,只有當(dāng)隨機(jī)過程連續(xù)，即相關(guān)函數(shù)R(t1,t2)在t1=t2時連續(xù)，且有 存在，則隨機(jī)過程在均方意義下存在導(dǎo)數(shù)。,3. 隨機(jī)過程導(dǎo)數(shù)運算的法則 設(shè)用Y(t)表示隨機(jī)過程X(t)的均方導(dǎo)數(shù)，即 Y(t)的數(shù)學(xué)期望,Y(t)的相關(guān)函數(shù),4.3.3 隨機(jī)過程的積分1. 隨機(jī)過程的積分 當(dāng)把積分區(qū)間[a,b]

14、分成n個小區(qū)間 ，當(dāng) 時，令 Y就定義為X(t)在均方意義下的積分。,當(dāng)隨機(jī)過程通過線性時不變系統(tǒng)時，其輸出應(yīng)為輸入與系統(tǒng)沖激響應(yīng)的卷積，即,2. 隨機(jī)過程均方積分的運算法則 設(shè)Y為隨機(jī)過程的均方積分，即 Y的均值,Y的方差,隨機(jī)過程積分的相關(guān)函數(shù) 隨機(jī)過程的變上限積分,4.4 隨機(jī)序列,隨著數(shù)字信號處理技術(shù)和大規(guī)模集成電路的發(fā)展，從音頻信號到視頻信號、雷達(dá)信號都傾向于數(shù)字