本時間序列分析第三章(下)

1、時間序列分析,第三章 ARMA模型的特性,本章共有四節(jié)內(nèi)容：,※第一節(jié) 格林函數(shù)和平穩(wěn)性※第二節(jié) 逆函數(shù)和可逆性※第三節(jié) 自協(xié)方差函數(shù)※第四節(jié) 自譜,第三節(jié) 自協(xié)方差函數(shù),一、自相關(guān)函數(shù),2. 理論自相關(guān)函數(shù)與樣本自相關(guān)函數(shù),1.自相關(guān)函數(shù)的引入,3. 格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系,,二、偏自相關(guān)函數(shù),4. ARMA模型自協(xié)方差函數(shù)及其特點,,一、自相關(guān)函數(shù),1. 自相關(guān)函數(shù)的引入,AR(1)模

2、型：,Xt與Xt-j雖不直接相關(guān)，但有一定的相關(guān)關(guān)系，這就是我們這一節(jié)將要給大家介紹的自相關(guān)函數(shù)。,問題：Xt與Xt-2是否有相關(guān)關(guān)系？有怎樣的相關(guān)關(guān)系？怎樣去度量這種相關(guān)關(guān)系？對MA(1)模型呢？,2. 理論自相關(guān)函數(shù)與樣本自相關(guān)函數(shù),Xt：零均值平穩(wěn)時間序列；任何一個ARMA模型都可轉(zhuǎn)化為等價的零均值A(chǔ)RMA模型。,（1）自協(xié)方差函數(shù)cov(Xt，Xt-k)＝（若Xt零均值平穩(wěn)）E(XtXt-k)=γk,（2）理論自相關(guān)函數(shù)

3、,自協(xié)方差函數(shù) cov(Xt，Xt-k)=γk,（3）樣本自相關(guān)函數(shù)（注：樣本數(shù)據(jù)也先進行零均值化處理）,自相關(guān)函數(shù),,,由此可知，自相關(guān)函數(shù)和自協(xié)方差函數(shù)是關(guān)于零點對稱的。一個正態(tài)平穩(wěn)過程Xt能夠被其均值和協(xié)方差函數(shù)（或等價地，均值、方差和自相關(guān)函數(shù)）完全刻劃。,一個平穩(wěn)過程的自協(xié)方差函數(shù)具有以下性質(zhì)：,（4）自協(xié)方差函數(shù)和自相關(guān)函數(shù)的性質(zhì),（5）協(xié)差陣,(6) 對樣本自相關(guān)函數(shù)的說明,,這是因為后者的方差要小于前者；后者是正定序

4、列，協(xié)差陣為正定陣，對平穩(wěn)序列而言，自協(xié)方差的正定性是最本質(zhì)的，常常是相關(guān)分析和參數(shù)估計的條件。,,設(shè)隨機變量Xt，Xt-1，Xt-2，…Xt-n+1的任一線性函數(shù)為：,由于對平穩(wěn)過程而言，有,可利用協(xié)方差的運算法則得到Lt的方差,若li不全為0，則上式必然大于0（方差大于等于0）。,所以Lt的方差為,由于對任意不全為零的常數(shù),有,相應(yīng)的，自協(xié)方差函數(shù)和自相關(guān)函數(shù)也都是正定的。,由此得知任何平穩(wěn)過程的自協(xié)方差陣和自相關(guān)陣都是正定的。,對

5、一般的Xt，k步滯后自相關(guān)ρk最令人滿意的估計是其中 k＝0，1，2，…，N；該式是自協(xié)方差 的估計，稱為樣本自協(xié)方差函數(shù)，相應(yīng)的自相關(guān)估計稱為樣本自相關(guān)函數(shù)。,,,例1：,Xt的樣本數(shù)據(jù)如下：求其樣本自協(xié)方差函數(shù)和樣本自相關(guān)函數(shù)Xt：47 64 23 71 38 64 55 41 59 48,計算步驟（1）計算樣本均值；（2）對原序列Xt進行零均值化處理，得到y(tǒng)t；（3）計算yt的樣本自協(xié)方差

6、函數(shù)（4）計算yt的樣本自相關(guān)函數(shù) （見Excel文件）,,內(nèi)容回顧 :,對正態(tài)零均值平穩(wěn)Xt,1．理論自協(xié)方差函數(shù) :,2．理論自相關(guān)函數(shù),3．理論協(xié)差陣、理論自相關(guān)陣：對稱性、正定性,4．樣本自協(xié)方差函數(shù)和樣本自相關(guān)函數(shù),5．樣本自協(xié)方差函數(shù)是根據(jù)樣本計算的理論自協(xié)方差函數(shù)的估計值；樣本自相關(guān)函數(shù)是根據(jù)樣本計算的理論自相關(guān)函數(shù)的估計值。 它們具有“時間序列分析”課程所特有的特點，與一般估計不同，計算時應(yīng)特別注意?？?/p>

7、利用Excel一步步計算獲得，也可通過其它專用軟件計算得到。,6．要求大家掌握：,①ARMA模型的理論自協(xié)方差函數(shù)（理論自相關(guān)函數(shù)）的算法、形式和特點；②任給一個時間序列（某過程的樣本實現(xiàn)）計算其樣本自協(xié)方差函數(shù)（樣本自相關(guān)函數(shù)）,ARMA模型,,某隨機過程,,一個樣本實現(xiàn),,時間序列,,理論值,樣本值,,,3. 格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系,例1：求AR(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù),結(jié)論：AR(1)的格林函數(shù)即是AR(1)的

8、自相關(guān)函數(shù),例2：求MA(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù),結(jié)論：MA(1)的格林函數(shù)和MA(1)的自相關(guān)函數(shù)有相同的特點,那么：格林函數(shù)與自協(xié)方差函數(shù)之間到底有怎樣的關(guān)系？,從自協(xié)方差的定義出發(fā)，利用模型的傳遞形式來考察格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系。,得到如下結(jié)論：,例3：利用格林函數(shù)與自協(xié)方差函數(shù)之間的關(guān)系，重新計算AR(1)和MA(1)的自協(xié)方差函數(shù)及自相關(guān)函數(shù)。,即：格林函數(shù)和自協(xié)方差函數(shù)滿足下面等式：,例4：計算MA(q)的

9、自相關(guān)函數(shù)。,MA(q)的Gj為：,其自相關(guān)函數(shù)為：,,4. ARMA模型自協(xié)方差函數(shù)及其特點,AR(1)：,MA(1)：,有：,例5：求AR(2)模型的自相關(guān)函數(shù)。,例6：對下面模型，求其各自的自相關(guān)函數(shù),例7：寫出下面模型的自協(xié)方差函數(shù)并說明其自相關(guān)函數(shù)的特點。,自相關(guān)函數(shù)是拖尾的。,我們對表3.1給出的數(shù)據(jù)計算其樣本自相關(guān)函數(shù),表3.1 化工過程一組70個順次產(chǎn)量的序列,取表中前10個數(shù)據(jù)，利用Excel計算得到r1為-0.789

10、56，利用Minitab計算該時間序列的前18個樣本自相關(guān)值，得如下結(jié)果：,ACF -1.0 -0.8 -0.6 -0.4 -0.2 0.0 0.2 0.4 0.6 0.8 1.0 + ---- + ---- + ---- + ---- + ----

11、 + ---- + ---- + ---- + ---- + ---- + 1 -0.390 XXXXXXXXXXX 2 0.304 XXXXXXXXX 3 -0.166

12、 XXXXX 4 0.071 XXX 5 -0.097 XXX

13、 6 -0.047 XX 7 0.035 XX 8 -0.043

14、 XX 9 -0.005 X 10 0.014 X 11 0.110

15、 XXXX 12 -0.069 XXX 13 0.148

16、 XXXXX 14 0.036 XX 15 -0.007 X 16 0.173

17、 XXXXX 17 -0.111 XXXX 18 0.020

18、 X,重要結(jié)論：,可以證明：AR(p)模型自相關(guān)函數(shù)都是拖尾的，MA(q)模型自相關(guān)函數(shù)q步截尾，ARMA(p,q)模型的自相關(guān)函數(shù)拖尾。ARMA模型自相關(guān)函數(shù)的變化特點與格林函數(shù)相同，其本質(zhì)是自相關(guān)函數(shù)ρk 也滿足AR部分的齊次差分方程。,此種性質(zhì)稱為截尾。對MA(q)模型，自相關(guān)函數(shù)q步后截尾，簡稱q步截尾。,2. MA(1)模型：,1. AR(1)模型： ，當

19、 時，模型平穩(wěn)，此時自相關(guān)函數(shù)逐漸趨于零，其速度與自回歸參數(shù)有關(guān)。這種性質(zhì)稱為拖尾。若參數(shù)為正，呈指數(shù)衰減到零，若參數(shù)為負，正負交錯衰減到零。,二、偏自相關(guān)函數(shù),3. 偏自相關(guān)函數(shù)的概率意義,1. 偏自相關(guān)函數(shù)的引入,2. 偏自相關(guān)函數(shù)的一般定義,4. 偏自相關(guān)函數(shù)的計算,5. 利Yule－Wolker方程計算,,1. 偏自相關(guān)函數(shù)的引入,對MA(q)模型，其自相關(guān)函數(shù)是q步截尾的，這是MA的特有標志，但AR和ARMA模型，其自相

20、關(guān)函數(shù)卻都是拖尾的。 是否有某種統(tǒng)計量能體現(xiàn)AR的獨有特性？有沒有一種函數(shù)，對MA模型是拖尾的，對AR模型卻是截尾的？回答是肯定的，這就是我們將要介紹的偏自相關(guān)函數(shù)。,,用φkj記k階回歸表達式中的第j個系數(shù)，φkk就是最后一個系數(shù)。利用線性最小二乘估計得到其中的系數(shù)，即對k，可選擇系數(shù),達到極小值的系數(shù) （k階自回歸中Xt-k的系數(shù)）稱為偏自相關(guān)函數(shù)。,2. 偏自相關(guān)函數(shù)的一般定義,使得：,Xt：零均值平穩(wěn)時間

21、序列，由Xt-1，Xt-2，…，Xt-k對Xt做回歸，,即有：,AR(1)：Xt只與Xt-1直接相關(guān)，與Xt-j(j>1)不直接相關(guān)，但其自相關(guān)函數(shù)卻是拖尾的。也即Xt與Xt-2有關(guān)系。這是因為Xt與Xt-1相關(guān)，而Xt-1又與Xt-2相關(guān)， Xt由于Xt-1的緣故與Xt-2相關(guān)。事實上， Xt剔除Xt-1的影響后與Xt-2可能不相關(guān)。 剔除中間變量影響后的相關(guān)就是偏自相關(guān)。,3. 偏自相關(guān)函數(shù)的概率意義,所以，對

22、AR(P)模型，偏自相關(guān)函數(shù)p階截尾。即,,從另一角度來看，對AR模型來說，第k個偏自相關(guān)系數(shù)就是AR模型中Xt-k的回歸系數(shù)，那么對于AR(p)模型，有,即，對AR(P)模型，偏自相關(guān)函數(shù)p階截尾。,總的相關(guān)關(guān)系：,直接相關(guān)＋間接相關(guān),自相關(guān)函數(shù)是不考慮是否有中間影響的Xt間的總的相關(guān)關(guān)系。 偏自相關(guān)函數(shù)是剔除中間影響后的相關(guān)，是一種直接相關(guān)關(guān)系，也即描述Xt與Xt-k之間部分的相關(guān)關(guān)系，也即是一種條件相關(guān)。,4.

23、偏自相關(guān)函數(shù)的計算,5. 利用Yule－Wolker方程計算,根據(jù)偏自相關(guān)函數(shù)的一般定義和極值原理，對,關(guān)于,求導(dǎo)，得到：,最后得到：,將矩陣展開為方程組，即為Yule-Walker方程。,對k＝1，2，3，…依次求解Yule-Walker方程，得到,一個p階自回歸過程，當k小于或等于p時，偏自相關(guān)函數(shù)φkk不為零，而當k大于p時，偏自相關(guān)函數(shù)φkk為零，即AR(p)過程的偏自相關(guān)函數(shù)是p階截尾的。 通過計算推導(dǎo)可以證

24、明，MA模型和ARMA模型的偏自相關(guān)函數(shù)都是拖尾的。 根據(jù)MA模型的逆轉(zhuǎn)形式可知，偏自相關(guān)函數(shù)有無窮多個；若模型可逆，則PACF拖尾。,,對于平穩(wěn)可逆的ARMA過程：（1）ARMA(p,q)過程的ACF會從滯后期q開始衰減。即ACF滿足AR部分的齊次線性差分方程，其模式將會按特征根所表示的形式變化。（2） ARMA(p,q)過程的PACF會從滯后期p開始衰減。PACF會依照模型

25、 的PACF系數(shù)的形式變化。,,,,,第四節(jié) 自譜,目前國內(nèi)外通常是從兩種角度出發(fā)對時間序列進行分析，一種是將時間序列看成是依時間順序發(fā)展的數(shù)據(jù)列，根據(jù)序列前后期之間存在的相關(guān)關(guān)系對時間序列進行更深層次的分析，這種分析稱為時域分析。另一種是從波的角度出發(fā)，將時間序列看成是不同的波的疊加，并通過研究波動的頻率特征來刻劃時間序列的特性，這種分析稱為時間序列的頻域分析。,在時域分析中，自相關(guān)函數(shù)是主要工具，是分析平穩(wěn)時間序列X

26、t的統(tǒng)計規(guī)律的數(shù)字特征。 在頻域分析中，譜密度是主要工具，是分析平穩(wěn)時間序列Xt的統(tǒng)計規(guī)律的數(shù)字特征。 兩種分析方法相互補充，互不矛盾，也是相互驗證，是一致的。,時間序列分析方法：,時域分析：在時間域用有限參數(shù)模型描述時間序列的相關(guān)結(jié)構(gòu)，并通過對模型的統(tǒng)計分析更進一步掌握序列的特性，主要工具是差分方程及自相關(guān)函數(shù)。,頻域分析：在頻率域中考察時間序列，將時間序列看成是由不同頻率的正弦、余弦波組成，并通過研究波動的頻率特征

27、來刻劃時間序列的特性，主要工具是傅立葉變換及譜、譜密度。,時域和頻域是以不同的方式刻畫時間序列的特性，時域方法直接分析觀測到的依時間變化的數(shù)據(jù)，頻域方法是將時間序列看成是不同諧波的疊加，著重研究波動的頻率特征。,第四節(jié) 自譜,第3章 小結(jié),1．對任何一個ARMA模型，（1）能夠?qū)懗龌蚯蟪銎涓窳趾瘮?shù)的隱式解、顯式解及其傳遞形式；（2）能夠?qū)懗龌蚯蟪銎淠婧瘮?shù)的隱式解、顯式解及其逆轉(zhuǎn)形式；（3）能判斷出該模型是否平穩(wěn)；（4）能判斷出

28、該模型是否可逆；（5）能夠求出其理論自協(xié)方差和理論自相關(guān)函數(shù)的形式；（6）能夠說出其自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的特點。,2．對任何一個時間序列，會計算其樣本自相關(guān)函數(shù)和偏自相關(guān)函數(shù)，并據(jù)此初步判斷該序列屬于什么模型。,3．掌握自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的概念和含義，平穩(wěn)和可逆的含義。,例題：,1．寫出ARMA（2，2）模型的格林函數(shù)的隱式解和顯式解、逆函數(shù)的隱式解和顯式解、平穩(wěn)性條件和可逆性條件。,2．寫出ARMA（3，4）模型的平穩(wěn)性