

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、第十二章貝葉斯統(tǒng)計1第十二章第十二章貝葉斯統(tǒng)計貝葉斯統(tǒng)計統(tǒng)計學中有兩個主要學派:頻率學派和貝葉斯學派。兩者間有著長期的爭論,這對統(tǒng)計學的發(fā)展起到了積極的促進作用。本章主要討論貝葉斯統(tǒng)計的基本思想、理論進展及應用,以期對貝葉斯統(tǒng)計形成初步的認識。12.1貝葉斯學派概述貝葉斯學派概述貝葉斯統(tǒng)計起源于英國學者貝葉斯的一篇論文“論有關機遇問題的求解”(1763年發(fā)表)。在這篇論文中,他提出了著名的貝葉斯公式。設參數已知時,樣本的分布密度?X為的
2、先驗密度為,則已知樣本后,參數的后驗密度為()fx??|()??X?()()()(12.1.1)()()fxhxfxd??????????|||貝葉斯公式、參數的后驗密度公式(12.1.1)及貝葉斯假設構成了貝葉斯統(tǒng)計的起點。?頻率學派進行統(tǒng)計推斷時,依據兩種信息:一是總體信息,即統(tǒng)計總體服從何種概率分布,例如總體服從正態(tài)分布。另一是樣本信息,即從總體抽取的樣本給我們提供的信息。貝葉斯學派則除以上兩種信息之外,還必需利用先驗信息,即在抽
3、樣(試驗)之前有關總體分布的未知參數的信息。貝葉斯學派受到的批評集中于以下兩點:⑴將參數看成是隨機變量是否合適;⑵先?驗分布是否存在,如何確定。貝葉斯統(tǒng)計在參數的點估計、區(qū)間估計及假設檢驗方面形成了與頻率統(tǒng)計相平行的理論方法,并賦予統(tǒng)計推斷以新的解釋,它在可靠性方面有著成功的應用。貝葉斯分析與統(tǒng)計決策論也是難以分開的,貝葉斯統(tǒng)計具有簡潔實用的特點。貝葉斯方法的關鍵是先驗分布的確定。由于現(xiàn)實世界中的事物的發(fā)生常不具備大量可重復性,事件發(fā)生
4、的概率較難具有頻率解釋,而又面臨解決問題,這就導致主觀概率、先驗分布的提出,試圖通過科學的思維活動來彌補經驗的不足,再利用樣本調整先驗分布為后驗分布,完成X()??()hx?|對參數認識的再認識。?例12.1.1一個人打靶,打了次,命中了次,估計此人打靶命中的概率。nr?一般的估計方法是:。當時,;當時,仍有。?rn??1nr???1??100nr???1??而實際上在這兩種情況下,反映出的此人的射擊水平是不一樣的。依貝葉斯方法,次獨n
5、立射擊,命中次的概率為r()(1)rnrnfrr????????????|當對參數一無所知時,可設服從上的均勻分布,由(12.1.1)得??[01]第十二章貝葉斯統(tǒng)計31122()(1)????????即,服從貝塔分布,由此得的貝葉斯估計:。()??11()22???(0.5)(1)rn????12.2.3最大熵原則最大熵原則信源是信息的來源。對離散信源,設信源符號出現(xiàn)的概率為iXx?(12)ipin??,定義信源的期望信息量為信源的信
6、息熵()ln()iiHXpp???即熵是表征信源的不定程度的總體特性的。信息獲得的可能性較小,則一旦獲得信息,所得到的信息量也應是較大的??勺C明對離散型隨機變量,等概率狀態(tài)相應的熵最大。對連續(xù)信源,可定義信源的信息熵為X()()ln()HXpxpxdx???可證明在上的均勻分布是熵最大的分布。從而例12.1.1中的最大熵先驗分布為[]ab?[01]上的均勻分布。又設是上的隨機變量,假定它的一階矩為,二階中心矩為?()?????,則可推得
7、的最大熵分布為。2???2()N???12.2.4共軛分布共軛分布Raiffa和Schlaifer(1961)提出選擇自然共軛分布作為先驗分布。定義:設樣本的分X布密度,若決定的后驗密度:與是同一類型的,則稱先驗分布()fx?|()??()hx?|()??為的共軛分布。()??()fx?|再看例12.1.1若選取為貝塔分布,則可推出:仍服從貝塔分布()??()ab?()hr?|,故貝塔分布是二項分布的共軛分布。此時,的貝葉斯估計:()a
8、rnbr?????。當時,的先驗分布即為貝葉斯假設。共軛分布要求先?arabn?????11ab???(11)?驗分布與經樣本調整后的后驗分布具有某種一致性,即要求具有對參數()??X()hx?|?的基本認識條件下,通過樣本調整,達到對參數認識的升華。?12.2.5經驗貝葉斯估計經驗貝葉斯估計經驗貝葉斯方法體現(xiàn)了頻率統(tǒng)計和貝葉斯統(tǒng)計的某種融合,其特點是利用歷史樣本的信息。例12.2.1設是來自總體服從的樣本,已知,的先驗分布1nXX?X
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 貝葉斯統(tǒng)計
- 貝葉斯統(tǒng)計復習
- 貝葉斯統(tǒng)計讀書筆記
- 人臉識別的貝葉斯統(tǒng)計方法.pdf
- 貝葉斯博弈
- 貝葉斯網絡
- 貝葉斯統(tǒng)計理論的形成及發(fā)展.pdf
- (貝葉斯決策例題)
- 屏蔽數據的貝葉斯統(tǒng)計分析.pdf
- 威布爾分布場合的貝葉斯統(tǒng)計推斷.pdf
- 貝葉斯網絡簡介
- 貝葉斯網絡matlab
- 基于貝葉斯統(tǒng)計方法的橋梁損傷識別研究.pdf
- 統(tǒng)計反問題的貝葉斯理論與方法研究.pdf
- MCMC方法及在貝葉斯統(tǒng)計中的應用.pdf
- 貝葉斯網絡研究.pdf
- 貝葉斯納什均衡
- 15 貝葉斯決策方法
- 貝葉斯算法原理分析
- 基于貝葉斯統(tǒng)計思想的基因表達數據分析.pdf
評論
0/150
提交評論