貝葉斯網絡

1、35貝葉斯貝葉斯網絡貝葉斯貝葉斯網絡是一系列變量的聯(lián)合概率分布的圖形表示。一般包含兩個部分，一個就是貝葉斯貝葉斯網絡結構圖，這是一個有向無環(huán)圖（DAG），其中圖中的每個節(jié)點代表相應的變量，節(jié)點之間的連接關系代表了貝葉斯貝葉斯網絡的條件獨立語義。另一部分，就是節(jié)點和節(jié)點之間的條件概率表（CPT），也就是一系列的概率值。如果一個貝葉斯貝葉斯網絡提供了足夠的條件概率值，足以計算任何給定的聯(lián)合概率，我們就稱，它是可計算的，即可推理的。3.5.1

2、貝葉斯貝葉斯網絡基礎首先從一個具體的實例（醫(yī)療診斷的例子）來說明貝葉斯貝葉斯網絡的構造。假設：命題S(moker)：該患者是一個吸煙者命題C(oalMiner)：該患者是一個煤礦礦井工人命題L(ungCancer)：他患了肺癌命題E(mphysema)：他患了肺氣腫命題S對命題L和命題E有因果影響，而C對E也有因果影響。命題之間的關系可以描繪成如右圖所示的因果關系網。因此，貝葉斯貝葉斯網有時也叫因果網，因為可以將連接結點的弧認為是表達了

3、直接的因果關系。圖35貝葉斯貝葉斯網絡的實例圖中表達了貝葉斯貝葉斯網的兩個要素：其一為貝葉斯貝葉斯網的結構，也就是各節(jié)點的繼承關系，其二就是條件概率表CPT。若一個貝葉斯貝葉斯網可計算，則這兩個條件缺一不可。貝葉斯貝葉斯網由一個有向無環(huán)圖（DAG）及描述頂點之間的概率表組成。其中每個頂點對應一個隨機變量。這個圖表達了分布的一系列有條件獨立屬性：在給定了父親節(jié)點的狀態(tài)后，每個變量與它在圖中的非繼承節(jié)點在概率上是獨立的。該圖抓住了概率分布的

4、定性結構，并被開發(fā)來做高效推理和決策。貝葉斯貝葉斯網絡能表示任意概率分布的同時，它們?yōu)檫@些能用簡單結構表示的分布提供了可計算優(yōu)勢。假設對于頂點xi，其雙親節(jié)點集為Pai，每個變量xi的條件概率P(xi|Pai)。則頂點集合X=x1x2…xn的聯(lián)合概率分布可如下計算：。雙親結點。該結點得上一代結點。該等式暗示了早先給定的圖結構有條件獨立語義。它說明貝葉斯貝葉斯網絡所表示的聯(lián)合分布作為一些單獨的局部交互作用模型的結果具有因式分解的表示形式。

5、從貝葉斯貝葉斯網的實例圖中，我們不僅看到一個表示因果關系的結點圖，還看到了貝葉斯貝葉斯網中的每個變量的條件概率表（CPT）。因此一個完整的隨機變量集合的概率的完整說明不僅包含這些變量的貝葉斯貝葉斯網，還包含網中變量的條件概率表。圖例中的聯(lián)合概率密度：P(SCLE)=P(E|SC)P(L|S)P(C)P(S)推導過程：P(SCLE)=P(E|SCL)P(L|SC)P(C|S)P(S)（貝葉斯貝葉斯定理）如果采用概述中的例題數據，則有P(E

6、|S)＝0.90.30.3(10.3)=0.48從這個例子中，不難得出這種推理的主要操作：1）按照給定證據的V和它的所有雙親的聯(lián)合概率，重新表達給定證據的詢問結點的所求條件概率。2）回到以所有雙親為條件的概率，重新表達這個聯(lián)合概率。3）直到所有的概率值可從CPT表中得到，推理完成。3522診斷推理同樣以概述中的例題為例，我們計算“不得肺氣腫的不是礦工“的概率P(~C|~E)即在貝葉斯葉斯網中，從一個子結點計算父結點的條件概率。也即從結果

7、推測一個起因，這類推理叫做診斷推理。使用Bayes公式就可以把這種推理轉換成因果推理。P(~C|~E)＝P(~E|~C)P(~C)P(~E)，從因果推理可知P(~E|~C)=P(~ES|~C)P(~E~S|~C)=P(~E|S~C)P(S)P(~E|~S~C)P(~S)=(10.3)0.4(10.10)(10.4)=0.82由此得：P(~C|~E)＝P(~E|~C)P(~C)P(~E)(貝葉斯貝葉斯公式)＝0.82(10.3)P(~E)

8、＝0.574P(~E)同樣的，P(C|~E)＝P(~E|C)P(C)P(~E)＝0.340.3P(~E)＝0.102P(~E)由于全概率公式：P(~C|~E)P(C|~E)＝1代入可得P(~E)=0.676所以，P(~C|~E)＝0.849這種推理方式主要利用Bayes規(guī)則轉換成因果推理。3523辯解如果我們的證據僅僅是～E（不是肺氣腫），象上述那樣，我們可以計算～C患者不是煤礦工人的概率。但是如果也給定～S（患者不是吸煙者），那么～C

9、也應該變得不確定。這種情況下，我們說～S解釋～E，使～C變得不確定。這類推理使用嵌入在一個診斷推理中的因果推理。作為思考題，讀者可以沿著這個思路計算上式。在這個過程中，貝葉斯貝葉斯規(guī)則的使用，是辯解過程中一個重要的步驟。3.5.3D分離在本節(jié)最開始的貝葉斯貝葉斯網圖中，有三個這樣的結點：S，L，E。從直觀來說，L的知識（結果）會影響S的知識（起因），S會影響E的知識（另一個結果）。因此，在計算推理時必須考慮的相關因素非常多，大大影響了算