高斯均值場變分推理的算法研究.pdf

1、圖模型是人工智能學(xué)科表示、處理不確定知識(shí)的重要方法。圖模型精確推理的計(jì)算復(fù)雜性是指數(shù)的，促使發(fā)展出變分方法、采樣方法、環(huán)傳播方法、定性方法等圖模型近似推理方法。由于圖模型變分近似推理方法具有堅(jiān)實(shí)的理論基礎(chǔ)、較快的收斂速度、簡單的計(jì)算復(fù)雜性和嚴(yán)格的上下界等特點(diǎn)，故而受到概率推理研究界的重視?，F(xiàn)有變分推理研究工作主要從統(tǒng)計(jì)學(xué)觀點(diǎn)研究變分推理的方法、理論和性質(zhì)，較少從計(jì)算角度研究變分推理的基本算法及其基本性質(zhì)。針對以上問題，本文在高斯馬爾可夫

2、隨機(jī)場基本模型上，研究了變分推理的基本算法及其基本性質(zhì)，具體工作包括： 1.給出了圖模型的八元組定義。完整地表示了隨機(jī)變量的條件獨(dú)立性和聯(lián)合概率分布，統(tǒng)一地定義了有向圖模型和無向圖模型。 2.設(shè)計(jì)了變分推理基本算法。在高斯馬爾可夫隨機(jī)場基本模型上，設(shè)計(jì)了精確變分推理算法和均值場變分推理算法。 3.研究了算法的基本性質(zhì)。證明了算法的收斂性，討論了算法的精確性，分析了算法的復(fù)雜性。 4.開展了實(shí)驗(yàn)研究。設(shè)計(jì)了