統(tǒng)計(jì)學(xué)復(fù)習(xí)答案

1、1、傳統(tǒng)的統(tǒng)計(jì)模式識(shí)別體系是什么？基于確定性推理一分類方法回歸分析（基于最小二乘法）線性分類器（感知機(jī)，logistic回歸，支持向量機(jī)）非線性分類器（多層感知機(jī)，核支持向量機(jī)）二特征生成（無(wú)監(jiān)督學(xué)習(xí)）流形學(xué)習(xí)（把維數(shù)降低）稀疏表示（把維數(shù)增高）深度學(xué)習(xí)（卷積神經(jīng)網(wǎng)絡(luò)，自解碼神經(jīng)網(wǎng)絡(luò)）聚類算法三、理論分析復(fù)雜度分析泛化能力分析基于概率原理一分類算法基于貝葉斯決策理論（基于分類損失最小角度）二特征生成深度學(xué)習(xí)（基于玻爾茲曼機(jī)方法）具有概率

2、的PCA（概率神經(jīng)網(wǎng)絡(luò)）三數(shù)據(jù)的概率表達(dá)含參模型（EM算法），不含參模型（數(shù)據(jù)獨(dú)立）概率圖模型（馬爾可夫鏈）【附加】物理環(huán)境、數(shù)據(jù)獲取感知、預(yù)處理、特征提取、訓(xùn)練數(shù)據(jù)、特征提取選擇、模型學(xué)習(xí)估計(jì)、后處理、分類、決策。2、什么是生成模型？判別模型？及其他們各自的特點(diǎn)？之間的基本差別？最大后驗(yàn)估計(jì)是根據(jù)經(jīng)驗(yàn)數(shù)據(jù)獲得對(duì)難以觀察的量的點(diǎn)估計(jì)，與最大似然估計(jì)類似，但是最大的不同是，最大后驗(yàn)估計(jì)融入了要估計(jì)量的先驗(yàn)分布，故最大后驗(yàn)估計(jì)可以看做是規(guī)則

3、化的最大似然估計(jì)。最大似然估計(jì)提供了一種給定觀察數(shù)據(jù)來(lái)評(píng)估模型參數(shù)的方法，即“模型已定，參數(shù)未知”。最大似然估計(jì)中采樣需滿足一個(gè)很重要的假設(shè)，就是所有的采樣都是獨(dú)立同分布。通過(guò)采樣，獲取部分?jǐn)?shù)據(jù)，然后通過(guò)最大似然估計(jì)來(lái)獲取滿足假設(shè)中的正態(tài)分布的均值和方差。最大似然估計(jì)只考慮某個(gè)模型能產(chǎn)生某個(gè)給定觀察序列的概率，而未考慮該模型本身的概率。最大似然估計(jì)的一般求解過(guò)程：1、寫出似然函數(shù)；2、對(duì)似然函數(shù)取對(duì)數(shù)；3、求導(dǎo)數(shù)；4、解似然方程。4、試