作文自動評分關(guān)鍵技術(shù)研究.pdf

1、寫作是大規(guī)模語言考試中用于衡量應(yīng)試者語言知識和詞語組織能力的重要途徑，然而基于人工評分的方法存在以下缺點：一是耗費巨大的人力、物力、財力。二是評分的主觀性強(qiáng)、誤差大。隨著自然語言處理技術(shù)的發(fā)展，其在詞性標(biāo)注、句法分析等方面都取得了突破性的進(jìn)展，基于統(tǒng)計和自然語言處理技術(shù)的作文自動評分方法不斷涌現(xiàn)。傳統(tǒng)的作文自動評分方法從詞匯、中心思想和組織結(jié)構(gòu)等方面抽取特征，并采用線性回歸等簡單模型進(jìn)行訓(xùn)練，其中抽取的特征按是否考慮詞的含義分為非文本特

2、征和文本特征。這種方法存在的問題是：將各類特征簡單累加在一起并不一定能獲得最好的效果，同時線性回歸等簡單模型無法很好的挖掘特征的非線性關(guān)系，并且抽取特征時很少考慮文中的語義信息。本文主要從作文用詞的多樣性角度進(jìn)行評分，具體從模型選擇和詞多樣性特征抽取兩個方面進(jìn)行研究，主要研究內(nèi)容包括以下3個方面：
　　第一，本文從詞層面和句子層面構(gòu)建了非文本特征，并對比隨機(jī)森林回歸模型和作文評分中常用模型在非文本特征上的效果。隨后通過增量式特征組

3、合的方式驗證各類特征表現(xiàn)力并得到最優(yōu)的非文本特征組合。針對非文本特征未考慮文章內(nèi)容，評分信度不高且其評分機(jī)制很容易被識破和利用的問題，構(gòu)建了基于LDA主題模型的文本特征，實驗結(jié)果表明基于LDA的文本特征具有很好的效果。
　　第二，為了衡量作文用詞的多樣性，需要盡可能準(zhǔn)確的獲取詞的語義信息和詞的語義相似度。本文使用了基于詞向量的詞表示方法，通過詞向量聚類的方法將詞按照語義信息進(jìn)行類別劃分，抽取作文在每個語義類別下的詞分布情況作為作文

4、的詞多樣性特征訓(xùn)練評分模型。針對詞向量無法解決一詞多義問題，將LDA主題模型和詞向量方法進(jìn)行融合，使用融合主題信息的詞向量方法。在作文實驗中使用經(jīng)典的Brown詞聚類方法與詞向量聚類方法進(jìn)行對比，實驗結(jié)果表明融合主題信息的詞向量方法能更準(zhǔn)確的表示詞的語義信息，在各類文本特征上取得了最好的效果。
　　第三，本文實現(xiàn)了一個作文自動評分系統(tǒng)，使用上述的隨機(jī)森林和融合主題信息的詞向量方法實現(xiàn)系統(tǒng)的核心評分功能，并在此基礎(chǔ)上加入相應(yīng)的輔助功