作文自動評分關鍵技術研究.pdf

1、寫作是大規(guī)模語言考試中用于衡量應試者語言知識和詞語組織能力的重要途徑，然而基于人工評分的方法存在以下缺點：一是耗費巨大的人力、物力、財力。二是評分的主觀性強、誤差大。隨著自然語言處理技術的發(fā)展，其在詞性標注、句法分析等方面都取得了突破性的進展，基于統(tǒng)計和自然語言處理技術的作文自動評分方法不斷涌現(xiàn)。傳統(tǒng)的作文自動評分方法從詞匯、中心思想和組織結構等方面抽取特征，并采用線性回歸等簡單模型進行訓練，其中抽取的特征按是否考慮詞的含義分為非文本特

2、征和文本特征。這種方法存在的問題是：將各類特征簡單累加在一起并不一定能獲得最好的效果，同時線性回歸等簡單模型無法很好的挖掘特征的非線性關系，并且抽取特征時很少考慮文中的語義信息。本文主要從作文用詞的多樣性角度進行評分，具體從模型選擇和詞多樣性特征抽取兩個方面進行研究，主要研究內容包括以下3個方面：
　　第一，本文從詞層面和句子層面構建了非文本特征，并對比隨機森林回歸模型和作文評分中常用模型在非文本特征上的效果。隨后通過增量式特征組

3、合的方式驗證各類特征表現(xiàn)力并得到最優(yōu)的非文本特征組合。針對非文本特征未考慮文章內容，評分信度不高且其評分機制很容易被識破和利用的問題，構建了基于LDA主題模型的文本特征，實驗結果表明基于LDA的文本特征具有很好的效果。
　　第二，為了衡量作文用詞的多樣性，需要盡可能準確的獲取詞的語義信息和詞的語義相似度。本文使用了基于詞向量的詞表示方法，通過詞向量聚類的方法將詞按照語義信息進行類別劃分，抽取作文在每個語義類別下的詞分布情況作為作文

4、的詞多樣性特征訓練評分模型。針對詞向量無法解決一詞多義問題，將LDA主題模型和詞向量方法進行融合，使用融合主題信息的詞向量方法。在作文實驗中使用經典的Brown詞聚類方法與詞向量聚類方法進行對比，實驗結果表明融合主題信息的詞向量方法能更準確的表示詞的語義信息，在各類文本特征上取得了最好的效果。
　　第三，本文實現(xiàn)了一個作文自動評分系統(tǒng)，使用上述的隨機森林和融合主題信息的詞向量方法實現(xiàn)系統(tǒng)的核心評分功能，并在此基礎上加入相應的輔助功