基于深度學習的跨語言信息抽取研究.pdf

1、基于機器學習的信息抽取方法性能依賴訓練語料的質量和數量。然而標注數據在不同語言分布不均衡，阻礙了中文的信息抽取研究。針對這一問題，研究人員提出跨語言信息抽取方法，利用資源豐富語言（源語言）的標注數據來訓練資源匱乏語言（目標語言）的信息抽取系統(tǒng)。然而，語言鴻溝和機器翻譯錯誤影響了信息抽取的性能。本文研究基于深度學習的中英文跨語言信息抽取技術，主要包括以下內容:
　　(1)基于降噪自動編碼機(DAE)的雙視圖跨語言信息抽取
　　

2、提出基于DAE的雙視圖跨語言信息抽取方法。在源語言和目標語言向量重構過程中，DAE適當引入噪音，減少翻譯錯誤對分類性能的影響。同時，在中英文兩個視圖，分別構建分類模型，融合兩個模型的分類結果，減少語言鴻溝對分類性能的影響。在跨語言情感分類和跨語言模糊限制語識別兩個任務進行實驗，證明DAE模型和雙視圖方法均能有效提高跨語言信息抽取性能。
　　(2)基于雙語詞表示的跨語言信息抽取
　　提出基于雙語詞表示的跨語言信息抽取方法，雙語

3、詞表示的學習分為無監(jiān)督和有監(jiān)督兩個學習階段。無監(jiān)督學習階段利用DAE進行中英文雙語詞表示學習，捕獲中英文雙語語義信息。有監(jiān)督學習階段將訓練語料的標注信息嵌入雙語詞表示，提高信息抽取性能。實驗表明，雙語詞表示能夠有效捕獲雙語語義信息和標注信息，克服雙視圖方法難以深入融合兩種語言的不足。
　　(3)基于聯(lián)合表示學習的跨語言信息抽取
　　提出基于聯(lián)合表示學習的跨語言信息抽取方法。采用長短時記憶遞歸網絡(LSTM)，學習中英文雙語表

4、示。在詞語義表示基礎上，引入上卞文情感（模糊）信息表示，聯(lián)合訓練情感詞（模糊限制語）在特定語境下的語義和情感（模糊）信息。實驗表明LSTM能夠有效實現(xiàn)跨語言信息抽取。同時，詞語義表示與上下文情感（模糊）信息的聯(lián)合表示學習能夠進一步提高跨語言信息抽取的性能。
　　本文研究了基于深度學習的跨語言信息抽取方法，減少了翻譯錯誤、語言鴻溝等對跨語言分類性能的影響，獲得了有效的雙語語義信息和標注信息，提高了跨語言信息抽取性能，為深度學習理論在