基于動機的強化學習及其應用研究.pdf

1、傳統(tǒng)強化學習通常只考慮其外在動機，即針對某一特定的、具體的目標任務，設計專門的外部獎勵信號用以驅動智能體進行行為策略的學習，以實現(xiàn)長期累積獎勵的最大化。獎勵信號通常需要系統(tǒng)設計者根據(jù)場景和智能體自身的特點進行專門設計以提高學習效率，缺乏設計上的通用性和學習上的主動性。
　　針對降低獎勵信號設計難度和實現(xiàn)智能體自主學習的需要，本文在對現(xiàn)有的動機獎勵機制和動機強化學習框架進行研究的基礎上，借鑒情感心理在人類行為決策中的角色，通過將智能

2、體感知到的狀態(tài)映射為情感維度，提出了一種量化的情感模型作為內在動機機制。內在情感動機在外界獎勵信號的基礎上提供附加補充獎勵，或者單獨作為獎勵來驅動智能體進行學習，從而形成一套閉環(huán)的“感知–評價–內在情感動機相關獎勵與外界獎勵相結合–強化學習–行動–感知”基于情感動機的強化學習框架。內在情感動機與具體的任務無關，因此具有一定的通用性，其量化模型中，好奇心通過評價狀態(tài)和動作的新奇程度來控制智能體對陌生或熟悉環(huán)境的探索偏好；控制欲通過評價智能

3、體對環(huán)境模型的掌控程度來調節(jié)智能體在“保守”和“冒險”策略間的權衡；而幸福指數(shù)則用來判斷當前狀態(tài)和動作的相對優(yōu)劣程度，對外部獎勵進行微調；三者結合作為內在動機共同實現(xiàn)對智能體學習和行為偏好的調整。
　　在基于情感動機的強化學習框架的基礎上，本文對其在提高傳統(tǒng)強化學習中具體任務學習效率方面的應用進行了仿真驗證：一是將內在情感動機驅動的學習作為具體任務學習的“預習階段”，提前學習到盡可能準確的環(huán)境模型供后期具體任務學習時利用，并緩解傳

4、統(tǒng)強化學習中的“探索–利用”兩難問題；二是將內在情感動機作為附加獎勵與外部獎勵融合為一體，以更高效地直接驅動具體任務的學習。通過在開源機器人軟件開發(fā)框架Robot Operating System(ROS)上搭建貓作為智能體捕捉老鼠的仿真場景、設計實驗方案并與單純外部獎勵驅動的學習進行對比，證明了情感作為內在動機在提高具體任務學習效率方面的通用效果以及本文所提情感動機量化方案的合理性。
　　另外，針對基于情感動機的強化學習在智能體