視覺語言分析：從底層視覺特征表達到語義距離學習.pdf

1、隨著互聯(lián)網(wǎng)的發(fā)展，網(wǎng)絡圖像資源與日劇增，伴隨而來的是圍繞著網(wǎng)絡圖像為對象的眾多研究課題，比如圖像標注、圖像檢索、圖像搜索結果聚類、重復圖像檢測、圖像標簽推薦、圖像索引、圖像分類、物體檢測等。這些相關研究都需要從根本上解決一個問題，即視覺語義的表達和度量。因此該問題成為了網(wǎng)絡圖像研究的一個基本和核心的問題，也是目前學術界和工業(yè)界的重要研究方向。
　　 目前來看，視覺語義的表達和度量主要包含四個基本問題，即圖像表達、圖像相似度量、概

2、念表達和概念相關度量。圖像表達是指圖像的特征以及特征的組織形式。圖像特征可以生成有一定分辨能力的視覺單詞、視覺短語。圖像的表達形式也是多種多樣，比如有忽略特征間關系的，有考慮在一幅圖像中空間關系的或者共發(fā)頻率的，等等。圖像的距離度量是在特定圖像表達之上通過機器學習的方法得到的。選擇不同的圖像特征和圖像表達，圖像的距離度量或許不一樣。同樣，概念表達是指概念的特征及其組織形式。概念的特征是以眾多包含某個概念的圖像集合上提取的視覺特征為基礎建

3、立的模型，它的通常形式是某個視覺單詞或者短語出現(xiàn)的頻率、共發(fā)頻率、條件分布、或者轉移概率。目前有很多概念建模的方法，比如二維隱馬爾可夫模型、條件隨機場模型等。本文的后一部分章節(jié)將詳細討論我們提出的視覺語言模型，保語義單詞包模型，并和其他各種模型進行比較。概念距離度量是建立在特定的概念表達模型或者文本語義關聯(lián)之上的概念之間的相關性度量。目前常用的度量方法包括詞網(wǎng)距離、谷歌距離、以及我們提出的Flickr距離。
　　 本文提出了解決

4、視覺語義的表達和度量的一系列模型和方法，既有底層特征的創(chuàng)新，也有高層語義模型和距離度量方面的創(chuàng)新。發(fā)表的工作涉及了以上提及的四個方面挑戰(zhàn)，為視覺語義的表達和度量相關研究提供了有意義的探索。具體來說本文的成果和創(chuàng)新之處包括以下幾點：
　　 1.本文提出了視覺語言模型，減小了視覺領域和文本領域的語義分析的鴻溝。我們認為圖像的局部特征和文本中的單詞一樣是滿足一定的語法順序的。利用計算這些局部特征在空間位置上的條件分布來表達這種語法順序

5、，就可以近似的估測圖像中的視覺語義。因為該模型和文本分析中的自然語言模型形式上類似，因此很多文本分析中的方法可以很容易在該模型中推廣。實驗結果表明該模型效果和很多復雜的模型相近，但運算速度遠遠超過其它模型，可以很好的應用在大規(guī)模數(shù)據(jù)上。
　　 2.本文提出了保語義單詞包模型來處理語義鴻溝問題。我們提出了一種語義鴻溝度量方法，并通過選擇從視覺特征到視覺單詞的映射空間來最小化語義鴻溝，從而使得我們產生的詞典可以有更好的分辨能力。實驗

6、也證明了利用最小化語義鴻溝方法生成的詞典在圖像標注問題中效果明顯優(yōu)于其他方法。
　　 3.本文提出了概率相關成分分析方法用來改進圖像相似度量。概率相關成分分析將圖像之間的邊信息表達為概率的形式而不是傳統(tǒng)的非0即1的二進制表達，提高了圖像距離學習的精度。網(wǎng)絡圖像標注的應用顯示出該方法比傳統(tǒng)的距離學習方法更加高效和準確。
　　 4.本文提出了基于視覺特征的概念相關性度量方法：Flickr距離。該距離可以用來度量兩個概念的不相

7、關度。我們認為相關的概念同時出現(xiàn)在同一幅圖像中概率比較大。因此計算和兩個概念分別相關的圖像的視覺語言模型的差別，就可以有效地度量概念之間的不相關度。和其它基于文本的概念距離度量方法不同，F(xiàn)lickr距離應用了概念相關的圖片信息，從視覺角度度量了概念的相關性。在多媒體相關的應用問題中可以顯著地提高性能。和人工建立的詞網(wǎng)距離比較，F(xiàn)lickr距離可以自動更新以覆蓋更多的新概念，和傳統(tǒng)的谷歌距離比較，F(xiàn)lickr距離利用了視覺信息，實驗證明其

8、更加符合人類的認知。
　　 5.本文將傳統(tǒng)的線性空間距離學習推廣到了非線性空間距離，提出了Bregman距離函數(shù)學習方法。傳統(tǒng)的Mahalanobis距離學習是需要學習一個距離矩陣。該距離度量在整個空間中是一致的。而樣本在空間的分布疏密可能是有差別的。利用Bregman距離學習可能得到一個和樣本相關的度量，考慮了局部分布的特性，因此可能更加準確。實驗表明該方法可以比其他方法更好地處理高維空間的距離學習問題。
　　 6.本