本文作者：程思源（浙江大學）、田博中（浙江大學）、劉慶斌（騰訊）、陳曦（騰訊）、王永恒（之江實驗室）、陳華鈞（浙江大學）、張寧豫（浙江大學）

在博士畢業就有10篇ACL一作的師兄指導下是種什么體驗

引言

世界不但是文字的世界，我們生活的世界本質上是多模態的。我們需要不斷處理和整合來自不同模態的信息，如視覺信息、聽覺信息等，利用這些信息我們可以更好地與周圍環境互動，提升認知世界的能力。隨著OpenAI開放了ChatGPT的多模態功能，多模態大語言模型再一次成為了焦點。現有的主流多模態大語言模型框架是利用訓練好的大語言模型和圖像編碼器，用一個圖文特征對齊模塊進行連接，從而讓語言模型能夠理解圖像特征并進行更深層的問答推理。代表作有VisualGLM、BLIP 2和MiniGPT-4等。

但是目前復雜的多模態大語言模型都面臨一個重大的挑戰：對象幻覺（Object Hallucination）。就算是高質量的多模態語言模型，比如InstructBLIP，也存在高幻覺的文本率。多模態模型幻覺的主要原因可能有兩點：1、多模態指令微調過程導致LVLMs 更容易在多模態指令數據集中頻繁出現/共現的物體上產生幻覺；2、一些幻覺繼承于原先的LLMs，由于使用的LLMs本來就存在一些錯誤/謬誤知識，導致多模態語言模型也繼承了這些錯誤知識，從而出現幻覺。

最近隨著一種可以精確修改模型中特定知識的范式出現，對解決模型幻覺問題提供了一個新的可行性思路，這種方法被稱作模型編輯。模型編輯可以在不重新訓練模型的基礎上，去修改模型的參數知識，這可以節約大量的資源。但是現有的模型編輯技術大部分都是針對單模態的，那多模態的模型是否是可編輯的呢？本文就是去探究編輯多模態大語言模型的可行性，作者構建了多模態語言模型知識編輯場景的benckmark，即設計了多模態模型編輯的指標和構建了相關數據集。并類比人類視覺問答場景，提出了編輯多模態語言模型的兩種方式。其中多模態模型編輯的展示如下圖所示：

MMEdit

指標

不同于單模態模型編輯，多模態模型編輯需要考慮更多的模態信息。文章出發點依然從單模態模型編輯入手，將單模態模型編輯拓展到多模態模型編輯，主要從以下三個方面：可靠性（Reliability），穩定性（Locality）和泛化性（Generality）。

可靠性：模型編輯需要能夠保證正確修改模型的知識，可靠性就是衡量編輯后模型的準確率。多模態模型編輯亦是如此，作者定義如下：

穩定性：穩定性是判別模型編輯影響模型其余知識的程度。模型編輯希望在編輯完相關知識過后，不影響模型中其余的一些知識。多模態模型編輯與單模態不同，由于我們需要編輯多個模型區域，所以我們需要判斷多模態模型進行編輯之后到底是對哪部分產生的影響多，哪部分少。所以作者提出了兩種穩定性測試：T-Locality和M-Locality，一個測試純語言模型的穩定性，一個測試多模態整體模型的穩定性，其定義如下：

泛化性：編輯需要對一定編輯范圍內的數據都要具有編輯效應，單模態模型編輯泛化性只考慮一種數據形式，即同義語義集合。多模態模型需要考慮更多模態數據，VLMs多增加了一個圖片模態數據，所以作者提出兩種泛化性指標：

數據集

對于上述所有評估指標，本文作者都構造了對應的數據集來進行測試，其中針對可靠性數據集，作者收集了現有多模態大語言模型表現不佳的任務數據來作為編輯對象數據集，本文采用兩個不同的多模態任務分別是VQA和Image Caption。并設計兩種任務編輯數據集E-VQA和E-IC。

對于泛化性數據，多模態模型由于本身的數據也是多模態的，所以需要考慮更多模態的泛化數據情況。其中多模態泛化性數據例子如下：

對文本數據，本文作者利用不同的方法構造相關泛化數據集。首先對于VQA數據，文章作者使用ChatGLM去生成文本類的泛化數據集，通過構造相關的prompt，讓對話模型吐出相似句子。Image Caption任務由于其本身的數據比較簡單，生成效果并不佳，所以作者人工構建了幾十條相似文本數據，然后通過隨機替換的方式作為Image Caption任務的泛化數據集。

然后對于圖片數據，作者利用COCO數據集中提供的圖片描述。通過現有效果非常不錯的圖片生成模型Stable Diffusion 2.1來生成與圖片描述相似的圖片。具體構造流程如下圖所示：

對于穩定性數據集，作者為了考量編輯不同區域對模型的影響，所以將穩定性數據分為了Text Stability測試數據和Vision Stability測試數據。這部分數據不用構造，作者直接使用了之前的已有數據集。對于文本，沿用MEND中的NQ數據集，對于多模態數據，文章使用了多模態中比較簡單的問答數據集OK-VQA作為測試數據集。

最后數據集統計如下：

多模態模型編輯

對于如何去編輯多模態語言模型，文章類比人類視覺問答場景出錯場景，來設計多模態模型編輯實驗。以VQA任務為例子，人類在做VQA題目時有兩種出錯的可能：

視覺出錯：人類可能在圖片識別這個階段就出錯，可能是看錯，也有可能是視覺細胞本身就存在問題。例如人類色盲患者沒有辦法正確識別圖片的顏色特征，就會在顏色識別的任務上出錯。針對這個，文章作者提出了Vision Edit，針對VLMs的視覺模塊進行編輯。

知識出錯：人類可能正確識別了圖片中的關鍵特征，但是本身的知識庫里卻沒有相關特征的知識，這就導致人犯“指鹿為馬”的失誤。針對這個問題，作者提出了Language Edit，由于多模態語言模型的知識庫都來自于LLMs，所以這部分編輯也就是針對語言模型。

多模態模型編輯的主要流程圖作如下圖所示：

實驗

文章實驗展示了現有主流的編輯方法在多模態大語言模型上的編輯效果，并對比了一些傳統的基于微調的處理方法。結果展示如下：

可以看到微調的效果都比較一般，而且會對于模型中的其他知識造成災難性遺忘。模型編輯在可靠性上表現的都還不錯，并且對于模型的穩定性也維持的比較好，不會造成模型的過擬合和災難性遺忘。

此外作者還展示了編輯不同模塊區域的效果展示：

可以看到編輯編輯不同區域效果差異非常大，編輯視覺模塊是比較困難的事情。作者覺得這可能和模型的架構有關，編輯語言模型部分可以直接影響模型的輸出，而編輯視覺部分只能影響模型輸入。而且大部分的知識都是保存在LLMs中的，所以編輯視覺模塊的效果不佳。最后展示幾組編輯case：

總結

多模態模型是非常重要的領域，如何解決目前面臨的幻覺問題是非常關鍵的問題。模型編輯技術為解決模型幻覺提供了一個不錯的思路，但是在多模態模型上依然有許多不足的地方，比如如何能夠更有效地進行不同模態之間的協同編輯？如何解決編輯OOD數據？如何做到多模態的連續編輯？這些都是未來值得探討的方向。

編輯：黃飛

?