視覺語言模型（VLM）是現代人工智能（AI）的核心技術，可用于表示不同形式的表達或學習內容，例如照片、插圖和草圖。它具有很強的泛化能力，使其能夠準確識別特定領域內圖像中的物體。然而，這種泛化能力也存在風險。例如，VLM 可以將真實車輛和插圖車輛都識別為“車輛”。

如果將這種模型應用于實際系統中，則存在將路邊廣告中的插圖車輛誤認為真實車輛，從而導致嚴重交通事故的風險。為了將安全可靠的人工智能應用于實際，必須建立能夠根據應用場景適當控制學習知識的技術。

圖片來源： 東京理科大學

據外媒報道，針對這一問題，由日本東京理科大學（Tokyo University of Science）副教授Go Irie領導的研究團隊提出了近似域遺忘（approximate domain unlearning，ADU）算法。該算法允許VLM“遺忘”特定域，使其無法識別這些域。例如，根據研究結果，該算法能夠高精度地識別現實生活中的車輛。

這項創(chuàng)新性研究由東京理科大學的Kodai Kawamura和Yuta Goto、日本產業(yè)技術綜合研究所（AIST）的Rintaro Yanagi博士以及AIST和牛津大學的Hirokatsu Kataoka博士共同撰寫。該研究成果也已發(fā)表在arXiv預印本服務器上。

“人工智能技術長期以來一直致力于在所有領域內精確識別物體，這體現在數十年來對領域自適應和領域泛化的研究上，”Irie教授解釋道。“雖然這種通用性仍然很重要，但具有卓越領域泛化能力的VLM的出現，讓我們意識到這一假設本身值得重新審視。正是基于這種想法，我們構思了ADU——一種允許模型在必要時選擇性遺忘特定領域的新方法?！?/p>

值得注意的是，技術難點在于VLM內部無法區(qū)分各個領域。由于不同領域在特征空間中存在重疊，因此很難僅選擇并遺忘特定領域。

因此，本研究團隊引入了一種名為域解耦損失（Domain Disentangling Loss）的方法，該方法能夠促進特征空間中不同域之間的分離，并捕捉每幅圖像中不同域的特征。

此外，通過引入實例提示生成器，所提出的算法在降低不必要域識別精度的同時，最大限度地減少了對這些域的需求。這使得人工智能能夠靈活配置以適應各種實際場景，并實現以前無法實現的靈活知識控制，例如在保持功能性的同時，避免識別插圖中的汽車。

有趣的是，ADU為風險管理引入了一個全新的視角。雖然人工智能風險管理的概念由來已久，但現代人工智能模型的泛化能力有時反而會帶來新的風險。這項研究提出了一種構建人工智能的框架，該框架可以根據不同的使用場景進行靈活配置，從而確保安全性和適應性。

“隨著人工智能性能的日益精進，為了促進可持續(xù)的工業(yè)應用，必須使其適應實際場景。我們相信，我們開發(fā)的這套系統能夠讓我們自由控制各項功能，從而為世界提供安全可靠的人工智能技術。”Irie教授總結道。