來源：PaperWeekly

TL;DR：本研究提出了一種可跨不同領(lǐng)域、適用于特征維度各異且特征空間異構(gòu)的數(shù)據(jù)集的異常檢測通用模型。

論文標題：

UniOD: A Universal Model for Outlier Detection across Diverse Domains

論文作者：

付達智，樊繼聰

收錄會議：

ICLR 2026

論文鏈接：

https://arxiv.org/abs/2507.06624

Highlights：

提出一種新穎的異常點檢測方法 UniOD：可利用歷史數(shù)據(jù)集中的知識，在面對全新、未見過的數(shù)據(jù)集時無需訓(xùn)練即可直接識別異常點。

相較于其他深度學(xué)習(xí)異常檢測方法，UniOD 僅需單一模型覆蓋多數(shù)據(jù)集場景；同時由于跳過重新訓(xùn)練，檢測階段計算開銷更低。

我們?yōu)?UniOD 的有效性提供了理論保證，并通過數(shù)值實驗驗證與理論結(jié)論相吻合。

在來自 ADbench 的 57 個來自多個不同領(lǐng)域的數(shù)據(jù)集上對比 17 種基線方法，UniOD 在多數(shù)場景下取得更優(yōu)性能。

引言

異常點（Outliers）是指在數(shù)據(jù)集中顯著偏離其他正常數(shù)據(jù)分布的觀測樣本，通常表明其可能來源于不同的生成機制。

在日益數(shù)據(jù)驅(qū)動的時代背景下，識別異常模式或偏離正常行為的現(xiàn)象——即異常檢測——已成為多個領(lǐng)域中的關(guān)鍵問題。

這類異常數(shù)據(jù)往往指示著關(guān)鍵事件的發(fā)生，例如金融欺詐、安全入侵、系統(tǒng)故障，或潛在的新知識發(fā)現(xiàn)，因此對其進行準確而及時的檢測對于快速干預(yù)與科學(xué)決策具有至關(guān)重要的意義。

離群點檢測或異常檢測旨在發(fā)現(xiàn)完全無標簽數(shù)據(jù)集中的異常數(shù)據(jù)，在各個領(lǐng)域中有廣泛的應(yīng)用。

如圖 1 所示，以往的異常檢測方法往往需要針對不同的數(shù)據(jù)集訓(xùn)練不同的模型。這意味著當(dāng)面對一個新的數(shù)據(jù)集——尤其是來自不同領(lǐng)域的數(shù)據(jù)集時——我們通常需要從零開始訓(xùn)練異常檢測模型，由此帶來以下局限性：

高成本的模型選擇與超參數(shù)調(diào)優(yōu)： 尤其對于基于深度學(xué)習(xí)的異常檢測方法，需要確定網(wǎng)絡(luò)深度、網(wǎng)絡(luò)寬度、學(xué)習(xí)率以及方法特定的超參數(shù)。

如圖 2 所示，不同數(shù)據(jù)集對應(yīng)的最優(yōu)超參數(shù)組合差異顯著，從而帶來較大的調(diào)參與模型選擇難度。

評估前計算開銷大、等待時間長：訓(xùn)練或擬合過程往往耗時，尤其是在模型規(guī)模和數(shù)據(jù)規(guī)模較大時更為明顯，導(dǎo)致部署前需要付出較高的計算成本并產(chǎn)生較長的等待周期。

未能有效利用歷史數(shù)據(jù)集中的知識：歷史數(shù)據(jù)集通常蘊含關(guān)于正常樣本與異常樣本模式的有用且可遷移知識，但傳統(tǒng)異常檢測方法難以將這些知識有效復(fù)用與遷移。

方法

為了解決上述問題，我們提出了一個通用異常檢測模型 - UniOD，該方法的核心思想是：該方法能夠利用來自不同領(lǐng)域的、帶標簽的歷史數(shù)據(jù)集（在大數(shù)據(jù)時代通常易于獲取）訓(xùn)練一個通用模型，從而在面對任意未見過領(lǐng)域的數(shù)據(jù)集時，無需進行任何重新訓(xùn)練即可檢測其中的異常點。

該方法的框架如下圖 3 所示。

2.1 Data Unification-構(gòu)建通用的數(shù)據(jù)

考慮到數(shù)據(jù)集尤其是表格數(shù)據(jù)集往往在維度、特征語義以及樣本規(guī)模等方面存在較大差異，如何統(tǒng)一特征空間是訓(xùn)練通用模型的關(guān)鍵步驟。

我們首先進行預(yù)處理，以統(tǒng)一其特征空間——標準化特征維度數(shù)量，并對每個特征的語義含義進行對齊與規(guī)范化。

我們的做法分為兩步：

將數(shù)據(jù)集表示為樣本級的相似度矩陣（即圖結(jié)構(gòu)）。

對于數(shù)據(jù)集中的任意兩點，我們使用多個不同帶寬的高斯核函數(shù)計算其相似度。

基于相似度矩陣構(gòu)建統(tǒng)一特征。

我們對相似度矩陣使用奇異值分解得到每一個數(shù)據(jù)的特征。這樣得到的特征都是對相似度矩陣結(jié)構(gòu)的描述，因此不同數(shù)據(jù)集之間是可比的。

2.2 基于圖神經(jīng)網(wǎng)絡(luò)的模型設(shè)計

現(xiàn)在我們得到了數(shù)據(jù)的統(tǒng)一特征，需要解決的問題是：如何設(shè)計模型進行訓(xùn)練？

一個直接的想法是用 MLP 在歷史數(shù)據(jù)集上訓(xùn)練一個分類器，然而該方法不能充分利用相似度矩陣中所包含的有價值信息。

為了充分利用樣本間的相似度信息，我們把每一個數(shù)據(jù)集當(dāng)作圖結(jié)構(gòu)的數(shù)據(jù)，這樣樣本級的異常檢測任務(wù)可以被轉(zhuǎn)化為圖節(jié)點級的異常檢測任務(wù)，同時可以使用 GIN（圖同構(gòu)網(wǎng)絡(luò)）和 transformer 并行的結(jié)構(gòu)作為我們的分類器。

2.3 理論分析

我們提出了如定理 4.1 所示的關(guān)于期望泛化誤差和平均訓(xùn)練誤差理論分析，該定理具有以下重要意義：

當(dāng)訓(xùn)練數(shù)據(jù)集數(shù)量更多（即 更大）時，理論上界會更緊，從而使得泛化誤差更小。

增大 GIN 與 transformer 的數(shù)量可以降低訓(xùn)練誤差，從而提高測試準確率

當(dāng) GIN 和 transformer 的層數(shù)過大時，UniOD 的泛化能力會減弱。

實驗

3.1 主要實驗結(jié)果

本文在常用的異常檢測基準 ADBench 的 30 個數(shù)據(jù)集上進行了測試，在歷史數(shù)據(jù)集的劃分上，我們隨機將這 30 個數(shù)據(jù)集劃分為兩組，其中一組作為歷史數(shù)據(jù)集，一組作為評估數(shù)據(jù)集，并做了交叉驗證。

評測指標采用了 AUROC 和 AUPRC，對所有基線方法均基于歷史數(shù)據(jù)集進行了超參數(shù)搜索。

Table2 和 Table3 所示的實驗結(jié)果表明：UniOD 比起其他基線方法在大多數(shù)數(shù)據(jù)集以及平均性能上有較大優(yōu)勢。

同時，我們也在 ADBench 的另外 27 個數(shù)據(jù)集上進行了測試，這 27 個數(shù)據(jù)集中包含圖像數(shù)據(jù)集與文本數(shù)據(jù)集（使用 ViT 和 BERT 提取特征），

Table19 中的實驗結(jié)果表明 UniOD 可以泛化到其他模態(tài)的數(shù)據(jù)集上，盡管只使用表格數(shù)據(jù)集訓(xùn)練。

3.2 領(lǐng)域魯棒性分析

我們評估 UniOD 在物理、航天與圖像領(lǐng)域數(shù)據(jù)集上的表現(xiàn)時，同時在訓(xùn)練階段系統(tǒng)性移除所有來自相同領(lǐng)域/方向的歷史數(shù)據(jù)集。

在 Table15 中，排除這些領(lǐng)域特定的訓(xùn)練數(shù)據(jù)并未導(dǎo)致對應(yīng)測試領(lǐng)域的性能出現(xiàn)顯著下降。

我們將這種魯棒性歸因于兩點關(guān)鍵因素：

即便同屬一個領(lǐng)域的數(shù)據(jù)集，其特征空間與數(shù)據(jù)特性也可能存在顯著差異；

UniOD 并不直接依賴原始特征，而是利用相似度矩陣來構(gòu)建跨數(shù)據(jù)集、維度一致的特征。因此，不同領(lǐng)域的數(shù)據(jù)集在其相似度矩陣中仍可能呈現(xiàn)相近的結(jié)構(gòu)模式，從而支持有效的跨領(lǐng)域泛化。

3.3 消融實驗

我們評估了在使用 1、3、5、10、15 個歷史訓(xùn)練數(shù)據(jù)集的情況下 UniOD 的性能變化，如圖 4(a) 所示?？梢悦黠@觀察到，隨著歷史數(shù)據(jù)集數(shù)量的增加，模型的泛化性能相應(yīng)提升。

我們進一步分析了帶寬數(shù)量 對 UniOD 性能的影響。更大的 能夠帶來更少的信息損失，從而提升模型的泛化能力，如圖 4(b) 所示。上述實驗結(jié)果與定理的理論分析一致。

結(jié)論

本文提出了一種新穎且高效的異常點檢測方法 UniOD。其核心思想是利用歷史數(shù)據(jù)集訓(xùn)練一個通用深度模型，從而在無需重新訓(xùn)練的情況下，對來自不同領(lǐng)域的全新未見數(shù)據(jù)集進行異常檢測。

通過將每個數(shù)據(jù)集轉(zhuǎn)換為圖結(jié)構(gòu)數(shù)據(jù)并生成維度統(tǒng)一的節(jié)點特征，UniOD 使得單一模型即可處理異構(gòu)數(shù)據(jù)集成為可能。

我們從理論分析與實證實驗兩方面系統(tǒng)性地驗證了 UniOD 的有效性與高效性。

盡管 UniOD 主要面向傳導(dǎo)式（transductive）異常檢測場景設(shè)計，但其同樣可以擴展到歸納式（inductive）異常檢測：即通過將訓(xùn)練集與每個測試樣本轉(zhuǎn)換為圖結(jié)構(gòu)數(shù)據(jù)，并計算其對應(yīng)的異常分數(shù)，從而實現(xiàn)對新樣本的異常判別。

從研究的角度出發(fā)，本文提出了異常檢測的新研究方向——通用異常檢測模型或異常檢測基礎(chǔ)模型。從工程與應(yīng)用的角度出發(fā)，UniOD 不需要依賴于專業(yè)能力的調(diào)參或訓(xùn)練步驟，可以即插即用，降低了模型的使用門檻。