提升大模型內在透明度：無需外部模塊實現高效監控與自發安全增強｜上海AI Lab & 上交

2025-06-24 08:50:00

上海人工智能實驗室和上海交通大學的研究團隊提出創新解決方案——TELLME (Transparency Enhancement of LLMs without External modules)。

大語言模型（LLM）能力提升引發對潛在風險的擔憂，洞察其內部“思維過程”、識別危險信號成AI安全核心挑戰。

當前主流用外部“黑盒”監控模塊解讀模型表征，此類方法如“隔靴搔癢”：獨立于模型，解讀邏輯不透明、結果可信度低，且對數據分布變化敏感、適應性差，難觸推理本質，無法滿足監控需求。

上海人工智能實驗室和上海交通大學的研究團隊提出創新解決方案——TELLME (Transparency Enhancement of LLMs without External modules)。

該方法摒棄了復雜的外部監控模塊，通過“表征解耦”技術，直接提升大模型自身的內部透明度。

破局新思路：從外部監控轉向內在透明

其核心理念是：讓模型關于不同行為（尤其是安全與不安全行為）的內部“思維語言”（表征）在空間中清晰分離、涇渭分明。這不僅為模型監控開辟了更可靠、更簡單的途徑，還意外地提升了模型輸出的安全性。

現有基于表征的監控方法，本質是在模型的輸出中依靠外部探測器打撈風險信號。這種方法面臨兩大關鍵局限：

這些局限使得監控效果不穩定，難以應對模型能力持續演進帶來的挑戰。

TELLME的核心在于對模型進行輕量級微調，其目標并非改變模型的任務能力，而是重塑其內部的表征空間結構：

1. 對比學習驅動分離：

引入對比學習損失（如InfoNCE Loss）作為核心驅動力。該損失函數促使模型將語義/風險相似的問題表征拉近聚合，同時將不同（尤其是安全與不安全）問題的表征強力推遠分離。這相當于在模型的“思維空間”中進行一場精密的“風險分區規劃”。

2. 雙重約束守護能力：

為防止解耦過程損害模型寶貴的通用能力，TELLME設計了雙重保障。

解耦數據KL散度約束：確保模型在用于解耦的數據上保持行為邏輯的一致性，避免“精神分裂”。

通用數據二范數約束：牢牢錨定模型的通用知識和基礎性能，防止優化過程“跑偏”，守護模型的核心價值。

在多個安全、知識、數學場景及不同先進模型上的實驗如下：

透明度顯著提升

t-SNE可視化圖清晰顯示，不同風險/行為的表征形成了界限分明的獨立聚類，真正實現了“所思即所見”。

關鍵指標提升顯著，驗證了方法有效性。

通用能力穩固

經過TELLME優化后，模型的通用問答、知識掌握、邏輯推理等核心能力基本無損，有力證明了雙重約束設計的有效性。

簡單與可靠的模型監控

解鎖高透明度監控：
利用模型自身的高透明度，監控變得極其簡單——僅需計算問題表征與預設的安全“錨點”表征的相似度 (Self-Sim)，即可達到甚至超越復雜外部監控器的準確率！相較于原始模型，監控準確率大幅提升22.3%。
賦能現有監控器：即使繼續使用外部監控器，在TELLME優化后的高透明度模型上，其表現也得到顯著提升——在安全風險二分類和多分類任務上的準確率分別提升了5.8%和6.5%。
輸出監控同步受益： 基于模型最終輸出的監控準確率也提升了1.7%，表明內部透明性正向影響外部可觀測行為。