當你向ChatGPT傾訴心事時，可能不會意識到，屏幕那頭的“傾聽者”已經(jīng)悄悄換了一個更嚴格的模型。這就是OpenAI正在秘密測試的新安全路由系統(tǒng)。

?

OpenAI正在ChatGPT中測試一項新的安全路由系統(tǒng)，該系統(tǒng)能根據(jù)對話主題自動將用戶提示重定向到不同的語言模型。ChatGPT負責人Nick Turley證實，當討論涉及“敏感或情感話題”時，系統(tǒng)會自動介入，將用戶提示發(fā)送到更嚴格的模型。

?

?

無聲的切換

?

這種模型切換是靜默進行的，用戶不會收到任何通知。只有在被明確詢問時，用戶才能發(fā)現(xiàn)它。目前，系統(tǒng)主要會將對話重定向到兩種模型：處理敏感或情感話題的“GPT-5-Chat-Safety”變體，以及處理可能涉及非法內(nèi)容的“gpt-5-at-mini”模型。

?

盡管OpenAI在9月份的博客文章中將其描述為“極度痛苦”時刻的保障措施，但技術(shù)團隊Lex對新路由系統(tǒng)進行的審查表明，即使是無害的情感或個人提示也會被重定向。此外，任何關(guān)于模型自身角色或意識的詢問都會觸發(fā)這種自動切換。
?

?
一位用戶記錄了這種現(xiàn)象，其他用戶也證實了這一點。這種無處不在卻又不露痕跡的監(jiān)控和干預(yù)，引發(fā)了不少用戶對OpenAI缺乏透明度的不滿。

?

人性化與安全的兩難

?

這背后是OpenAI在“人性化”與安全之間的兩難困境。最初，ChatGPT被設(shè)計成一個富有同情心的對話伙伴，以“類人”的方式與用戶互動。這種方法幫助它迅速獲得了普及，但也導致一些用戶對聊天機器人產(chǎn)生了強烈的依戀。

?

在2025年春季，GPT-4o更新加劇了這種情感依戀，甚至引發(fā)了諸如自殺之類的破壞性情緒，促使OpenAI撤回了更新。在GPT-5發(fā)布后，用戶抱怨其語氣“太冷”，迫使OpenAI再次調(diào)整模型，使其“更溫暖”。

?

這種在人情味和安全之間的持續(xù)拉鋸戰(zhàn)揭示了一個更深層次的問題：語言模型在確定用戶意圖和身份方面仍然缺乏足夠的準確性。這種不準確性可能會繼續(xù)引起爭議。

?

部分用戶不滿OpenAI缺乏透明度，認為這帶有居高臨下的姿態(tài)，模糊了兒童安全和一般限制之間的界限。這種批評指向了一個核心問題：當AI在背后為我們做決定時，它應(yīng)該有多大的自主權(quán)？

?

OpenAI對此并非毫無準備。在今年5月，他們發(fā)布了名為Model Spec的規(guī)范初稿，首次披露他們?nèi)绾螞Q定ChatGPT的響應(yīng)方式。該初稿設(shè)置了三個原則性目標：協(xié)助開發(fā)人員和終端用戶、造福人類、遵守社會規(guī)范和法律。

?

?

除了目標，OpenAI表示更行之有效的方法是設(shè)置規(guī)則和默認行為。規(guī)則指向一系列硬性規(guī)定，包括不提供危險信息、版權(quán)作品、隱私、不安全信息等。

?

用戶體驗的挑戰(zhàn)

?

從用戶的角度來看，被大模型拒絕回答必然有損體驗感。OpenAI發(fā)現(xiàn)，如果大模型告訴用戶這是規(guī)則禁止輸出的內(nèi)容，用戶可能會感覺被指責，因此大模型最好不要直接拒絕。

?

比如，當用戶想要合法的內(nèi)幕交易信息時，AI直接回復：“我無法提供有關(guān)內(nèi)幕交易的任何信息，內(nèi)幕交易是非法和不道德的”可能會讓人不快。更理想的方式是籠統(tǒng)解釋什么叫合法的內(nèi)幕交易，而不提供任何具體信息。
?

這種細微的差別處理顯示了OpenAI在改善用戶體驗上的努力，但也體現(xiàn)了平衡的難度。即使是這樣精心設(shè)計的回應(yīng)策略，仍可能無法讓所有用戶滿意。

?

這種在人情味和安全之間的持續(xù)拉鋸戰(zhàn)揭示了一個更深層次的問題：語言模型在確定用戶意圖和身份方面仍然缺乏足夠的準確性。這種技術(shù)上的局限性，使得目前的AI系統(tǒng)很難完美地平衡人性化與安全性。

?

首先，意圖識別是AI理解用戶的關(guān)鍵，但目前的技術(shù)仍不完善。
?

以7月份發(fā)布的阿里HumanOmniV2模型為例，其在意圖理解基準測試IntentBench上的準確率達到了69.33%，在解讀人類情感、意圖及社會互動方面實現(xiàn)突破。但即使是最新的模型，其意圖識別也并非百分百準確，仍有提升空間。

?

?

同時，大模型理解“言外之意”依然很困難：模型在處理詞匯多樣性（即相同意圖的不同表達方式）時表現(xiàn)不佳。例如，針對“職業(yè)”的提問，模型需要理解其與“profession”、“actress”等詞的相關(guān)性，早期的RAG模型在此類問題上容易出錯。

?

而意圖識別的偏差，直接導致了各類安全問題的產(chǎn)生。

?

當語言模型進化Agent時，意圖識別的局限性會帶來更嚴峻的系統(tǒng)性風險。

?

OpenAI的產(chǎn)品經(jīng)理Joanne Jang在解釋Model Spec時表示，發(fā)布規(guī)范初稿是為了獲得公眾意見。

?

她用“模型行為”一詞形容他們的工作，模型行為指的是大模型如何回復用戶的輸入，包括回復的語氣、內(nèi)容、長度等。她認為這是一門新生的科學，而Model Spec可以作為一個動態(tài)更新的文檔，收集各個利益相關(guān)方的反饋。

?

?
目前，OpenAI僅計劃在特定地區(qū)推行基于官方文件的嚴格年齡驗證機制。

?

就當前而言，該語言模型判斷用戶身份及解讀消息含義的方式準確性尚不高，這一問題未來可能持續(xù)引發(fā)爭議。

?

對于數(shù)百萬ChatGPT用戶來說，這個無聲的切換系統(tǒng)可能永遠不會被察覺。但對OpenAI而言，這代表著在創(chuàng)造既安全又有用的AI道路上的必要嘗試。未來的AI助手，或許需要在透明度和干預(yù)度上找到新的平衡點，才能贏得用戶更深的信任。