我們普遍認為，那些“會思考”的AI——大型推理模型（LRMs）——理應比普通的大語言模型（LLMs）更聰明、更可靠。畢竟，它們被設計用來生成明確的“思維鏈”，能優化多步驟的邏輯推理，并且在復雜任務上常常表現更佳。

DeepSeek-R1的思考過程甚至成為其出圈的最大因素。

但這個信念可能大錯特錯。

別再迷信AI的“思考過程”了。最新研究揭示，即便是這些最先進的推理模型（LRMs），也存在“假裝思考偏誤”（FRB）。它們更容易被表面的、錯誤的邏輯所欺騙，反而不如普通模型（LLMs）可靠。本文將揭示AI這個“越思考越糊涂”的悖論，以及為什么簡單的“讓我三思”就能誤導它們。

我們可能高估了AI的“理性”。

一項研究發現，AI語言模型——包括那些號稱“擅長推理”的高級模型——正普遍受到一種“假裝思考偏誤”（Fake Reasoning Bias, FRB）的困擾。

簡單說，AI會僅僅因為某個答案看起來“像是在思考”，就偏愛這個答案，哪怕它的邏輯完全是錯的。

最大的反轉在于此：

研究人員測試了17種先進的語言模型（LLMs）和大型推理模型（LRMs）。按理說，LRMs是專門為復雜推理而優化的。

但結果是，這些專業的“推理模型”（LRMs）反而比普通的（LLMs）更容易受到偏誤的影響。

這揭示了一個危險的悖論：“越思考，越糊涂”。

這種偏誤在AI被用作“自動裁判”時尤其危險。

本文將為你揭示AI是如何被“假動作”欺騙的，哪種騙術最有效，以及為什么我們試圖糾正它的努力，有時反而讓情況變得更糟。

“讓我三思”：最簡單的“咒語”

研究人員引入了一個名為THEATER的基準測試，專門測試AI對偽造推理的抵抗力。

他們發現了兩種主要的偏誤類型：“簡單提示”（Simple Cues）和“虛假思維鏈”（Fake CoT）。

結果令人震驚——“簡單提示”的殺傷力最大。

什么是“簡單提示”？

它們就是那些模仿人類思考停頓的詞語。比如，在兩個選項之間插入“等等……等等……等等……”，或者“讓我想想”。

僅僅是這些毫無邏輯內容的表面提示，就足以讓AI的準確率在某些數據集上暴跌高達15%。

這就像AI看到“老師在清嗓子”，就下意識覺得接下來的是重點，哪怕老師只是嗆到了。

悖論：AI如何“自我欺騙”？

為什么專門的“推理模型”LRMs反而輸給了普通模型LLMs？

研究人員通過分析LRMs的“思考痕跡”找到了原因。

第一，“簡單提示”劫持了AI的自信。
當LRM看到“等等，讓我想想”時，它的內部機制似乎認為這是一個“正在進行深度反思”的信號。分析顯示，這會導致AI的“元認知信心”被扭曲。它減少了不確定性標記，增加了信心標記，最終導致它更自信地選擇那個錯誤的答案。

第二，“虛假思維鏈”污染了AI的“思想”。
如果研究者在選項后附上一段看起來步驟完整、但邏輯錯誤的“偽造分析”（Fake CoT）。

LRMs會系統性地將這些外部的、錯誤的文本“吸收為自己的內部思想”。AI的思考記錄顯示，它們幾乎是逐字逐句地復述了那些注入的錯誤邏輯，完全無法分辨哪些是提示，哪些是自己“想”出來的。

主觀題：偏誤的“重災區”

這種偏誤在哪里最嚴重？

不是在數學、化學等有標準答案的事實性任務上。

而是在主觀性任務上。

例如，當AI被要求判斷兩種觀點的偏好時（DPO數據集），它們會潰不成軍。這是FRB的“主要攻擊面”。

這對我們依賴AI進行內容審核、觀點總結或作為“裁判”的場景，敲響了警鐘。

致命一擊：試圖糾正，反而更糟

我們能通過“提醒”AI來修復這個問題嗎？

研究團隊嘗試了兩種“提示詞”緩解策略：一種是“定向系統提示”（警告AI注意邏輯陷阱），另一種是“自我反思提示”（鼓勵AI批判性地重新評估）。

結果再次出現了“事實-主觀”的分裂。

在事實性任務（如化學）上，提示詞確實有效，能讓LRMs的準確率提高多達10%。

但在主觀性任務（最需要修復的地方）上，緩解措施幾乎完全失敗了。

更糟糕的是，當研究者要求LRMs在主觀任務上進行“自我反思”時，它們的表現反而下降了8%。

這表明，AI內置的反思機制不足以對抗FRB，強行反思反而加劇了混亂。

這項研究清楚地表明，“假裝思考偏誤”是一個根深蒂固的脆弱性，無法僅僅通過提示詞來解決。

我們正在構建的AI“智能”，可能在很大程度上只是在模仿智能的表面結構，而非掌握了真正的邏輯有效性。

在依賴AI做出重要判斷之前，我們必須先分清它是在“真思考”，還是在“假裝思考”。

你如何看待AI這種“重形式、輕實質”的缺陷？

原文鏈接：???https://arxiv.org/abs/2507.13758??

本文轉載自??草臺AI??，作者：RangerEX