0 前言

LLM憑借其生成連貫文本、翻譯語言甚至進行對話的能力，徹底改變人工智能領域。然而，盡管這些模型表現出色，它們在推理和理解復雜上下文方面仍然面臨重大挑戰。

這些模型擅長識別并模仿訓練數據中的模式，但當任務需要真正的理解和邏輯推理時，它們往往遇困。可能導致：

• 長對話中的不一致
• 難以關聯分散的信息
• 在長篇敘述中難以保持上下文一致性

深入理解這些推理問題對于改進未來 LLM 的發展和應用至關重要。

1 關鍵推理挑戰

1.1 缺乏真正的理解

語言模型的工作原理是根據訓練過程中學到的模式預測下一個關鍵詞，而不像人類真正理解其所討論的內容。因此，在需深層理解的復雜推理任務，LLM 表現不佳。

1.2 上下文限制

盡管現代 LLM 在短期上下文理解方面表現良好，但在長對話或大篇幅文本中保持一致性和上下文連貫性仍是挑戰。當需要整合對話或文本的多個部分時，模型可能會出現推理錯誤。例如，在一場長時間的討論或復雜的故事敘述中，模型可能會忘記或誤解之前的信息，導致后續的矛盾或錯誤結論。

1.3 無法進行規劃

許多推理任務涉及多步邏輯推導或需要跟蹤多個事實。當前的 LLM 在需要長時間連貫性或多步邏輯推理的任務上表現較差，例如解答需要多個邏輯步驟的謎題。

1.4 回答無解問題

回答無解問題是 LLM 推理能力的一大挑戰。當面對悖論、無明確答案的問題，或與已知事實相矛盾的問題時，LLM 可能難以提供有意義或連貫的回答。相較于直接承認問題無解，模型可能會基于訓練數據的模式硬給出一個答案，這可能導致誤導性或錯誤的結果。推理能力的局限性在這一點上尤為明顯。

1.5 狀態空間計算的復雜性

某些問題需要探索從初始狀態到目標狀態的所有可能路徑。例如，在旅行規劃中，涉及大量可能的選項，并且隨著預算、交通方式等額外限制的增加，搜索狀態空間可能會呈指數級增長。對于 LLM 來說，計算所有這些可能性并給出最佳方案是不現實的，因此它通常會依賴所學的啟發式方法，給出一個可能并不正確的可行解。

2 現實案例：錯誤的推理

問題：

ounter(lineounter(lineounter(line
"一個水壺裝有 8 個單位的水，還有兩個容量為 5 和 5 的空水壺。"
"目標是通過倒水，使前兩個水壺各包含 4 個單位的水，而第三個水壺保持為空。"
"每次倒水時，水只能從一個水壺倒入另一個，直到倒水的水壺空了，或者接收水的水壺裝滿為止。"

實際上，這問題無解，但目前 LLM 仍嘗試給出解答，仿佛它們找到正確答案。

然而，如果問題稍作修改，將兩個空水壺的容量改為 5 和 4（而非 5 和 5），所有 LLM 都能夠正確回答。這表明，它們可能只是記住了某些已知問題的解決方案，而不是進行真正的推理。

3 研究人員如何改進 LLM 的推理能力？

目前，研究人員正在探索多種方法來提升 LLM 的推理能力，其中包括改進數據集、引入鏈式思維、使用外部驗證器和整合專門的求解器。

3.1 改進數據集

一些研究人員認為，提高 LLM 訓練數據的質量和多樣性是關鍵。通過更廣泛、更精細的數據集訓練模型，可以增強其處理復雜推理場景的能力。

3.2 鏈式思維（Chain-of-Thought）

這一方法 旨在讓 LLM 按照人類的邏輯思維方式，逐步進行推理。通過顯式生成中間推理步驟，模型能夠更準確地完成復雜推理任務，并減少邏輯錯誤。

3.3 使用外部驗證器

為了解決 LLM 生成錯誤或誤導性信息的問題，一些研究人員提出整合外部驗證機制。通過與可信數據源比對或使用額外算法進行驗證，這些機制可以確保最終輸出的信息更加準確、可靠。

3.4 使用專門的求解器

另一種方法是引入專門的求解器來處理特定類型的推理任務。例如，使用數學求解器進行計算，或使用邏輯推理工具處理復雜推理問題。這些工具可以補充 LLM 的能力，提高系統整體的準確性和可靠性。

4 結論

盡管 LLM 在文本生成和理解方面取得了令人矚目的進展，但由于缺乏真正的理解能力、難以保持上下文一致性，以及僅依賴從海量但可能存在缺陷的數據中提取的模式，它們仍然在復雜的多層推理任務上存在明顯不足。未來的 LLM 需要更先進的架構，并結合常識推理等方面的持續研究，以提升其推理能力。

參考：

1. 水壺倒水問題
2. 用 LLM 學習推理
3. GSM-Symbolic：LLM 在數學推理方面的局限性
4. PlanBench：評估 LLM 規劃和推理能力的基準
5. LLM 仍然無法規劃，但 LRM 可以嗎？
6. LLM 無法規劃，但可以在 LLM-模塊化框架中輔助規劃

本文轉載自???JavaEdge???，作者：JavaEdge