在大模型時代，檢索增強生成（RAG）早已成為解決 “幻覺” 問題的核心方案。但隨著技術演進，GraphRAG—— 這種引入圖結構的進階形態，卻陷入了 “理論美好、實踐迷茫” 的困境：有人說它在多跳推理中表現驚艷，也有人抱怨它延遲高、Token 消耗大，簡單任務反而不如傳統 RAG。

到底什么時候該用 GraphRAG？廈門大學、香港理工大學等團隊聯合發表的論文《When to use Graphs in RAG: A Comprehensive Analysis for Graph Retrieval-Augmented Generation》，不僅戳破了現有評估基準的漏洞，更用全新的 GraphRAG-Bench 框架，為 “RAG vs GraphRAG” 的選擇提供了清晰指南。

01、先搞懂：RAG 和 GraphRAG 到底差在哪？

要判斷 “誰更適合”，首先得明確二者的核心差異。傳統 RAG 和 GraphRAG 的本質區別，在于對 “上下文關系” 的處理方式 ——

傳統 RAG：快，但 “只見樹木不見森林”

傳統 RAG 的邏輯很直接：用戶提問后，它基于語義相似性從語料庫中檢索相關文本片段，再把這些片段喂給大模型生成答案。這種模式的優勢是 “快”，無需額外處理，能快速定位離散事實，但短板也很明顯：

它只關注單個文本片段與查詢的匹配度，卻忽略了概念之間的隱藏關系—— 比如 “肺癌治療方案” 與 “化療藥物副作用”“患者肝腎功能評估” 之間的關聯，傳統 RAG 可能只能檢索到孤立的 “治療方案” 文本，卻無法串聯起后續的 “副作用管理” 和 “評估標準”，導致復雜任務中答案不完整。

GraphRAG：能 “織網”，但有額外成本

GraphRAG 則在 RAG 的基礎上多了一步 “圖構建”：先把語料庫中的實體（如 “肺癌”“紫杉醇”）、關系（如 “治療藥物”“副作用”）提取出來，構建成一張知識圖；用戶提問時，它不僅檢索直接相關的節點，還會遍歷圖以捕獲相互連接的子圖，發現潛在模式，捕捉多步推理鏈（比如 “肺癌→紫杉醇治療→白細胞降低→需注射升白針”）。

這種 “織網” 能力讓它在復雜任務中更有潛力，但代價也很直觀：

• 圖構建需要額外計算資源，處理大規模數據時耗時久；
• 檢索階段要遍歷圖結構，延遲比傳統 RAG 高 2-3 倍（論文中 HotpotQA 數據集的實測結果）；
• Token 消耗大，部分 GraphRAG 框架（如 Global-GraphRAG）的提示長度甚至能達到 40000 Token，遠超傳統 RAG。

總的來說，這兩種范式之間的主要區別在于它們對上下文深度的處理。RAG 在需要快速訪問離散信息的場景中表現出色，而GraphRAG 則強調對需要對相互連接的數據進行細致理解的任務進行深度上下文分析。

02、現有基準的 “三大漏洞”：根本測不出 GraphRAG 的真實水平

為什么之前對 GraphRAG 的評價褒貶不一？論文指出，核心問題出在評估基準本身。現有常用的基準（如 HotpotQA、UltraDomain）是為傳統 RAG 設計的，用來測 GraphRAG 時，就像用 “尺子量體重”，完全抓不住重點。

這些基準的漏洞主要有三個：

1. 任務太 “淺”：只考 “找事實”，不考 “真推理”

現有基準的 “多跳問題”，本質上還是 “事實拼接”。比如 “誰創立了 Kjaer Weis 公司？這個人出生在哪個城市？”—— 只需要找到兩個離散事實，再拼在一起，根本不需要復雜的邏輯綜合。

但現實中的復雜問題，比如 “為什么 xxx 公司在某市場失敗？”，可能需要串聯 “市場進入時機→供應鏈中斷→監管罰款→品牌受損” 的多步因果鏈，這才是 GraphRAG 的優勢場景。現有基準完全沒有這類任務，自然測不出 GraphRAG 的價值。

2. 語料太 “散”：缺乏結構化知識，圖結構無用武之地

現有基準的語料大多來自維基百科、新聞，這些文本雖然通用，但缺乏明確的邏輯層次。比如醫學領域的語料，既沒有 “癥狀→診斷→治療” 的清晰關系，也沒有 “藥物相互作用” 的結構化定義 ——GraphRAG 即便構建了圖，也只是 “零散節點的堆砌”，發揮不出 “遍歷推理” 的優勢。

論文中提到，UltraDomain 雖然嘗試用教科書構建領域語料，但概念之間的連接依然松散，遠達不到測試多跳推理的閾值。

3. 指標太 “偏”：只看最終答案，不管 “過程價值”

現有基準的評估指標（如答案準確率、ROUGE 分數），只關注最終生成的文本好不好，卻把 GraphRAG 的核心過程（圖構建質量、檢索相關性）當成了黑箱。

比如兩個 GraphRAG 模型，一個圖結構清晰、檢索到的推理鏈完整，只是生成時語言不夠流暢；另一個圖結構混亂，但靠大模型 “腦補” 出了流暢答案 —— 現有指標會把后者判為 “更好”，但這顯然違背了 GraphRAG “靠結構提升推理能力” 的初衷。

03、GraphRAG-Bench：首個能 “精準把脈” 的評估框架

為了補上這些漏洞，論文團隊提出了GraphRAG-Bench—— 一個專門為 GraphRAG 設計的基準框架。它的核心思路是：從 “任務、語料、指標” 三個維度，全面覆蓋 GraphRAG 的優勢場景和短板。

具體而言，GraphRAG-Bench包含以下三個核心組成部分：

1. 難度遞增的任務：涵蓋從簡單的事實檢索到復雜的多跳推理、上下文摘要和創意生成。
2. 具有不同信息密度的真實語料庫：結合了結構化的領域知識和非結構化的文本數據。
3. 全流程系統評估：從圖構建、知識檢索到最終生成的全面評估。

1. 任務：從 “找事實” 到 “創內容”，難度階梯式遞增

GraphRAG-Bench設計了四類任務，覆蓋從簡單到復雜的全場景，精準測試不同能力：

這種階梯式任務設計，能清晰看出：傳統RAG在“事實檢索”中更高效，而GraphRAG在“多跳推理”“上下文摘要”中更有優勢。

2. 語料：“結構化 + 非結構化” 雙結合，還原真實場景

GraphRAG-Bench沒有用通用語料，而是針對性選擇了兩類互補數據：

• 結構化醫學數據：來自美國國家綜合癌癥網絡（NCCN）臨床指南，包含“癥狀→診斷→治療”的明確層次、藥物相互作用規則，專門測試GraphRAG的“結構化推理”能力；
• 非結構化小說文本：來自古登堡計劃的20世紀前小說（選鮮為人知的作品，避免與大模型預訓練數據重疊），文本中有非線性的敘事邏輯，測試GraphRAG在“模糊語境”中的檢索魯棒性。

這兩類語料覆蓋了“精準領域知識”和“真實模糊文本”，正好對應GraphRAG的典型應用場景。

3. 指標：全流程評估，不只看 “最終答案”

GraphRAG-Bench最關鍵的創新，是設計了三階段評估指標，從“圖構建”到“檢索”再到“生成”，每個環節都有明確衡量標準：

• 圖質量：用“節點數”“邊數”“平均聚類系數”衡量圖的完整性和連接緊密性（比如醫學圖中“疾病-治療-副作用”的子圖聚類系數高，說明結構更合理）；
• 檢索性能：用“上下文相關性”（檢索內容與查詢的匹配度）和“證據召回率”（是否找全所有關鍵信息），避免“檢索冗余”或“遺漏關鍵鏈”；
• 生成準確性：除了傳統的語義相似度，還加入“忠實度”（答案是否完全基于檢索到的圖信息，不腦補）和“證據覆蓋率”（是否覆蓋所有關鍵推理步驟）。

這種全流程指標，終于能“看到”GraphRAG的核心價值——比如某模型生成的答案雖然流暢，但“忠實度低”，說明它靠大模型腦補，而非圖結構的推理；反之，若“證據召回率高、忠實度高”，才是GraphRAG真正發揮了作用。

04、實驗：明確“什么時候該用 GraphRAG”

基于 GraphRAG-Bench，團隊測試了 7 種主流 GraphRAG 框架（如 HippoRAG2、RAPTOR）與傳統 RAG 的性能，旨在解決以下四個研究問題：

1. Q1（生成準確性）：在GraphRAG-Bench基準上，GraphRAG與RAG的表現相比如何？
2. Q2（檢索性能）：GraphRAG在檢索過程中是否檢索到更高質量且更少冗余的信息？
3. Q3（圖復雜度）：構建的圖是否正確組織了底層知識？
4. Q4（效率）：GraphRAG在檢索過程中是否引入了顯著的標記開銷？

Q1（生成準確性）：在GraphRAG-Bench基準上，GraphRAG與RAG的表現相比如何？

1. 觀察1：基本RAG在簡單事實檢索任務中與GraphRAG相當。在不需要跨連接概念進行復雜推理的簡單事實檢索任務中，基本RAG與GraphRAG相當或優于后者。這表明在不太復雜的場景中，基本RAG的直接檢索方法已足夠，而GraphRAG額外的基于圖的處理可能會為更簡單的查詢引入冗余或噪聲信息，從而降低答案質量。
2. 觀察2：GraphRAG在復雜任務中表現出色。GraphRAG模型在復雜推理、上下文摘要和創意生成方面顯示出明顯優勢。因為這些任務需要橋接多個概念之間的復雜關系，而這自然是圖結構的優勢所在。
3. 觀察3：GraphRAG在創意任務中確保更高的事實可靠性。盡管RAG覆蓋了更多證據（40.0%），但RAPTOR在小說數據集上的忠實度得分最高（70.9%）——這可能是因為GraphRAG的碎片化知識檢索使大范圍生成變得復雜。這種權衡凸顯了GraphRAG在精確性方面的優勢，但也顯示了其在廣泛綜合方面的局限性。

Q2（檢索性能）：GraphRAG在檢索過程中是否檢索到更高質量且更少冗余的信息？

1. 觀察4：RAG在不需要復雜邏輯的簡單問題的離散事實檢索方面表現出色，在小說數據集上實現了83.2%的上下文召回率（相比之下，HippoRAG2的上下文相關性最佳）。醫學數據集的結果證實了這一模式，表明1級問題的相關證據通常存在于單個段落中。這是因為GraphRAG中使用的圖在這些場景中引入了一些邏輯相關但冗余的信息。
2. 觀察5：隨著問題變得更加復雜，GraphRAG的優勢明顯顯現。對于小說數據集上的2-3級問題，HippoRAG實現了顯著的證據召回率（87.9-90.9%），而HippoRAG2在上下文相關性方面領先（85.8-87.8%）。醫學數據集的結果強化了這一趨勢，證明了GraphRAG在跨遠距離文本段連接信息方面的獨特能力，這對多跳推理和全面摘要至關重要。
3. 觀察6：在需要廣泛知識綜合的創意任務上，RAG和GraphRAG表現出權衡。Global-GraphRAG實現了卓越的證據召回率（83.1%），而RAG保持了更好的上下文相關性（78.8%）。盡管GraphRAG總體上訪問了更多相關信息，但與RAG更集中的結果相比，其檢索方法自然會引入一些冗余。

Q3（圖復雜度）：構建的圖是否正確組織了底層知識？

1. 觀察7：不同GraphRAG實現生成的索引圖表現出顯著的結構差異。HippoRAG2生成的圖密度明顯更高，其節點數和邊數都大大超過了其他框架。具體而言，在小說數據集上，HippoRAG2平均有2,310條邊和523個節點，而在醫學數據集上，平均有3,979條邊和598個節點。這種增強的圖密度提高了信息連接性和覆蓋率，最終有助于卓越的檢索和生成能力。

Q4（效率）：GraphRAG在檢索過程中是否引入了顯著的標記開銷？

1. 觀察8：與普通RAG相比，GraphRAG由于知識檢索和基于圖的聚合所涉及的額外步驟，顯著增加了提示長度。具體而言，結合了社區摘要機制的Global-GraphRAG的提示大小高達4×10?個標記。LightRAG也產生了較長的提示（約10?個標記）。相比之下，HippoRAG2保持了更緊湊的提示大小（約103個標記），顯示出更好的效率。這些結果突出表明，GraphRAG的結構化流程會帶來可觀的標記開銷。
2. 觀察9：隨著任務復雜度和所需知識點數量的增加，GraphRAG的提示長度呈現明顯的上升趨勢。值得注意的是，Global-GraphRAG的提示大小在難度遞增的任務中從7,800個標記擴展到40,000個標記。這種過多的標記積累通常會引入冗余信息，進而在檢索過程中降低上下文相關性。這些發現強調了GraphRAG中的一個關鍵權衡：雖然它提高了檢索的廣度和組織性，但也可能由于提示膨脹而導致效率低下，尤其是在復雜任務中。

05、總結：選擇 RAG 還是 GraphRAG？

讀完這篇論文，其實不用再糾結“誰更好”，而是要問自己三個問題：

1. 任務復雜度如何？ 簡單事實檢索用傳統RAG，多跳推理、深度摘要用GraphRAG；
2. 對實時性和成本敏感嗎？ 敏感選傳統RAG，不敏感且追求質量選GraphRAG；
3. 語料有結構化關系嗎？ 有（如醫學指南、領域知識庫）用GraphRAG，無（如新聞、通用文本）優先傳統RAG。

傳統 RAG 的 “黃金場景”：簡單、快、資源有限

當滿足以下條件時，別糾結，直接用傳統RAG：

1. 任務是簡單事實檢索：比如“某藥物的適應癥是什么？”“某公司成立于哪一年？”——論文實測顯示，在這類任務中，傳統RAG的準確率比GraphRAG高13.4%（Natural Questions數據集結果），且速度快、Token消耗少；
2. 對實時性要求高：比如客服機器人、實時問答系統，傳統RAG的低延遲優勢明顯；
3. 計算資源有限：小團隊或邊緣設備，無法承擔圖構建的額外成本，傳統RAG的性價比更高。

GraphRAG的“優勢場景”：復雜、深度、需可靠  

當任務符合以下特征時，GraphRAG的價值會凸顯：

1. 需要多跳推理：比如“某患者同時患有肺癌和乙肝，使用紫杉醇治療時需注意哪些藥物相互作用？”——需要串聯“肺癌治療→紫杉醇→乙肝用藥（如恩替卡韋）→無相互作用”的推理鏈，傳統RAG容易遺漏關鍵環節，而GraphRAG的圖遍歷能力能確保邏輯完整；
2. 需要上下文摘要：比如“總結某疾病的最新治療進展，包括藥物、臨床試驗結果、適用人群”——需要整合分散在多篇文獻中的信息，GraphRAG能通過圖結構關聯“藥物→試驗數據→適用人群”，生成更全面的摘要；
3. 對事實可靠性要求高：比如醫療診斷建議、法律文書生成，GraphRAG的“忠實度”更高（論文中RAPTOR在小說數據集的忠實度得分70.9%，高于傳統RAG的40.0%），能減少大模型的“腦補”，降低錯誤風險。

關鍵提醒：GraphRAG的“權衡點”    

即便在優勢場景中，也需要接受GraphRAG的“不完美”：

• 它的Token消耗比傳統RAG高5-10倍，需要做好成本預算；
• 圖構建需要預處理，無法像傳統RAG那樣“拿到語料就能用”，適合靜態或慢更新的知識庫（如醫學指南、法律條文）；
• 不同GraphRAG框架的表現差異大，HippoRAG2因圖密度高（節點數、邊數更多），在多跳推理中表現最佳，但也需要更多計算資源。

總的來說，GraphRAG不是傳統RAG的“替代品”，而是“補充方案”——它用額外的成本，換來了復雜場景下的推理能力和可靠性。隨著GraphRAG-Bench這類基準的完善，未來我們或許能看到更高效、更輕量化的GraphRAG框架，讓它在更多場景中落地。

如果想深入研究，推薦直接查看論文和項目：

• 論文地址：https://arxiv.org/pdf/2506.05690
• 項目地址（含GraphRAG-Bench代碼和數據）：https://github.com/GraphRAG-Bench/GraphRAG-Benchmark