譯者 | 核子可樂

審校 | 重樓

如今，新的AI智能體平臺不斷涌現，每個平臺都承諾將徹底改變工作方式。號稱只需將一項任務交給 AI智能體，它就能自主規劃、執行并交付完美結果。行業領袖正積極推動這一愿景。英偉達CEO黃仁勛預測，我們很快將在企業內部看到“數億個數字智能體”。微軟首席執行官 Satya Nadella 的觀點更進一步：“智能體將取代所有軟件。”

愿景確實美好，但現實情況卻要復雜得多。

要實現這一愿景，智能體必須演進成熟，以滿足現代企業的需要。如果企業希望大規模使用AI智能體，就必須以“企業級”方式構建它們，從而控制和減少錯誤，并全程確保可靠性、安全性與可觀測性。此外，這些智能體還必須運行在一個“企業級”的生態系統中，讓智能體能夠安全地彼此發現、協作、互動，甚至交易。

簡單來講，我們需要一套“智能體網格”—— 一個由企業級AI智能體組成的網絡，且運行在生產就緒的生態系統當中。本文將探討構建此類智能體所需的要素以及支持其大規模運行的基礎設施。

企業為什么需要AI智能體？

手動流程和碎片化系統大大拖慢了企業的前進速度。AI智能體提供了一種新的軟件形態，能夠自主決定如何執行任務。針對企業用例，智能體可以幫助解決以下核心挑戰：

• 減少信息過載：員工花費大量時間搜索信息。智能體可以主動提供洞察，消除手動搜索的必要。
• 提高效率與可擴展性：智能體可以自動化多步驟流程，在不增加人力的情況下擴大運營規模。
• 增強客戶參與度：通過結合實時洞察與歷史背景，智能體可以在多個渠道提供個性化體驗。
• 加速創新：智能體卸下重復性任務，使人類得以專注于更具戰略性的任務。

AI智能體解決了日益增長的企業復雜性問題，但它們不僅僅是聊天機器人或演示工具。要真正創造價值，智能體必須從起步階段就按照企業級產品的要求構建，保證具備可靠性、可觀測性和安全性。

問題：大多數智能體并不適合企業

許多公司眼中的智能體只是“科學實驗”，從未走出實驗環境。也有人抱怨自己經歷了“上千次概念驗證”的痛苦。造成這種痛苦的根本原因，在于如今大多數智能體在設計上并不符合企業級標準。

智能體往往：

• 源自notebook或大語言模型（LLM）沙箱中的原型。適用于演示，但不適合部署。
• 在單個 Python “main” 中運行于單一操作系統進程中，僅適用于最小負載。
• 缺乏可觀測性、可追溯性和訪問控制，而這正是真實世界系統運行的基本要求。
• 孤立運行，缺少與其他智能體、服務或團隊交互的標準方式。
• 將太多決策權交給了模型本身，依賴一個具有隨機性的系統每次都做出正確判斷。我們對大模型提出的要求越多，它的準確性和可重復性就越低。

結果就是智能體的根基過于薄弱，在孤立場景中有用，但在大規模使用時卻不堪一擊。要真正發揮智能體的力量，企業必須將其視為軟件架構中的優先要素。這意味著對其進行安全保護、治理、監控，并嵌入到強大的基礎設施中。

智能體孤島的風險

隨著企業采用越來越多的智能體，一個熟悉的問題正在浮現：孤島。不同的團隊在CRM、數據倉庫或知識系統中部署智能體，但其各自為政、彼此間毫無感知。

由于智能體無法共享上下文，必然導致重復工作和錯失洞見。例如，CRM智能體可能會推薦銷售行動，卻不知道數據倉庫智能體已經識別出相關的市場趨勢。每個智能體都在部分信息下工作，團隊最終不得不重復開發相似功能。

這不僅效率低下，還會削弱對系統的信任。如果智能體間無法協調，它們就無法支持高風險或跨職能的應用場景。智能體需要一種方式來發現彼此、共享信息并協調行動。然而，缺乏統一框架意味著每一個新智能體都會增加復雜性、價值產出卻無法同步提升。

我們需要一套強有力的基礎，讓智能體擺脫獨立工具的姿態，作為更大系統的一部分運作。這就是智能體網格的意義所在。

智能體網格：企業級智能體生態系統

智能體網格，是一種將碎片化的智能體整合為連貫、可靠的企業級生態系統的方式。它使智能體間能夠彼此發現，并在安全、可控的前提下協作、互動，甚至交易。

作為統一的運行時、控制平面與信任框架，智能體網格使得企業級智能體生態真正成為了可能。

企業級智能體生態系統的基礎組件

智能體網格實現了兩個主要架構目標：一是允許構建企業級智能體；二是提供一個支持這些智能體運行的企業級運行環境。

為了支撐起安全、可擴展且協作的智能體，智能體網格需要一組基礎組件。這些能力確保智能體不僅能夠運行，而且是以符合企業對控制、信任和性能要求的方式運行。具體組件包括：

• 市場：一個中心位置，智能體可在其中被發現、評估和部署。團隊可以找到預構建的智能體或發布自己的智能體，從而促進重用并減少重復勞動。
• 注冊表：此系統允許智能體注冊、認證并相互發現。這使得智能體可以根據定義的角色、能力和權限進行協作，而無需自定義集成。
• 可觀測性與治理：用于確保安全性、可追溯性和策略執行的工具和標準。這包括日志記錄、指標、訪問控制和認證機制，對于審計和運維支持至關重要。
• 通信與編排：智能體需要協調工作流程，而不僅僅是單獨行動。網格支持跨多個智能體的任務規劃與委托，借助專用大模型和確定性執行引擎來提高可靠性并降低錯誤率。

企業級智能體生態中的宏觀信息流

其他組件還包括交互管理器，它通過 API、協議和聊天接口處理人與智能體之間以及智能體之間的通信；以及創作者工作臺，它提供設計、測試和發布符合企業標準的生產級智能體所需的工具和支架。這些能力共同將一系列孤立的智能體轉化為一套一致、可治理的系統，準備好應對企業級規模的挑戰。

智能體網格：邁向企業級智能體

企業級智能體必須達到高標準，該標準應與現代基礎設施的監控、治理和安全方式保持一致。企業級智能體不僅僅要具備智能性，更要具備可控性和可預測性，并能在關鍵業務系統中安全部署的。

要實現這一切，需要滿足以下關鍵屬性：

• 可發現性：智能體必須易于查找，無論是用戶還是其他智能體。每個智能體都需注冊唯一身份、元數據及清晰文檔。
• 安全性：智能體必須使用強身份驗證和授權機制，如mTLS和OAuth2。訪問受零信任策略控制，智能體只能與其配置中明確定義的工具和協作者交互。
• 可觀測性與可操作性：每個智能體都應輸出可集成到現有企業監控和運維平臺的指標、警報和日志。這使得實時可見性和事件響應成為可能。
• 可靠性：企業智能體必須設計為盡量減少故障。這意味著避免過度依賴不可預測的大模型行為，并盡可能確保任務執行具有確定性。
• 可擴展性：企業智能體必須能夠在運行時輕松擴展，以應對預期和峰值負載。此外，它們還必須在開發層面具有可擴展性，使開發者能夠快速高效地構建智能體。同時，它們必須在運維上具有可擴展性，能夠融入企業的運營環境。
• 可信性：智能體在使用前必須經過認證。認證過程（自動或人工）的結果需記錄并公開，以便于可視化和治理。
• 可追溯性與可解釋性：智能體的每項操作及其背后的推理過程都應被記錄。這使得團隊能夠追蹤結果背后的決策和輸入，支持診斷和合規需求。
• 協作性：智能體不是孤立運行的。它們被設計為在分布式環境中與其他智能體和工具協同工作，在需要時共享上下文并委派任務。

當智能體滿足這些標準時，它們就可以安全地集成到企業系統和流程中。但要實現這一點，它們需要默認支持這些能力的基礎設施。這就是智能體網格的作用，也是推動智能體在企業范圍內規模化應用的基礎。

智能體網格的技術基礎

企業級智能體必須適應現代軟件基礎設施。智能體網格建立在已有的技術模式之上，尤其是微服務、事件驅動架構、流處理和零信任安全機制，從而使智能體可以通過成熟的工具和流程進行部署、監控和管理。

企業級智能體技術架構

智能體，就是智能微服務

智能體是以大模型為大腦的微服務，本質上是“智能”微服務。微服務為智能體提供了堅實的運維基礎。它們支持企業級安全標準如mTLS和 OAuth2，能夠在Kubernetes等平臺上可靠運行，并可通過Docker和CI/CD管線輕松部署。由于它們遵循標準的可觀測性模式，智能體可以通過Prometheus、OpenTelemetry和Splunk 等現有工具進行監控和運維，使其能夠融入企業現有的工作流程。

智能體基于工具且具備自主性

每個智能體都配備一個或多個語言模型以及一組可調用的工具。智能體根據用戶輸入和可用功能動態生成任務計劃，然后逐步執行，協調工具、調用 API，并在需要時與其他智能體協作。

智能體編排對話

企業應用場景通常涉及多個智能體之間的長時間交互，我們將這些稱為“對話”。這些對話可以從毫秒、分鐘、天甚至更長時間跨度展開。這意味著智能體之間或人與智能體之間的交接不僅要容忍失敗，還要在必要時優雅地接受額外的人類反饋。

智能體是有狀態的

智能體在設計上強調維護和管理會話狀態。這使得它們能夠在多個步驟或會話之間跟蹤上下文，并在失敗后重啟對話。

智能體是異步的

智能體本質上是異步的。我們可以從這個角度去理解智能體：將其與人類交流方式進行比較。雖然我們經常通過請求-響應方式進行即時反饋，但我們同樣依賴異步通信，如電子郵件或短信，回復可能在很久之后才到來。我們接受這種延遲作為協調的一部分。智能體也是如此，其可能等待工具響應或委派任務，因此被設計為異步運行。

智能體是事件驅動的

事件驅動架構支持著智能體的運行方式。智能體不應依賴僵硬的點對點集成，而應能夠動態發現、通信和訂閱彼此。通過 Apache Kafka和Apache Flink 等技術支持可擴展、解耦的通信，智能體可以接入共享事件流、訂閱主題、響應新數據，并實時發布輸出。

零信任治理

智能體在嚴格策略下運行，明確界定它們允許交互的數據、工具和協作者。訪問通過網格明確聲明并強制執行。這能防止未經授權的操作，并確保符合企業安全標準。

互操作AI的未來

企業智能體發展的下一階段，并不簡單取決于部署了多少智能體，而是這些智能體的構建和管理質量如何。要創造真正的商業價值，智能體達到企業級標準：安全、可觀測、可靠，并被設計為更大系統的一部分。這不僅需要良好的提示詞和巧妙的工作流程，更需要一套支持大規模治理、協調和控制的架構。

智能體網格為此類架構提供了基礎，使得從實驗原型轉向生產就緒系統成為可能。企業AI的未來命運，也許就取決于能否構建起可信賴、可集成、可擴展的智能體生態。

原文標題：Agentic mesh: The future of enterprise agent ecosystems，作者：Sean Falconer、Eric Broda