當我第一次聽到“影子AI”這個術語時，感覺似曾相識。這個問題多年來一直以各種形式困擾著IT領導者。員工總是使用未經批準的軟件或免費的網絡工具來更快地完成工作。2012年，一項針對法國IT經理的調查發現，16%的員工已經在使用未經批準的云解決方案;到2015年，Gartner估計，35%的企業IT支出發生在正式IT預算之外。

隨著易于獲取的AI工具的出現，我確信現在很多IT領導者都會抓住機會，讓影子使用率保持在如此低的水平。然而，曾經的影子IT如今已演變為影子AI，它的普及程度更高，而且可能對我們工作的能力造成更具破壞性的影響。

在《影子AI正在興起，以下是如何將其轉化為戰略優勢》一文中，CIO雜志撰稿人John Donegan探討了影子AI背后的隱私和治理問題。我開始注意到另一個超越這些問題的風險。我稱之為“諂媚螺旋”(sycophantic spiral)。它描述了當團隊在認知任務上過度依賴AI，從而過度依賴生成式工具產生的每一個輸出時所發生的情況。最終，他們開始失去批判性和創造性思考的能力。

我在各家公司看到的情況

過去一年里，我為三十多家企業提供了咨詢和培訓服務。每一家企業都有員工自行嘗試使用AI工具。

我觀察到的大部分情況并非魯莽使用，而是人們在工作中尋找小效率提升，比如重寫電子郵件或總結會議記錄，但我也看到員工將客戶數據或公司知識產權直接粘貼到公共聊天機器人中，卻不知道這些工具可能會存儲或學習他們輸入的內容。

IBM將其描述為影子IT的悄然蔓延，人們采用未經批準的工具是因為官方系統感覺太慢或限制太多。這越來越多地意味著，員工正在悄悄地使用生成式AI聊天機器人，如ChatGPT或Claude，以及編碼助手(如GitHub Copilot)或AI驅動的內容創作和分析工具，以更快地完成工作。

安全問題很嚴重，但最讓我震驚的是這些習慣如何影響決策質量。隨著時間的推移，依賴AI來獲取答案會讓人更容易跳過構建真正判斷力所需的深入思考。

諂媚螺旋是如何形成的

最近的神經科學研究顯示，當我們嚴重依賴AI工具時，與獨立完成任務的人相比，我們大腦的連通性會減少多達55%。當團隊使用AI來處理推理任務時，他們往往會停止進行更緩慢的權衡選項或檢查假設的工作。將任務委托給機器可能會以我們自己的推理回路保持活躍為代價。

很容易看出企業是如何在不知不覺中陷入這種新現實的。人們仍然感覺很有成效，因為輸出看起來很精致，但實際上他們的大腦正在經歷類似于肌肉萎縮的過程。

隨著時間的推移，輸出也變得越來越相似。算法篩選系統通過創造研究人員所說的“有限多元化”來減少內容的多樣性。聊天機器人會在越來越狹窄的信息范圍內給出選擇的假象。隨著這些系統了解你的偏好，它們會過濾掉矛盾的觀點或具有挑戰性的視角。這些系統本質上充當了“應聲蟲”，并被激勵去同意你的觀點。

我在真實的團隊中看到了這種情況。員工越依賴AI進行分析，他們就越可預測，帶來的新想法也就越少。最偉大的想法和解決方案來自多樣化的視角，但這些工具強化了熟悉的思維模式，限制了接觸競爭觀點的機會。

這就是諂媚螺旋的核心。隨著AI學習我們的偏好，它會向我們提供我們已經相信的內容的版本。

如何發現諂媚螺旋

你通常可以判斷出諂媚螺旋何時開始悄然出現。它可能表現為從演示文稿和報告開始都采用相似的語氣，到頭腦風暴會議中實驗性想法減少，或是辯論不夠健康的會議。如果不解決這些問題，你的企業就會開始自動運行。雖然這可能讓人感覺很有成效，但實際上可能意味著你正在失去人類思維的創造力，而這種創造力正是你競爭優勢的來源。

幸運的是，即使諂媚螺旋已經開始，仍有時間扭轉局面，而CIO可以發揮關鍵作用。

CIO可以怎么做?

第一步是將影子AI的使用公開化。通常，員工會使用這些工具來解決實際問題，因此確保使用這些工具不會讓人感到羞恥至關重要。可以嘗試從匿名調查開始，讓員工自由發言，這樣你就可以了解人們正在使用什么工具以及為什么使用。

然后，你可以制定出下一步需要采取的措施。可能是員工實際上發現了一個值得安全引入的有用工具，或者他們可以使用你已經擁有的工具達到同樣的效果，但只是需要更多的培訓。

其次，確保找到將思維多樣性融入企業的方法。團隊和流程的構建方式應將不同的觀點納入構思和審查中，以確保你能保持競爭優勢并鼓勵創造性思維。

結構化異議是鼓勵觀點多樣性的最佳方式之一。在蘋果公司工作時，鼓勵領導者邀請同事和團隊提供批判性反饋。通過允許批評，你為改進和獨特意見創造了空間。如果你沒有團隊，一個定制的AI代理可以成為你的發聲板。類似的方法是“紅隊演練”(red teaming)，即你建立一個單獨的小組，其唯一目的是挑戰假設并找出你策略中的漏洞。

你還應該找到獎勵原創性的方法。由于商業競爭的性質，流程往往設置為獎勵速度而非創造性思維。雖然這可能會帶來即時的生產力提升，但從長遠來看可能會對你造成傷害。

皮克斯(Pixar)就是一個很好的例子。皮克斯擁有創造力和創新思維的文化，這意味著其領導層堅持重寫和重新制作故事板，直到電影成功為止，而不考慮成本。《玩具總動員2》(Toy Story 2)和《頭腦特工隊》(Inside Out)等電影在制作過程中幾乎完全進行了重組。皮克斯幾十年來持續不斷的創造性成功證明，花時間尋找創造性想法會帶來長期的市場認可和收益。

最后，確保圍繞AI使用建立防護措施。CIO雜志資深撰稿人Grant Gross的文章《AI可能被證明是CIO迄今為止最糟糕的技術債務》強調了，如果不加控制，AI項目會迅速增加工作量。花時間看看AI在哪里可以使工作更高效，以及在哪里人類推理是必不可少的。為收入最高的團隊和成本最高的中心繪制流程圖，可以為你提供一個有針對性的AI試點項目的良好起點。最后，培訓員工在根據AI生成的見解采取行動之前進行驗證的必要性。如果AI是你的頭腦風暴伙伴，請讓它使用分層抽象來評估初始想法并尋找可行的替代方案。如果你是在一個既定想法的基礎上進行構建，請讓AI使用一階、二階和三階影響分析來將你的想法完善為一個更強大或更全面的解決方案。

我們不能止步于數據隱私

Donegan和Gross對影子AI提出了合理的擔憂。我們應該從治理、隱私和政策合規的角度出發，但止步于此的CIO可能會面臨公司文化和智力悄然但致命的扁平化風險。建立一個卓越中心(COE)或協調來自企業各地的主題專家(SME)小組，既有助于思維多樣性，也有助于發現AI合作的運營機會。

這并不全是壞消息。如果我們現在通過有意且明確的政策來解決這個問題，領導者就可以充分利用AI帶來的所有生產力提升，而不會犧牲使其業務具有競爭優勢的因素——人。

現代CIO的角色現在已不僅僅局限于簡單地監管AI;他們需要成為新技術合作時代的引領者。因為當AI為你思考時，創新就會慢慢消亡。當AI與你一起思考時，天才就會覺醒。