譯者 | 晶顏

審校 | 重樓

在我們的行業中，很少有組合能像人工智能（AI）和機器學習（ML）與云原生環境的結合那樣令人興奮并改變游戲規則。這是一個為創新、可擴展性、甚至成本效率而生的“聯盟”。接下來，就讓我們走進這個數據科學與云相遇的動態世界吧！

在我們探索AI/ML和云原生技術之間的協同作用之前，先來了解一些基礎概念。

• 人工智能（AI）：一個寬泛的概念，指的是模仿人類智能的機器。
• 機器學習（ML）：“教”機器執行特定任務并通過模式識別產生準確輸出的過程。
• 云原生：一種利用現代云基礎設施來構建可擴展、有彈性和靈活的應用程序的設計范式——在Kubernetes編排的Docker容器中構建微服務，并通過CI/CD管道持續部署。

AI/ML和云原生的融合

在云原生環境中實現AI和ML有哪些好處呢？

可擴展性

你是否曾經嘗試過手動擴展ML模型，因為它受到無數請求的轟炸？這個過程顯然并不輕松。但有了云原生平臺，擴展就像周日下午在公園散步一樣容易。例如，Kubernetes可以根據實時指標自動擴展運行AI模型的pod，這意味著你的AI模型即使在受到脅迫的情況下也能表現良好。

敏捷性

在云原生世界中，微服務架構意味著你的AI/ML組件可以獨立開發、更新和部署。這種模塊化促進了敏捷性，使你能夠快速地進行創新和迭代，而不必擔心破壞整個系統。這就像你可以在開車的時候換掉汽車引擎的部件來實現安全更新一樣。

成本效率

無服務器計算平臺（如AWS Lambda、Google Cloud Functions和Azure Functions）允許你僅在需要時運行AI/ML工作負載，無需再為閑置的計算資源付費。這相當于在你離開房間時關掉燈，簡單、智能又經濟。它對于間歇性或不可預測的工作負載也特別有利。

協作

云原生環境使數據科學家、開發人員和運營團隊之間的協作變得輕而易舉。有了集中的存儲庫、版本控制和CI/CD管道，每個人都可以在相同的ML生命周期中和諧地工作。

云原生環境中AI/ML的熱門應用

雖然大多數公眾是通過與生成式AI聊天機器人的互動認識了AI/ML技術，但很少有人意識到AI/ML已經在多大程度上增強了他們的在線體驗。以下是云原生環境中AI/ML的一些熱門用例：

AI驅動的DevOps（AIOps）

通過使用AI/ML強化DevOps流程，你可以自動進行事件檢測、根本原因分析和預測性維護。此外，將AI/ML與可觀察性工具和CI/CD管道集成可以提高運營效率并減少服務停機時間。

Kubernetes + AI/ML

Kubernetes是長期以來容器編排的實際平臺，現在也是編排AI/ML工作負載的首選。Kubeflow等項目簡化了Kubernetes上機器學習管道的部署和管理，這意味著你可以獲得對模型訓練、調優和服務的端到端支持。

邊緣計算

邊緣計算處理AI/ML工作負載更接近數據生成的位置，這大大減少了延遲。通過在邊緣位置部署輕量級人工智能模型，企業可以對物聯網傳感器、攝像頭和移動設備（甚至是智能冰箱）等設備進行實時推斷。

聯邦學習

聯邦學習不需要組織為了協作訓練人工智能模型而共享原始數據。對于醫療保健和金融等具有嚴格隱私和合規法規的行業來說，這是一個很好的解決方案。

MLOps

MLOps將DevOps實踐集成到機器學習生命周期中。MLflow、TFX （TensorFlow Extended）和Seldon Core等工具使人工智能模型的持續集成和部署成為現實。MLOps是比DevOps更智能的存在。

AI/ML集成帶來的挑戰

集成讓事情變得有趣，但這一切也伴隨著挑戰。

復雜性

將AI/ML工作流程與云原生基礎設施集成并不適合謹小慎微的人。管理依賴關系、確保數據一致性和編排分布式訓練過程都充滿復雜性，需要強大的技能支持和知識儲備。

延遲和數據傳輸

對于實時AI/ML應用程序，延遲可能是一個關鍵問題。在存儲節點和計算節點之間移動大量數據會帶來延遲。邊緣計算解決方案可以通過更靠近數據源處理數據來緩解這一問題。

成本管理

云的現收現付模式很棒，直到不受控制的資源分配開始蠶食你的預算。實施資源配額、自動擴展策略和成本監控工具是你的財務安全網。

AI/ML實踐指南

1. 模塊化！使用微服務的原則來設計你的AI/ML應用。解耦數據預處理、模型訓練和推理組件，以實現獨立擴展和更新。

2. 利用托管服務：云提供商提供AI/ML服務，以簡化基礎設施管理并加速開發。

3. 觀察模型：將AI/ML工作負載與可觀察性工具集成—訪問有關資源使用、模型性能和系統健康狀況的指標可以幫助你主動檢測和解決問題。

4. 保護數據和模型：使用加密、訪問控制和安全存儲解決方案來保護敏感數據和人工智能模型。

結語

AI/ML技術與云原生環境中的集成提供了可擴展性、敏捷性和成本效率，同時增強了團隊之間的協作。然而，駕馭這一格局也面臨著一系列挑戰，涉及管理復雜性、確保數據隱私以及成本控制等問題。

此外，一些熱門趨勢同樣值得關注，比如AIOps為DevOps帶來智慧；聯合學習讓組織在不共享數據的情況下共享智能。利用這些技術的關鍵在于最佳實踐：考慮模塊化設計、強大的監控以及通過可觀察性工具獲得洞察力。

AI/ML在云原生環境中的未來并不僅僅是緊跟最新的技術潮流。它是關于構建更加智能、有彈性和適應性的系統，讓科幻電影中的設想成為現實?，F在，請保持你的算法敏銳，你的云同步，一起見證接下來會發生什么吧！

原文標題：Artificial Intelligence and Machine Learning in Cloud-Native Environments，作者：Reese Lee