在人工智能的璀璨星河中，大型語言模型（LLMs）猶如引領方向的燈塔。但要讓這些燈塔照亮特定領域，微調技術成為了關鍵。今天，我們將深入探索Ludwig框架微調與預訓練技術，它們正以革新的方式，重塑AI模型微調的領域。

一、Ludwig 簡介

在AI的世界里，簡單性和靈活性是構建強大模型的關鍵。Ludwig 作為一個開源的低代碼框架，用于構建自定義AI 模型，如LLM和其他深度神經網絡。讓這一過程變得像搭積木一樣簡單。

倉庫地址：??https://github.com/ludwig-ai/ludwig??

官網地址：??https://ludwig.ai/latest/??

二、Ludwig 的核心優勢

• 極簡上手：用戶僅需使用一個聲明式的 YAML 配置文件，即可輕松訓練出最先進的 LLM 模型。Ludwig 支持多任務和多模態學習，并提供全面的配置驗證功能，能夠在運行前檢測無效參數組合，避免錯誤發生。
• 高效性和可擴展性：自動選擇最佳批量大小，支持 DDP、DeepSpeed 等分布式訓練策略，并提供參數高效微調（PEFT）、4 位量化（QLoRA）、分頁和 8 位優化器等多種優化特性，即使面對超大規模數據集也能輕松應對。
• 專家級控制:用戶可以完全掌控模型的各個方面，細致到激活函數的選擇。同時，Ludwig 還提供超參數優化、模型可解釋性分析以及豐富的指標可視化工具，滿足專業開發者的需求。
• 模塊化和可擴展設計:如同深度學習的“積木”，用戶可以通過簡單的參數調整嘗試不同的模型架構、任務、特征和模態，極大地提升了模型開發的靈活性。
• 面向生產環境:提供預構建的 Docker 容器，原生支持在 Kubernetes 上使用 Ray 進行模型部署，并支持將模型導出至 Torchscript 和 Triton 等平臺，以及一鍵上傳模型至 HuggingFace。

三、Ludwig 的主要功能

• 訓練和微調: 支持多種訓練模式，包括對預訓練模型進行完整的訓練和微調。
• 模型配置: 使用 YAML 文件進行配置，允許用戶對模型參數進行詳細定義，實現高度的可定制性和靈活性。
• 超參數調整: 集成自動超參數優化工具，以增強模型性能。
• 可解釋的人工智能: 提供工具幫助用戶深入了解模型決策，提高模型的可解釋性和透明度。
• 模型服務和基準測試: 簡化模型服務的過程，并支持在不同條件下對模型性能進行基準測試。

Ludwig 的整體設計理念是簡化 AI 模型的構建和部署流程，無論是 AI 領域的新手還是專家，都可以輕松上手，快速構建出適用于各種場景的定制化 AI 模型。

四、Ludwig 工作原理

配置

Ludwig 為用戶構建 ML 管道的方式提供了一個富有表現力的聲明性配置系統，例如數據預處理、模型架構、后端基礎設施、訓練循環、超參數優化等。

文檔參考：https://ludwig.ai/latest/configuration/

了解更多，請參閱 Ludwig 官網獲得深入參考。

數據類型抽象

Ludwig 中的每個功能都由特定的數據類型描述。每種數據類型都映射到一組特定的模塊，這些模塊負責處理該類型的預處理、編碼、解碼和后處理。反之亦然，每個模塊（預處理器、編碼器、解碼器）都注冊到該模塊支持的一組特定數據類型。

了解更多，請參閱 Ludwig 官網獲得深入參考。

ECD 技術架構

Ludwig 的核心建模架構稱為 ECD（編碼器-組合器-解碼器）。多個輸入特征被編碼并輸入到Combiner 模型，Combiner模型對編碼的輸入進行操作以將它們組合起來。在輸出端，組合器模型的輸出被輸入到每個輸出特征的解碼器進行預測和后處理。詳細了解 Ludwig 的組合器模型，如TabNet、Transformer 和 Concat（廣度和深度學習）。

ECD 架構的示意圖就像一只翩翩起舞的蝴蝶，因此也被稱為“蝴蝶架構”。

ECD 架構可以靈活處理各種不同類型的輸入和輸出數據，因此適用于許多不同的應用場景。

五、Ray 分布式訓練

Ludwig on Ray使用戶能夠擴展他們的訓練過程，從在本地筆記本電腦上運行，到在云端的 GPU 實例上運行，再到并行擴展到數百臺機器，所有這些都無需更改一行代碼。

通過與 Ray 集成，Ludwig 能夠提供一種統一的分布式訓練方法：

• Ray 使您能夠通過其集群啟動器用單個命令配置一組機器。
• Ray 上的 Horovod使您能夠進行分布式訓練，而無需在您的環境中配置 MPI。
• Dask on Ray使您能夠處理單臺機器內存無法容納的大型數據集。
• Ray Tune使您能夠輕松地在多臺機器上并行運行分布式超參數搜索。

Ludwig 中無需更改任何一行代碼。當 Ludwig 檢測到您在 Ray 集群中運行時，Ray 后端將自動啟用。

集群配置文檔：https://docs.ray.io/en/latest/cluster/cli.html#ray-start

集群參考文檔：https://docs.ray.io/en/latest/ray-core/configure.html#cluster-resources

命令行示例：

創建一個名為  config.yaml 的 Ludwig 配置

創建一個名為??cluster.yaml ??Ray Cluster 的配置文件

開始訓練示例：

六、Ludwig 微調與預訓練實戰

在開始微調你的 AI 模型之前，需要做一些準備工作，一般 Ludwig 微調 LLM 詳細步驟如下：

• 環境設置: 安裝必要的軟件和軟件包。
• 數據準備: 選擇和預處理合適的數據集。
• YAML 配置: 在 YAML 文件中定義模型參數和訓練選項。
• 模型訓練和評估: 執行微調過程并評估模型性能。

從技術角度來看，Ludwig 能夠訓練和微調任何神經網絡，并支持廣泛的機器學習和深度學習用例。

此外，Ludwig 還提供了可視化、超參數調整、可解釋的人工智能、模型基準測試以及模型服務等功能。

安裝必要的軟件包

如果遇到 Transformers 版本的運行時錯誤，請執行以下操作。

數據準備和預處理

先決條件:

• HuggingFace API 令牌獲取
• 獲得Llama2-7b-hf的訪問批準
• 具有至少 12 GiB VRAM 的 GPU（在我們的測試中，我們使用了 Nvidia T4）

我們將使用Stanford Alpaca數據集，該數據集將被格式化為如下所示的表格文件：

創建 YAML 配置文件

首先創建一個名為 model.yaml 的 YAML 配置文件，告訴 Ludwig 如何訓練我們的模型。

示例如下：

微調命令示例：

編碼方式示例：

預訓練監督機器學習示例：

Ludwig 模型導出

結語

Ludwig 不僅是一個框架，它是一位精通技藝的導師，輕輕推開了人工智能領域的神秘大門。它以平易近人的姿態，迎接每一位對AI充滿好奇的探索者，無論他們是初學者還是資深專家。

Ludwig 的低代碼框架，就像一把精準的瑞士軍刀，為大型語言模型（LLM）的微調提供了一種既高效又便捷的途徑。它巧妙地在用戶友好的界面與強大的自定義能力之間找到了完美的平衡點。

借助Ludwig，開發人員可以像編織定制西裝一樣，利用其全面的模型開發、訓練和評估工具，打造出為特定用例量身定做的AI模型。這些模型不僅強大，而且性能卓越，能夠滿足現實世界多樣化的應用場景。

本文轉載自公眾號頂層架構領域

原文鏈接：??https://mp.weixin.qq.com/s/FJP8JAt7D6770FVqDpoRyg??