如何使機器學習訓練更便宜，更有效
隨著越來越多的企業將大量任務轉向人工智能，企業很快發現，培訓人工智能模型是昂貴、困難和耗時的一項工作。
新公司MosaicML的目標是找到一種新的方法來應對這些挑戰，現在正準備推出一種基于云的神經網絡訓練系統，旨在從算法和系統層面解決問題。
1該公司創始人宣稱該想法是通過一種組合——“馬賽克(Mosaic)“方法來提高機器學習的效率，這些方法可以一起加速和改善培訓。核心思路是，由于機器學習模型在云上、數據中心或本地是昂貴的，關鍵問題在于消除學習過程中的低效。
目前公司已經構建了兩個組件，將成為其未來產品的一部分。Composer是一個用于高效機器學習(ML)訓練的開源方法庫，可以將這些方法組合成“食譜”，從大約20種不同的方法開始，并對它們的性能好處進行嚴格的基準測試。隨著產品的成熟，還會添加其他方法。
另一個MosaicML組件是Explorer，這是一個可視化工具和界面，企業開發人員可以通過比較成本、質量和運行實驗所需的時間來模擬、繪制和選擇運行模型的最佳路徑。Explorer旨在為用戶提供在標準基準上進行的數千次訓練運行中所衡量的成本、時間和質量權衡的可視化結果。用戶可以通過方法、云和硬件類型進行篩選，以達到最佳的運行測試協議。
關鍵是這些技術要讓傳統訓練過程更高效。
這種想法和需求來自人工智能、機器學習和最初創建及測試模型的步驟。傳統方法中，人工智能開發人員想出了一些基本可行但效率相當低的方法。深度學習的世界一直在證明，東西可以工作，但不是高效的，但這無關緊要，因為計算(算力)相對便宜。問題是，這只在模型很小的時候是正確的。
一旦模型變得非常大，它的計算方面實際上變得非常昂貴，如今正處于人工智能行業的一個拐點，模型變得非常大，數據集也非常大，所以現在的費用非常大。在GPT-3(延展閱讀：DaaS企業級GPT語言建模問世)的訓練花費500萬美元——這可能只是一個花費500萬美元的實驗。
這就是MosaicML開始在人工智能和機器學習領域看到機遇的地方。
MosaicML首席執行官表示：“我們關注的是那些核心競爭力不是人工智能的企業，但它們需要能夠以成本效益高的方式使用這些技術，從數據中提取價值。如果你是Meta(原Facebook)或谷歌，你有一個龐大的團隊可以做到這一點，他們可以節省昂貴的計算，自己管理。他們最終可能也會使用這些工具，但他們并不真的需要我們。商用企業是我們的首要目標。”
MosaicML發布了它的開源庫，以便潛在的客戶和開發人員可以使用它，并了解它的功能和特性。但目前產品尚未正式命名，預計將于2022年初推出免費版本和付費支持版本。
“當你訓練一個模型時，你真正關心的是成本。”他說。但之后你會開始考慮其他因素，包括事情需要多長時間以及它的效果表現如何。
這個Explorer可視化工具可以讓你看到不同。如果不想花那么多錢，只是做一些廉價的實驗，就可以試試它。這個想法是給用戶提供工具，讓他們了解東西的成本。但如果他們沒有任何想法，就真的無法計劃，進行這些實驗就會變得非常困難。最初，MosaicML將在云計算中的模型上工作，因為這些變量更容易根據每個供應商的費率成本來衡量。
人工智能的流行將更多的組織帶到了高性能計算(HPC)領域，不管他們是否愿意。對于任何進軍高性能計算領域的組織來說，模型創建和優化都是最大的挑戰之一，這當然比簡單地獲取硬件還要困難。
行業分析專家稱，這是一種可行的方法來幫助更多的人工智能用戶。MosaicML正在解決模型優化問題，有一些優化，如Nvidia TensorRT，針對特定硬件進行優化，但MosaicML則追求算法優化。用于訓練的人工智能硬件非常昂貴，而且是非常高端前沿的技術。如果你能將培訓時間減少50%，就能相應地降低成本。而且客戶也不需要以超高的價格聘請高端人才。
