ML模型治理是組織如何控制訪問、實(shí)現(xiàn)策略和跟蹤模型活動(dòng)的總體過程。它是降低模型故障、法規(guī)遵從性和攻擊風(fēng)險(xiǎn)的必備工具。治理是使組織的底線和品牌風(fēng)險(xiǎn)最小化的基礎(chǔ)。具有有效的機(jī)器學(xué)習(xí)治理的組織不僅對(duì)模型在生產(chǎn)中的運(yùn)行方式具有細(xì)粒度的控制和可見性，而且通過將AI/ML治理策略與其他IT策略集成，可以釋放操作效率。

[[418683]]

通過治理，組織可以了解可能影響模型結(jié)果的所有變量，這有助于他們快速識(shí)別和緩解可能降低結(jié)果準(zhǔn)確性和應(yīng)用程序性能的問題(如模型漂移)。隨著時(shí)間的推移，這些問題會(huì)直接影響企業(yè)的底線，侵蝕客戶對(duì)品牌的信任。

為什么組織要與機(jī)器學(xué)習(xí)治理斗爭(zhēng)?

治理是2021年各組織面臨的首要挑戰(zhàn)，因?yàn)樗鼈兏?jìng)相擴(kuò)大其ML能力，以在快速數(shù)字化的市場(chǎng)中保持競(jìng)爭(zhēng)力(資料來源：2021年企業(yè)發(fā)展趨勢(shì)(ML報(bào)告)

當(dāng)我們的客戶需要為他們的組織處理機(jī)器學(xué)習(xí)治理時(shí)，我們看到他們面臨五個(gè)主要的挑戰(zhàn)。

1.最佳做法不明確。我們?nèi)蕴幱贛L治理的早期階段，組織缺乏一個(gè)清晰的路線圖或規(guī)范性的建議來在他們自己獨(dú)特的環(huán)境中有效地實(shí)現(xiàn)它。

2.法規(guī)不明確。不斷變化和模棱兩可的監(jiān)管環(huán)境導(dǎo)致了不確定性，公司需要投入大量資源來維持合規(guī)性。那些跟不上的公司有失去競(jìng)爭(zhēng)優(yōu)勢(shì)的風(fēng)險(xiǎn)。

3.現(xiàn)有的解決方案是手工的，不完整。即使是現(xiàn)在正在實(shí)施治理的組織，也在使用各種不同的工具和手工流程來實(shí)現(xiàn)治理。這樣的解決方案不僅需要不斷的維護(hù)，而且還可能造成覆蓋范圍上的嚴(yán)重差距。

4.ML不容易集成到現(xiàn)有的IT策略中。有效的機(jī)器學(xué)習(xí)治理需要與IT協(xié)作，但是大多數(shù)組織仍然將ML視為一個(gè)精品計(jì)劃，這使得它很難集成到更標(biāo)準(zhǔn)化的企業(yè)IT流程和技術(shù)棧中。

5.管理不善會(huì)給公司資產(chǎn)帶來風(fēng)險(xiǎn)。實(shí)施ML的公司面臨著品牌和底線的風(fēng)險(xiǎn)。漂移或理解不足的模型可能會(huì)削弱客戶對(duì)品牌的信任，而不受監(jiān)控的模型則可能導(dǎo)致生產(chǎn)失敗。

組織應(yīng)該如何改進(jìn)機(jī)器學(xué)習(xí)治理?

組織應(yīng)該實(shí)現(xiàn)一個(gè)MLOps平臺(tái)來解決上述機(jī)器學(xué)習(xí)治理挑戰(zhàn)。Algorithmia是唯一一家提供具有所需功能的現(xiàn)成MLOps解決方案的供應(yīng)商，否則組織將被迫拼湊起來并維護(hù)自己的解決方案。無論哪種方式，都有七個(gè)關(guān)鍵領(lǐng)域可以確保您能夠支持：

1.完整的模型目錄，包括模型風(fēng)險(xiǎn)文檔、用于培訓(xùn)和預(yù)測(cè)的模型數(shù)據(jù)源描述、模型輸出的目的地和用途

2.基于風(fēng)險(xiǎn)梯度的靈活模型風(fēng)險(xiǎn)管理框架：高風(fēng)險(xiǎn)模型得到更多的驗(yàn)證、測(cè)試和監(jiān)控，而低風(fēng)險(xiǎn)模型得到更輕松的處理，更多的責(zé)任委托給業(yè)務(wù)部門或模型開發(fā)人員

3.部署模型并將其集成到遺留系統(tǒng)和數(shù)據(jù)體系結(jié)構(gòu)的有效過程

4.用于操作、管理和監(jiān)視生產(chǎn)中模型運(yùn)行狀況的工具，使模型開發(fā)人員脫離模型操作

5.監(jiān)控模型準(zhǔn)確性和數(shù)據(jù)一致性的工具，如果模型結(jié)果或輸入數(shù)據(jù)開始漂移或輸入數(shù)據(jù)質(zhì)量下降，這些工具將生成警報(bào)

6.一個(gè)集成的模型和數(shù)據(jù)變更管理過程，以便對(duì)數(shù)據(jù)或模型的變更進(jìn)行適當(dāng)?shù)臏y(cè)試和溝通，以防止令人不快的意外

7.標(biāo)準(zhǔn)審計(jì)報(bào)告和日志，以便審查員和審計(jì)員能夠?qū)彶槟Ｐ徒Y(jié)果、變更歷史記錄、數(shù)據(jù)錯(cuò)誤或過去模型故障的記錄以及采取的措施。