AI已經(jīng)成為我們?nèi)粘Ｉ畹囊徊糠郑@一點你無法否認。幾乎來自所有不同行業(yè)的財富1000強企業(yè)領導者，都在積極開展AI計劃。大中型全球企業(yè)都在加速創(chuàng)新，利用AI的誘人前景提高收入、增加利潤、并在產(chǎn)品和服務產(chǎn)品中發(fā)現(xiàn)新的價值。

[[335153]]

盡管AI的發(fā)展迅速，但董事會和CEO們在AI語言素養(yǎng)和風險管理實踐方面仍然遠遠落后。AI的崛起就像是一場暴風雨，一場完美的風暴可能正在醞釀之中，但很少有董事會和CEO能回答這個問題：你的AI算法和AI模型位于何處，AI算法或者模型是否存在風險?

AI的發(fā)展是迅猛的：2020年7月初發(fā)布的最新全球研究報告指出，AI市場的復合年增長率超過42%，在美國AI市場規(guī)模超過7337億美元。根據(jù)麻省理工學院斯隆研究中心(MIT Sloan Research)的說法，超過90%的大型企業(yè)正在利用AI改善他們的客戶交互旅程。AI創(chuàng)業(yè)投資的增長讓人想起了互聯(lián)網(wǎng)時代的牛市，但你可能還記得，2002年3月牛市下跌了76%，這喚醒了人們對價值實現(xiàn)和盈利能力重要性的覺醒。

根據(jù)CBI Insights的數(shù)據(jù)，2019年AI初創(chuàng)公司總共募集了266億美金，涉及全球2200多筆交易，盡管遭遇了疫情，但醫(yī)療應急和智能機器、醫(yī)療機器人等變革性技術(shù)，正在迅速興起成為幫助應對疫情的AI解決方案。

平均而言，到2022年，高級分析方面的投資將超過整體市場預算的11%。隨著企業(yè)組織將AI和機器學習工具納入他們的業(yè)務流程，到2025年，AI軟件相關支出將達到1250億美元。

你可能會認為，董事會和CEO們可以輕松地了解他們所有的AI算法和AI模型位于何處，非常清楚各種風險狀況，并且能夠通過清晰的KPI和ROI來證明價值的實現(xiàn)。

遺憾的是，很多企業(yè)被采用黑盒AI實踐的AI計劃吸引，這就意味著沒有清晰的問責制，是不透明的，更不用說審計風險了。董事會董事和CEO們知道他們的員工身處何方(無論是遠程辦公還是在辦公室)，知道應該聯(lián)系誰來解決客戶服務或個人問題。

但是，恐怕沒有一家跨國企業(yè)的董事會或者CEO可以在不到五分鐘的時間內(nèi)，拿出一份該企業(yè)所有AI算法或者AI模型資產(chǎn)的完整列表，也不知道上一次修訂模型是在什么時候，給不出可靠的、經(jīng)過第三方驗證的風險分類證據(jù)。

隨著數(shù)據(jù)的民主化逐漸成為實現(xiàn)AI的基礎，我們必須提高AI和機器學習的相關KPI，讓AI KPI比財務KPI更加重要，從而提高透明度，就像審計師受到損益表信托責任制的約束一樣。世界正在發(fā)生巨變，數(shù)據(jù)已經(jīng)成為我們最具戰(zhàn)略意義的資產(chǎn)，但是鮮有企業(yè)成為數(shù)據(jù)管理實踐的標桿，他們不知道數(shù)據(jù)是在哪里設計、收集和存儲的以實現(xiàn)和跟蹤AI轉(zhuǎn)型所能帶來的價值。

盡管有不少企業(yè)已經(jīng)投資了機器學習運營(MLOps)，但很少有企業(yè)擁有成熟的AI卓越中心，其中，MLOps是一項核心能力。New Relic最近一項研究發(fā)現(xiàn)，受訪的750位全球高級IT決策者中，有89%的人認為，AI和機器學習對于企業(yè)組織的IT運營至關重要。有近84%的受訪者認為，AI和機器學習將讓他們的職責變得更易于管理。這一樂觀的預測，將加速數(shù)據(jù)管理實踐的不斷完善，而這正是AI建模和風險管理實踐的關鍵。

筆者在過去18個月中對超過500位全球大型B2B企業(yè)C級高管的交流中發(fā)現(xiàn)，沒有一家企業(yè)可以在5分鐘時間內(nèi)回答大多數(shù)以下問題。

要保持領先地位，就要恰當?shù)靥岢龈鞣NAI相關的問題，每一個使用AI算法構(gòu)建定制化AI模型以解決特定問題或業(yè)務挑戰(zhàn)的項目，都應能夠回答以下這些問題：

使用場景歷史

• AI模型/算法用于什么用途?
• AI模型/算法解決了哪些業(yè)務問題或者挑戰(zhàn)?
• 在設計、構(gòu)建和實施各種用例之前，企業(yè)最初估算的AI模型和AI方法ROI是多少?

AI模型所有權(quán)歷史

• 誰編寫了算法或者開發(fā)了AI模型?
• 流程負責人目前還在該企業(yè)嗎?
• 考慮到AI模型和算法方法的風險，AI模型是否有二級流程負責人?
• 算法和模型結(jié)構(gòu)是否經(jīng)過了創(chuàng)建者之外其他人的審核?審核者是誰?

創(chuàng)建和修訂歷史

• AI模型或者AI算法是何時構(gòu)建的?
• 自第一次用于生產(chǎn)環(huán)境中以來，對AI模型或AI算法進行了多少次修訂?
• 正在使用哪種類型的AI算法?
• 該算法是開源的嗎?還是有人編寫了獨特的AI算法來解決獨有的業(yè)務挑戰(zhàn)?

AI算法或模型方法歷史

• AI算法的數(shù)學結(jié)構(gòu)或數(shù)學公式是什么?
• 這些是否經(jīng)過了第三方專家對準確性的驗證?
• 負責監(jiān)督正在使用中的AI算法模型的負責人?
• AI模型開發(fā)的數(shù)據(jù)類型(結(jié)構(gòu)化/非結(jié)構(gòu)化數(shù)據(jù))和數(shù)據(jù)源(內(nèi)部、外部、兩者兼有)是什么?
• 數(shù)據(jù)集有多大?
• 在被分析之前，數(shù)據(jù)集是否經(jīng)過了清洗?如果是的話，是誰清洗的，使用了什么方法?
• AI模型中使用的數(shù)據(jù)源，質(zhì)量和準確性怎么樣?
• 與所有版本的歷史記錄相比，預測準確性的基準得分是多少?
• AI模型和AI算法是否有風險分類，是否制定了風險緩解計劃?
• 開發(fā)的AI模型是否經(jīng)過了數(shù)據(jù)偏差測試?
• 使用了哪些數(shù)據(jù)偏差方法?
• 進行了幾種數(shù)據(jù)偏差風險評估?
• 上一次審查和優(yōu)化/重新訓練AI模型是在什么時候?

AI算法或模型的價值實現(xiàn)

• 就投資回報率而言，AI模型能給企業(yè)組織帶來什么價值?
• 是否有效率或者效果值能夠清晰定義ROI?
• 第一個用例的ROI/價值結(jié)果預測，與實際AI產(chǎn)生的ROI結(jié)果相差多少?
• AI價值結(jié)果是否已經(jīng)經(jīng)過了財務或者第三方專家的驗證、審核或簽署?如果是的話，是否已經(jīng)提交了報告?
• 這種AI模型方法與其他行業(yè)最佳實踐相比如何?
• 是否有針對AI模型或文件的有效流程改進計劃?

盡管還有很多其他問題，但要監(jiān)督AI卓越中心來跟蹤AI模型的演進發(fā)展，董事會和CEO們可以從年度審計風險評估和治理運營流程開始著手。

遺憾的是，多數(shù)情況下AI模型都是由數(shù)據(jù)科學家、計算機程序員或者專業(yè)服務公司(第三方供廠商)開發(fā)的，他們都致力于構(gòu)建一個特定的AI模型，不管是預測美國熱點區(qū)域第二波疫情情況，還是使用AI無人機預測害蟲給收獲季帶來的影響，還是預測收入，以及確保AI方法的潛在風險管理實踐，在大多數(shù)情況下，設計和構(gòu)建AI模型的參與者都是用心良苦的。

董事會和CEO們必須意識到，AI素養(yǎng)是他們發(fā)展和培養(yǎng)人才所需的一種新能力。AI模型需要不斷優(yōu)化才能成功用于生產(chǎn)環(huán)境，而對數(shù)據(jù)管理基礎設施進行現(xiàn)代化投資，是確保數(shù)據(jù)和機器學習與時俱進的關鍵。如果管理層不監(jiān)控AI模型的生產(chǎn)環(huán)境，對模型進行再訓練，并且隨著時間的推移增加其他數(shù)據(jù)源以加強模型洞察的話，他們就會犯錯。

AI就像是建造一座花園，施肥和除草是收獲美麗的一項長期投資。AI不是雕塑，你不能構(gòu)建一個模型然后未來幾年一直保持它的原始狀態(tài)不變。有人說AI是一種新型石油，而我更愿意說AI是一種新型氧氣，因為AI越來越普及，像氣候變化一樣，潮起潮落無處不在。你想要能夠洞悉花園中的一切生長狀態(tài)，就需要卓越的遠見才能做出明智的規(guī)劃。

對于董事會和CEO們來說，遺憾的是很多技術(shù)負責人或者CIO并不擅長AI和數(shù)據(jù)科學實踐，這進一步提高了實施AI的企業(yè)所面臨的風險。首席數(shù)據(jù)官(CDO)和首席數(shù)據(jù)科學家官(CDSO)的興起，推動了AI進化、模型構(gòu)建、風險管理實踐的發(fā)展，盡管大多數(shù)公司在數(shù)據(jù)支持系統(tǒng)方面的投資，不得不和保護算法和AI模型安全性方面的投資節(jié)奏保持一致。

董事會和CEO們有責任確保AI審核和風險管理框架得到合理實施，推進AI治理的向前邁進。