德勤發(fā)布的一份新報(bào)告揭示了企業(yè)在采用GenAI過程中的復(fù)雜現(xiàn)狀，展現(xiàn)了顯著進(jìn)展與持續(xù)挑戰(zhàn)并存的局面，這份題為《企業(yè)中的GenAI現(xiàn)狀：現(xiàn)在決定未來》的調(diào)查收集了來自14個(gè)國家和六個(gè)行業(yè)的2770名業(yè)務(wù)和技術(shù)領(lǐng)導(dǎo)者的見解。

這項(xiàng)調(diào)查是公司季度系列關(guān)于企業(yè)GenAI現(xiàn)狀的最新一期，該系列的第一份報(bào)告于1月發(fā)布，發(fā)現(xiàn)業(yè)務(wù)領(lǐng)導(dǎo)者對社會(huì)影響和技術(shù)人才表示擔(dān)憂。

新報(bào)告描繪了一幅企業(yè)努力利用GenAI潛力的圖景，同時(shí)面臨著可擴(kuò)展性、數(shù)據(jù)管理、風(fēng)險(xiǎn)緩解和價(jià)值衡量等方面的挑戰(zhàn)。報(bào)告強(qiáng)調(diào)了一個(gè)關(guān)鍵節(jié)點(diǎn)，即早期成功推動(dòng)了更多投資，但廣泛實(shí)施的道路仍然充滿障礙。

報(bào)告的主要發(fā)現(xiàn)包括：

? 67%的企業(yè)由于早期取得的強(qiáng)勁價(jià)值而增加了對GenAI的投資

? 68%的企業(yè)僅將30%或更少的GenAI實(shí)驗(yàn)投入生產(chǎn)

? 75%的企業(yè)增加了對GenAI數(shù)據(jù)生命周期管理的投資

? 僅有23%的企業(yè)認(rèn)為他們對GenAI相關(guān)的風(fēng)險(xiǎn)管理和治理挑戰(zhàn)高度準(zhǔn)備

? 41%的企業(yè)在定義和衡量GenAI工作的確切影響方面存在困難

? 55%的企業(yè)因數(shù)據(jù)相關(guān)問題而避免了某些GenAI的用例

德勤的合伙人Kieran Norton在接受VentureBeat采訪時(shí)表示：“我看到很多客戶正在進(jìn)行原型開發(fā)和試點(diǎn)項(xiàng)目，但尚未進(jìn)入生產(chǎn)階段。很大一部分原因與數(shù)據(jù)質(zhì)量及其影響有關(guān)，包括模型中引入偏差的風(fēng)險(xiǎn)。”

風(fēng)險(xiǎn)擔(dān)憂如何影響企業(yè)AI部署

德勤的這項(xiàng)調(diào)查是最近幾周內(nèi)多項(xiàng)旨在詳細(xì)說明企業(yè)AI當(dāng)前使用情況的報(bào)告之一。普華永道上周發(fā)布的一份報(bào)告顯示，盡管企業(yè)對GenAI的興趣很高，但在評(píng)估AI風(fēng)險(xiǎn)方面仍存在一定差距。

德勤的報(bào)告進(jìn)一步指出，AI風(fēng)險(xiǎn)可能正在影響企業(yè)的部署。Norton表示，企業(yè)高管們對這些風(fēng)險(xiǎn)非常關(guān)注，在他們認(rèn)為這些問題可以得到解決之前，不愿意推進(jìn)相關(guān)項(xiàng)目。

德勤報(bào)告強(qiáng)調(diào)了一些關(guān)鍵風(fēng)險(xiǎn)，包括數(shù)據(jù)質(zhì)量、偏見、安全性、信任、隱私和合規(guī)性。這些雖然不是全新的領(lǐng)域，但Norton強(qiáng)調(diào)，GenAI存在一些特有的細(xì)微差別。Kieran認(rèn)為，企業(yè)可以利用現(xiàn)有的風(fēng)險(xiǎn)管理計(jì)劃來應(yīng)對這些挑戰(zhàn)，然而，他也承認(rèn)需要加強(qiáng)某些實(shí)踐，例如數(shù)據(jù)質(zhì)量管理，以減輕GenAI帶來的特定風(fēng)險(xiǎn)。

Norton表示：“有些細(xì)微差別需要解決，但歸根結(jié)底，這仍然是核心治理問題。數(shù)據(jù)質(zhì)量一直是一個(gè)關(guān)注點(diǎn)，因此你可能需要加強(qiáng)數(shù)據(jù)質(zhì)量管理，以減輕風(fēng)險(xiǎn)。”

其中一個(gè)特別的擔(dān)憂是GenAI模型可能會(huì)出現(xiàn)“幻覺”風(fēng)險(xiǎn)，即生成錯(cuò)誤或無意義的輸出。Norton解釋說，這一風(fēng)險(xiǎn)確實(shí)令人擔(dān)憂，并指出這通常與對輸入模型的數(shù)據(jù)缺乏理解有關(guān)。他建議，對于某些用例，企業(yè)可以選擇使用更小、更有針對性的語言模型和特定培訓(xùn)，以減少幻覺風(fēng)險(xiǎn)。

企業(yè)如何展示GenAI項(xiàng)目的價(jià)值

報(bào)告中的一個(gè)重要發(fā)現(xiàn)是，41%的組織難以有效衡量其GenAI的工作。更糟糕的是，只有16%的企業(yè)為其CFO定期提供報(bào)告，詳細(xì)說明GenAI創(chuàng)造的價(jià)值。

Norton解釋說，這種困難源于用例的多樣性，需要一種更細(xì)致、針對具體用例的方法。

他說：“如果你在企業(yè)的不同部分探索20種不同的用例，你可能會(huì)遇到蘋果、橙子、香蕉和菠蘿，所以你無法以相同的方式衡量所有這些。”

Norton建議，企業(yè)應(yīng)為每個(gè)具體用例定義KPI，針對他們試圖解決的業(yè)務(wù)問題，這可能包括生產(chǎn)力、效率或用戶體驗(yàn)的改進(jìn)，具體取決于特定用例。他建議企業(yè)識(shí)別業(yè)務(wù)中存在問題的領(lǐng)域，然后嘗試解決這些問題。

他說：“我認(rèn)為，更重要的是將其分解到用例層面，而不是將其作為一個(gè)整體組合來處理。”