根據(jù)Netskope的數(shù)據(jù)，企業(yè)與GenAI應(yīng)用共享的數(shù)據(jù)量激增，一年內(nèi)增長(zhǎng)了30倍。現(xiàn)在，平均每個(gè)企業(yè)每月與AI工具共享的數(shù)據(jù)超過(guò)7.7GB，而一年前僅為250MB，這一數(shù)字大幅增長(zhǎng)。

這包括源代碼、受監(jiān)管數(shù)據(jù)、密碼和密鑰以及知識(shí)產(chǎn)權(quán)等敏感數(shù)據(jù)，從而極大地增加了發(fā)生昂貴的數(shù)據(jù)泄露事件、合規(guī)性違規(guī)和知識(shí)產(chǎn)權(quán)被盜的風(fēng)險(xiǎn)。75%的企業(yè)用戶正在使用具有GenAI功能的應(yīng)用程序，這給安全團(tuán)隊(duì)帶來(lái)了一個(gè)必須解決的大問(wèn)題：即無(wú)意的內(nèi)部威脅。

GenAI應(yīng)用帶來(lái)了日益增長(zhǎng)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

90%的企業(yè)有用戶直接訪問(wèn)ChatGPT、Google Gemini和GitHub Copilot等GenAI應(yīng)用。98%的企業(yè)有用戶使用提供GenAI功能的應(yīng)用，如Gladly、Insider、Lattice、LinkedIn和Moveworks等。

根據(jù)許多不同的衡量指標(biāo)，GenAI在企業(yè)中的采用率正在上升。然而，從數(shù)據(jù)安全的角度來(lái)看，發(fā)送到GenAI應(yīng)用的數(shù)據(jù)量最為重要：每一次發(fā)布或上傳都是數(shù)據(jù)暴露的機(jī)會(huì)。

Netskope的CISO James Robinson表示：“盡管各企業(yè)都在努力實(shí)施公司管理的GenAI工具，但我們的研究表明，影子IT已經(jīng)演變成影子AI，近四分之三的用戶仍然通過(guò)個(gè)人賬戶訪問(wèn)GenAI應(yīng)用。這一持續(xù)趨勢(shì)，再加上所共享的數(shù)據(jù)，突顯了需要先進(jìn)的數(shù)據(jù)安全能力，以便安全和風(fēng)險(xiǎn)管理團(tuán)隊(duì)能夠重新獲得對(duì)企業(yè)內(nèi)GenAI使用的治理、可見(jiàn)性和可接受使用的控制。”

企業(yè)對(duì)GenAI數(shù)據(jù)缺乏控制

許多企業(yè)無(wú)法全面甚至部分地了解在間接使用GenAI時(shí)，數(shù)據(jù)是如何被處理、存儲(chǔ)和利用的。通常，它們會(huì)選擇采用“先阻止再詢問(wèn)”的策略，即明確允許某些應(yīng)用并阻止其他所有應(yīng)用。然而，隨著員工尋求這些工具帶來(lái)的效率和生產(chǎn)力效益，安全負(fù)責(zé)人必須尋求一種安全賦能策略。

以DeepSeek為例，Netskope發(fā)現(xiàn)，在2025年1月發(fā)布后的幾周內(nèi)，91%的企業(yè)有用戶試圖訪問(wèn)DeepSeek AI。當(dāng)時(shí)，大多數(shù)企業(yè)還沒(méi)有為DeepSeek制定安全策略，這使它們面臨未知的風(fēng)險(xiǎn)。此外，員工可能會(huì)在不知情的情況下向AI提供專有業(yè)務(wù)數(shù)據(jù)，將源代碼、知識(shí)產(chǎn)權(quán)、受監(jiān)管數(shù)據(jù)甚至密碼輸入到生成式AI應(yīng)用中。

Netskope威脅實(shí)驗(yàn)室總監(jiān)Ray Canzanese表示：“我們的最新數(shù)據(jù)顯示，GenAI不再是一種小眾技術(shù)，它無(wú)處不在。它正日益融入從專用應(yīng)用到后端集成的方方面面。這種無(wú)處不在的特性帶來(lái)了日益嚴(yán)峻的網(wǎng)絡(luò)安全挑戰(zhàn)，要求企業(yè)采取全面的風(fēng)險(xiǎn)管理方法，否則其敏感數(shù)據(jù)可能會(huì)被第三方獲取，用于訓(xùn)練新的AI模型，從而造成更大范圍的數(shù)據(jù)泄露。”

在過(guò)去的一年中，Netskope還觀察到，運(yùn)行本地GenAI基礎(chǔ)設(shè)施的企業(yè)數(shù)量大幅增加，從不到1%增加到54%，這一趨勢(shì)預(yù)計(jì)將持續(xù)下去。盡管這降低了云中的第三方應(yīng)用造成數(shù)據(jù)泄露的風(fēng)險(xiǎn)，但轉(zhuǎn)向本地基礎(chǔ)設(shè)施帶來(lái)了新的數(shù)據(jù)安全風(fēng)險(xiǎn)，包括供應(yīng)鏈風(fēng)險(xiǎn)、數(shù)據(jù)泄露、不當(dāng)?shù)臄?shù)據(jù)輸出處理、prompt注入、越獄和meta prompt提取。因此，許多企業(yè)在已經(jīng)使用的基于云的GenAI應(yīng)用之上，又增加了本地托管的GenAI基礎(chǔ)設(shè)施。

影子AI的興起

雖然大多數(shù)企業(yè)都在使用GenAI，但只有一小部分但持續(xù)增長(zhǎng)的用戶正在積極使用GenAI應(yīng)用。在過(guò)去的一年里，企業(yè)中使用GenAI應(yīng)用的人數(shù)幾乎翻了一番，每個(gè)企業(yè)中平均有4.9%的人在使用GenAI應(yīng)用。

GenAI應(yīng)用在企業(yè)中的采用遵循了新云服務(wù)的典型模式：?jiǎn)蝹€(gè)用戶使用個(gè)人賬戶訪問(wèn)應(yīng)用。結(jié)果是，企業(yè)中使用GenAI應(yīng)用的大多數(shù)都可以歸類為影子IT，這是一個(gè)用于描述未經(jīng)IT部門了解或批準(zhǔn)即被使用的解決方案的術(shù)語(yǔ)。

“AI不僅正在重塑邊界和平臺(tái)安全，它還在改寫規(guī)則，”Netskope的安全與情報(bào)運(yùn)營(yíng)副總裁Ari Giguere表示。

99%的企業(yè)都在執(zhí)行政策以降低與GenAI應(yīng)用相關(guān)的風(fēng)險(xiǎn)。這些政策包括阻止所有或大多數(shù)用戶訪問(wèn)所有GenAI應(yīng)用、控制哪些特定用戶群體可以使用GenAI應(yīng)用以及控制允許哪些數(shù)據(jù)進(jìn)入GenAI應(yīng)用。以下部分將詳細(xì)闡述最受歡迎的政策。