越來(lái)越多的瀏覽器正在嘗試推出代理功能，這些AI助手可以幫你預(yù)訂機(jī)票、購(gòu)物比價(jià)，甚至完成各種在線操作。但便利的背后，也隱藏著安全風(fēng)險(xiǎn)——數(shù)據(jù)泄露、資金損失，都可能成為現(xiàn)實(shí)威脅。

12月8日，谷歌詳細(xì)公布了Chrome瀏覽器代理功能的安全防護(hù)措施。這家搜索巨頭采用了觀察模型和用戶(hù)授權(quán)雙重機(jī)制，來(lái)確保AI代理在幫你做事的同時(shí)，不會(huì)越界或造成損失。谷歌在今年9月就預(yù)告了Chrome的代理能力，并表示這些功能將在未來(lái)幾個(gè)月內(nèi)正式推出。

AI審查員：讓代理行為更安全

谷歌構(gòu)建了一個(gè)名為"用戶(hù)對(duì)齊評(píng)論模型"（User Alignment Critic）的安全機(jī)制，基于Gemini大模型來(lái)審查代理的行為計(jì)劃。

當(dāng)規(guī)劃模型為某個(gè)任務(wù)制定行動(dòng)計(jì)劃時(shí)，這個(gè)評(píng)論模型會(huì)仔細(xì)檢查這些計(jì)劃是否真的符合用戶(hù)的目標(biāo)。

如果評(píng)論模型認(rèn)為計(jì)劃的任務(wù)偏離了用戶(hù)意圖，它會(huì)要求規(guī)劃模型重新思考策略。更重要的是，這個(gè)評(píng)論模型只能看到計(jì)劃操作的元數(shù)據(jù)，而無(wú)法訪問(wèn)實(shí)際的網(wǎng)頁(yè)內(nèi)容，這進(jìn)一步降低了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

源站限制：劃定代理的活動(dòng)范圍

為了防止代理訪問(wèn)不被允許或不可信的網(wǎng)站，谷歌引入了"代理源站集合"（Agent Origin Sets）機(jī)制。這個(gè)機(jī)制將網(wǎng)站分為兩類(lèi)：只讀源站和可讀寫(xiě)源站。

圖片

只讀源站是Gemini被允許讀取內(nèi)容的網(wǎng)站。比如在購(gòu)物網(wǎng)站上，商品列表與任務(wù)相關(guān)，但橫幅廣告就不在允許范圍內(nèi)。同樣，代理只能在頁(yè)面的特定iframe框架內(nèi)進(jìn)行點(diǎn)擊或輸入操作。

"這種劃分確保了代理只能訪問(wèn)有限源站的數(shù)據(jù)，而且這些數(shù)據(jù)只能傳遞給可寫(xiě)源站。這限制了跨源數(shù)據(jù)泄露的威脅向量，同時(shí)也讓瀏覽器能夠強(qiáng)制執(zhí)行這種分離，比如甚至不會(huì)將可讀集合之外的數(shù)據(jù)發(fā)送給模型。"谷歌在博客文章中這樣解釋。

此外，谷歌還通過(guò)另一個(gè)觀察模型來(lái)檢查頁(yè)面導(dǎo)航的URL，防止代理導(dǎo)航到有害的模型生成URL。

敏感操作：用戶(hù)說(shuō)了算

對(duì)于敏感任務(wù)，谷歌將控制權(quán)完全交給了用戶(hù)。

當(dāng)代理試圖導(dǎo)航到包含銀行信息或醫(yī)療數(shù)據(jù)等敏感信息的網(wǎng)站時(shí)，系統(tǒng)會(huì)首先詢(xún)問(wèn)用戶(hù)。對(duì)于需要登錄的網(wǎng)站，Chrome會(huì)請(qǐng)求用戶(hù)授權(quán)使用密碼管理器，但代理模型本身無(wú)法接觸到密碼數(shù)據(jù)。

更重要的是，在進(jìn)行購(gòu)買(mǎi)、發(fā)送消息等關(guān)鍵操作之前，代理都會(huì)先征求用戶(hù)同意。這意味著，即使AI幫你找到了心儀的商品，最終是否下單，決定權(quán)依然在你手中。

圖片

除了這些機(jī)制，谷歌還部署了提示注入分類(lèi)器來(lái)防止不必要的行為，并正在測(cè)試代理功能對(duì)抗研究人員創(chuàng)建的攻擊場(chǎng)景。

行業(yè)趨勢(shì)：安全成為AI瀏覽器焦點(diǎn)

AI瀏覽器的安全問(wèn)題正在成為行業(yè)關(guān)注的焦點(diǎn)。本月初，Perplexity也發(fā)布了一款新的開(kāi)源內(nèi)容檢測(cè)模型，專(zhuān)門(mén)用于防止針對(duì)代理的提示注入攻擊。

隨著AI代理功能逐漸成為瀏覽器的標(biāo)配，如何在便利性和安全性之間找到平衡，將是所有廠商必須面對(duì)的挑戰(zhàn)。

谷歌這次公布的安全措施，為行業(yè)提供了一個(gè)參考框架，但真正的考驗(yàn)還在后面——當(dāng)這些功能真正面向用戶(hù)時(shí)，能否經(jīng)受住實(shí)際使用中的各種安全威脅。