出品 | 51CTO技術(shù)棧（微信號：blog51cto）

谷歌正在推出其 SynthID Text 技術(shù)，讓開發(fā)者能夠?qū)ι墒?AI 模型生成的文本進(jìn)行水印token和檢測，并且該技術(shù)現(xiàn)在已經(jīng)全面開放。

圖片

SynthID Text 可以通過 AI 平臺 Hugging Face 和谷歌更新后的負(fù)責(zé)任生成式 AI 工具包下載。

??https://huggingface.co/spaces/google/synthid-text??

谷歌的這項成果已經(jīng)被nature接收了！在這篇論文中，谷歌詳細(xì)揭秘了水印的工作原理。

圖片

??https://www.nature.com/articles/s41586-024-08025-4??

那么，SynthID Text 究竟是如何工作的呢？

一、SynthID的AI查重：哪個“token”最可能出自AI之手

假設(shè)給出一個類似“你最喜歡的水果是什么？”的問題，文本生成模型會預(yù)測哪個“token”最有可能跟在另一個token之后——逐個token生成。token可以是單個字符或單詞，它們是生成模型用來處理信息的基本構(gòu)件。

圖片

以 "我最喜歡的熱帶水果是____"為例。LLM 可能會從 "芒果"、"荔枝"、"木瓜 "或 "榴蓮 "等標(biāo)記詞開始完成句子，并為每個標(biāo)記詞分配一個概率分?jǐn)?shù)。當(dāng)有一系列不同的標(biāo)記可供選擇時，SynthID 可以在不影響輸出質(zhì)量、準(zhǔn)確性和創(chuàng)造性的情況下，調(diào)整每個預(yù)測標(biāo)記的概率分?jǐn)?shù)。

谷歌表示，SynthID Text 通過“調(diào)節(jié)生成token的可能性”在這種token分布中插入了額外信息。

圖片

上圖：LLM 文本生成通常是通過從左到右生成文本的方式，反復(fù)從 LLM 分布中進(jìn)行采樣。下圖：生成式水印方案通常由三個組成部分構(gòu)成，如藍(lán)色框中所示：隨機(jī)種子生成器、采樣算法和評分函數(shù)。這些組件可以用于提供一種文本生成方法和水印檢測方法。在 SynthID-Text 生成式水印方案中，我們使用的是錦標(biāo)賽采樣算法。

“模型的詞匯選擇的最終分?jǐn)?shù)模式與調(diào)整后的概率分?jǐn)?shù)結(jié)合，被視為水印，”該公司在博客文章中寫道?！按朔?jǐn)?shù)模式與水印和非水印文本的預(yù)期分?jǐn)?shù)模式進(jìn)行比較，從而幫助 SynthID 檢測文本是否由 AI 工具生成，或可能來自其他來源?！?/p>

谷歌聲稱，自今年春季以來，SynthID Text 已與其 Gemini 模型集成，并且不會影響文本生成的質(zhì)量、準(zhǔn)確性或速度，即使在文本被裁剪、改寫或修改后依然有效。

這種技術(shù)可用于少至三句話的內(nèi)容。隨著文本長度的增加，SynthID 的穩(wěn)健性和準(zhǔn)確性也會提高。

二、SynthID的多模態(tài)進(jìn)展：音頻、視頻也有水印

谷歌表示，使用谷歌模型生成的AI音頻、視頻，也已經(jīng)“自帶水印”。

1.音頻

在音頻方面，SynthID 會把 Lyria 模型生成的音頻加上水印。

SynthID的技術(shù)是，先將音頻波（聲音的一維表現(xiàn)形式）轉(zhuǎn)換為頻譜圖。

計算出頻譜圖后，SynthID會將數(shù)字水印加入其中。最后，將頻譜圖轉(zhuǎn)換回波形。在這一轉(zhuǎn)換步驟中，SynthID 利用音頻特性確保人耳聽不到水印，從而不會影響聽覺體驗。水印對許多常見的修改（如添加噪音、MP3 壓縮或加快和減慢音軌）都很穩(wěn)健。

SynthID 還能掃描音軌，檢測不同點是否存在水印，以幫助確定其中的部分是否由 Lyria 生成。

2.視頻

SynthID 將人眼無法察覺的數(shù)字水印直接添加到AI圖像和視頻中。

而且，即使經(jīng)過各種技術(shù)操作，比如裁剪、添加濾鏡、改變顏色、改變幀頻和使用各種有損壓縮等，也無法擺脫這個水印。

圖片

三、寫在最后

不過，谷歌承認(rèn)其水印方法存在局限性。

例如，SynthID Text 在處理短文本、改寫或從其他語言翻譯的文本時表現(xiàn)不佳，或者在處理回答事實性問題時效果較差?！霸诨卮鹗聦嵭蕴崾緯r，調(diào)整token分布的機(jī)會較少，且不會影響事實準(zhǔn)確性?！边@包括像“法國的首都是哪里？”之類的問題，或者像“背誦威廉·華茲華斯的詩”這樣幾乎沒有變化空間的請求，此類輸出很難被識別。

谷歌并不是唯一一家致力于 AI 文本水印技術(shù)的公司。OpenAI 多年來一直在研究水印方法，但由于技術(shù)和商業(yè)方面的考慮，推遲了發(fā)布。

如果文本水印技術(shù)被廣泛采用，它可以幫助應(yīng)對日益流行但常常錯誤token的“AI 檢測器”問題，這些檢測器會錯誤地將以較為通用的語氣撰寫的文章或論文token為 AI 生成的。然而，問題在于，這些技術(shù)是否會被廣泛采用，以及是否有某一組織的標(biāo)準(zhǔn)或技術(shù)會勝出。

未來可能會有法律機(jī)制迫使開發(fā)者采用這些技術(shù)。中國已經(jīng)引入了對 AI 生成內(nèi)容強(qiáng)制加水印的規(guī)定，加利福尼亞州也正計劃采取類似措施。

形勢十分緊迫。根據(jù)歐盟執(zhí)法機(jī)構(gòu)的一份報告，到 2026 年，90% 的在線內(nèi)容可能會是由 AI 合成生成的，這將帶來關(guān)于虛假信息、宣傳、欺詐和欺騙的新執(zhí)法挑戰(zhàn)。據(jù) AWS 研究顯示，由于 AI 翻譯工具的廣泛使用，當(dāng)前網(wǎng)絡(luò)上約 60% 的句子可能已經(jīng)是 AI 生成的。

參考鏈接：

1.https://techcrunch.com/2024/10/23/google-releases-tech-to-watermark-ai-generated-text/

2.??https://deepmind.google/technologies/synthid/??

本文轉(zhuǎn)載自??51CTO技術(shù)棧??