人工智能是一項功能強大的技術，有望徹底改變我們生活。這一點從來沒有像今天這樣昭然若揭；只要能連接互聯網，誰都可以享用功能強大的工具。

這些工具包括人工智能語音生成器，這種先進的軟件能夠惟妙惟肖地模仿人類語音，以至于無法區分和辨別兩者。這對網絡安全又意味著什么呢？

人工智能語音生成器是如何工作的？

語音合成指人工生成人類語音的過程，它已存在了幾十年。就像所有技術一樣，多年來它已經歷了重大而深刻的變化。

用過Windows 2000和XP的用戶可能還記得微軟Sam，這是微軟操作系統默認的文本轉換成語音男聲。微軟Sam的表現可謂中規中矩，但它發出的聲音很機械、很僵硬、很造作。我們現在手頭擁有的工具要先進得多，這在很大程度上歸功于深度學習。

深度學習是一種基于人工神經網絡的機器學習方法。由于這些神經網絡，現代人工智能處理數據的能力幾乎如同人類大腦中的神經元解釋信息一樣強大。也就是說，人工智能變得越像人類，模仿人類行為的本領就越高超。

簡而言之，這就是現代人工智能語音生成器的工作方式。它們接觸的語音數據越多，就越擅長模仿人類語音。由于這項技術最新取得的進展，最先進的文本轉換成語音軟件基本上可以復制饋送給它的聲音。

威脅分子如何使用人工智能語音生成器？

不出所料，這種技術正被威脅分子濫用。不僅是典型意義上的網絡犯罪分子，還有虛假信息代理人、騙子、黑帽營銷人員和網絡噴子。

就在ElevenLabs于2023年1月發布其文本轉換成語音軟件的測試版的那一刻，留言板4chan上的極右翼網絡噴子就開始濫用它。他們使用這種先進的人工智能技術，復制了BBC電視臺主持人David Attenborough和知名演員Emma Watson等名人的聲音，讓人感覺這些名人好像在發表惡毒、仇恨的長篇大論。

正如IT外媒Vice當時所報道，ElevenLabs承認有人在濫用其軟件，尤其是在濫用語音克隆功能。這項功能讓任何人都可以“克隆”另一個人的聲音；你只需要上傳一分鐘時長的錄音，然后讓人工智能做剩余的事情。據推測，錄音時間越長，輸出結果就越逼真。

2023年3月，一段在TikTok上瘋傳的視頻引起了《紐約時報》雜志的注意。在這段視頻中，著名的播客主持人Joe Rogan和經常現身其The Joe Rogan Experience節目的Andrew Huberman博士討論了一種“增強性欲”的咖啡因飲料。這段視頻讓人覺得Rogan和Huberman都明確力挺這款產品。而實際上，他們倆的聲音是用人工智能克隆出來的。

大約在同一時間，總部位于加利福尼亞州圣克拉拉的硅谷銀行因風險管理錯誤及其他問題而倒閉，并被州政府接管。這是自2008年金融危機以來美國最嚴重的銀行倒閉事件，因此在全球市場引起了軒然大波。

讓人們更加恐慌的是美國拜登總統的一段假錄音。在錄音中，可以明顯聽到拜登警告即將到來的“崩潰”，并指令美國政府“充分利用媒體的力量來安撫公眾”。像PolitiFact這樣追求事實真相的網站很快就揭穿了這段視頻，但至此可能已經有數百萬人聽過了這段錄音。

如果人工智能語音生成器可以用來冒充名人，那么它們也可以用來冒充平民百姓，這正是網絡犯罪分子一直在從事的勾當。據IT外媒ZDNet報道，每年都有成千上萬的美國人上語音釣魚（vishing）騙局的當。2023年，一對年邁的夫婦因接到“孫子”打來的電話而登上了全國報章頭條，“孫子”聲稱關在監獄里，向他們要錢。

如果你曾經上傳過YouTube視頻（或在YouTube視頻中出現過）、與一群不認識的人一起參加過大型群體電話會議，或者以某種方式將自己的聲音上傳到互聯網上，理論上來說你或親朋好友可能處于危險之中。怎樣才能阻止騙子把你的聲音上傳到人工智能生成器、克隆聲音、然后冒充你聯系你的家人？

人工智能音生成器在顛覆網絡安全格局

不是說非得是網絡安全專家才能意識到人工智能落入壞人之手有多危險。雖然所有技術都是如此，但人工智能是一種獨特的威脅，這有幾個原因。

首先，它是一項比較新的技術，這意味著我們其實不知道它能為我們帶來什么。現代人工智能工具讓網絡犯罪分子能夠以前所未有的方式擴大活動規模，并實現自動化操作，同時充分利用公眾對這一問題相對無知來大做文章。此外，生成式人工智能使缺乏知識和技能的威脅分子也能夠創建惡意代碼、構建欺騙網站、傳播垃圾郵件、撰寫釣魚郵件、生成逼真的圖像，并生成長篇的虛假音頻和視頻內容。

至關重要的是，我們反過來也可以利用人工智能：人工智能也被用于保護系統，而且可能在未來幾十年都是如此。可以料想，網絡犯罪分子和網絡安全行業之間會上演某種人工智能軍備競賽，因為這些工具的防御和進攻能力本質上不相上下。

對于普通人來說，生成式人工智能的遍地開花需要徹底重新思考安全實踐。盡管人工智能可能令人興奮、很實用，但它至少可以以假亂真，最壞的情況是加劇現有的安全問題，并為威脅分子提供新的舞臺。

語音生成器展示了人工智能的破壞性潛力

ChatGPT一經上市，有關監管人工智能的討論就開始升溫。任何試圖遏制這種技術的做法都可能需要國際合作，需要我們在過去幾十年來從未見過的合作程度，因此不太可能遏制人工智能。

精靈已從瓶子里跑出來，我們能做的也就是習慣它適應它，但愿網絡安全行業能做出相應的調整。

https://www.makeuseof.com/ai-voice-generators-security-threat