在過去的一年中，可用于生成逼真、虛假或人為操控的音視頻機器學習模型deepfake逐漸見諸報端，成為媒體爭相報道的對象，并成為新興的網絡安全威脅。公眾接觸到deepfake首先是通過娛樂視頻，可用deepfake工具生成，將明星的臉部疊加在色情視頻中。

[[314304]]

盡管這些視頻低質且明顯可以看出來是不合法的，但是這項新技術對于人們區分虛擬和現實還是有一定的潛在影響。在政治世界中，尤其值得人們關注，deepfake可以成為一種攻擊政客或政黨的武器，操縱公眾輿論來影響選舉甚至股市。

幾年前，deepfake技術研發有限，這種工具只為資源豐富且技術先進的國家使用，但是現在deepfakes工具免費提供、隨處可得，且簡單易學，因此任何能夠上網、有時間和目的的人都能夠隨時制作deepfake視頻，并將虛假內容視頻在社交媒體中傳播開來。

進一步來說，deepfake工具越來越智能，生成視頻所需要的素材也越來越少。早期需要幾個小時的視頻和音頻或者是大數據集，才可以進行機器分析和生成。這意味著較高關注度的人比如政客、名人、知名CEO或擁有大量網絡資源的人容易被盯上，成為虛假視頻的主角。

現在，只要有一張照片就可以生成這類虛假視頻了。未來生成虛假視頻只會越來越容易，比如Facebook上的個人資料圖片或者Instagram的音頻片段，由此可見，人人都應該提高警惕了，防止自己成為下一個目標。

虛假的現實

Deepfake之所以強大，是因為它顛覆了人類對現實的基本理解：眼見為實。Deepfake讓真相與現實脫節，此外還能夠引起情感上的回應。比如你看到一些令人不快的東西，即使之后你知道它是假的，但是你依然會有負面情緒，并且將所見所感和潛意識聯系起來。

去年10月，州長Gavin Newsom簽署了加利福尼亞州的AB 730法案(稱為“反Deepfake法案”)，希望在2020年大選之前減少惡意deepfake虛假視頻的傳播。雖然這一舉措值得稱贊，但法案本身沒有任何進展。它人為地設置了一個時間線，這個時間線只適用于在選舉的60天內具有“真實惡意”原則的deepfake虛假視頻，這就免除了傳播平臺監管和刪除deepfake虛假視頻的責任，相反地，法律依賴于虛假視頻生產者的自我承認和所有權聲明，而對于“真實 惡意”的證據查找過程不是那么明確的。

[[314305]]

制定該法律的初衷并非去執行它，更可能的是立法者向人們展示自己已經邁出的第一步，表明他們知道deepfake對民主的嚴重威脅。而這場斗爭才剛剛開始。在理想情況下，該法律將影響并指導聯邦政府和其他州的工作，以此為初始模板進行更有效和更具執行力的立法。

Deepfake技術將成為2020年的商業威脅

迄今為止，和deepfake相關的討論主要集中在通過社交媒體(尤其是在政治領域)推動的虛假信息運動和大規模人為操縱的潛在影響上。2020年將是deepfake成為企業真正威脅的一年，而企業的網絡防御團隊還沒有能力應對這種威脅。

魚叉式網絡攻擊針對的是高級員工，通常會誘使他們手動完成任務，比如支付偽造發票，發送實體文件或者手動設置網絡犯罪分子的登錄憑證。從技術角度來看，這些郵件通常更難檢測，因為該電子郵件不包含任何可疑的鏈接或附件，并且通常與BEC攻擊結合使用(當黑客控制了員工的電子郵件時，他們可以從合法地址發送電子郵件)。

根據FBI的數據，在過去三年中，BEC攻擊給全球組織造成的損失超過260億美元。而deepfake能夠加劇這些攻擊，比如利用語音郵件模擬高層欺騙員工，這就讓網絡犯罪更加容易。

[[314306]]

有一種觀點認為，攻擊打破了真相壁壘，與其認為攻擊請求是虛假的，接受請求并相信它是真實可信的做法反倒更有意義，能夠直接地揭露它。

然而，當deepfake技術進一步發展時，攻擊的真實和虛假反而難以辨別了。比如員工與其認為的CEO進行視頻通話，屏幕后的犯罪分子實時生成deepfake視頻。去年早些時候，一位CEO被AI產生的聲音欺騙，將243000美元轉移到他認為是公司供應商的銀行賬戶中。

當前，安全行業還沒有設備、電子郵件篩選或任何技術來防御deepfake技術。但是，也不是一無所獲。例如，Facebook，微軟和大學研究人員發起了Deepfake檢測挑戰賽，呼吁推動開源deepfake檢測工具的開發。國防高級研究計劃局(DARPA)宣布了語義取證或”SemaFor計劃”，該計劃旨在開發“語義取證”，作為過去使用的統計檢測技術的另一種防御方法。

當前存在的唯一防范方法是教育用戶，讓他們了解這些新型攻擊的方法，并警惕任何看起來不同尋常的行為或者活動。

信任早已不再是我們負擔得起的奢侈品了。