Fawkes照片工具：秘密給人臉識別系統“下毒”
據外媒報道，互聯網上充斥著數十億張照片，其中許多都消失在已經被廢棄的賬號和舊托管服務中。然而由于社交媒體平臺的興起，將它們跟照片中的人物鏈接起來比以往任何時候都容易。不為公眾所知的是，一些公司正在悄悄地下載這些內容并用它來創建秘密的人臉識別模型的主體…但有一個解決方案，它被稱為Fawkes。
資料圖
很明顯，面部識別模型被面部識別系統用來識別一個特定的人。AI接受的圖像越多，它就能越能準確地識別隨機視頻和圖像中的人物--包括實時監控等。很多人都沒有意識到這些面部識別模型的存在，而這對隱私的影響真的很可怕。
企業和政府能通過簡單地收集人們在網上自由發布的自己的圖片來訓練他們的人工智能模型。大量的信息被輸入到人工智能系統中并由此形成一個難以阻止的難題。
芝加哥大學SAND實驗室的研究人員為解決這一問題邁出了一步，他們讓普通人能對自己的圖像進行復雜的控制。該團隊已經公開發布了Fawkes，一個簡單、免費的工具，它使用人工智能對一個圖像進行微調從而使其在人類看來是不變的但在人工智能系統訓練時卻變得“高度扭曲”。
研究人員解釋稱，通過向系統輸入這些圖像，某人本質上是在參與一種“攻擊”，通過破壞系統對那個人長相的理解來毒害系統。輸入給人工智能的每一張“中毒”圖像都降低了它在圖像和視頻中準確識別那個人的能力，使得它對于任何想要利用它的公司或政府來說幾乎毫無用處。
Fawkes并不是一個簡單的圖像操縱器，而是一個更復雜的人工智能驅動的應用，它會產生一些無法被目標面部識別訓練系統檢測到的變化，這意味著它們將無法識別并移除那些有害的“有毒”圖像。研究人員稱，由于無法分辨出哪些圖像被隱藏了，這些公司將不得不投入相當大的精力，對收集到的所有內容進行分類以找到導致圖像失真的圖像。
根據這項研究，對人工智能的測試顯示了非常高的準確率。
