數據觀現場報道 2016年11月17日下午，第三屆世界互聯網大會“大數據論壇”舉行，本次論壇由中國國家互聯網信息辦公室和浙江省人民政府指導支持，中國科學院主辦，中科學院信息工程研究所承辦，數據中心聯盟協辦。

澳大利亞科學院院士、工程院院士，墨爾本大學終身教授饒·寇他科里先生在該論壇上發表了主題為“大數據分析的前沿技術”的演講。饒·寇他科里提到，現在計算機已經跟人眼的識別水平完全一樣，未來人類還需要更多的東西。

[[176551]]

以下為演講全文：

饒·寇他科里：首先我來講一下籠統的概念就是深度學習以及它的應用，什么是最先進的深度學習，那就是用最先進水平的技術可以非常穩定的來采取數據來實現人工智能來解決一些人工智能的問題。比如說進行自然語言的加工，李世石已經被谷歌的AlphaGo打敗了，它就成為世界上最厲害的圍棋手，這個是非常典型的深度學習的典型象征。我相信在未來的幾年過程當中，我們就可以用系統來進一步的開發，我們都知道的谷歌的Alphago它是怎么樣的一個神經網絡呢?

這個是他們背后的邏輯，也就是說我們理解背后的邏輯以及語言的網絡，最后可以用在我們的其他的成功案例過程當中。這個就是我們所使用的最典型的一個架構，這個架構看到了一些圖片的處理，語言的處理、語音的處理等等，還要基于問題處理其他的東西，不光是圖片、語音，我們需要有識別，我還是給大家看一些挑戰，我們有什么樣的挑戰呢?我們叫把它叫做ILSVRC，就是說一個圖片，它在大規模大范圍視覺認知的時候，會遇到各種各樣的挑戰，比如說你看到這個圖片，你去攝影它的時候需要對象識別，這個圖片到底是告訴你這是一只鳥還是一只青蛙，這個地方就會有難度，所以你需要有對象的定位，所以這就涉及到對象的識別和定位，這個圖片也是。到底是一個人一條狗還是一個椅子?這個就是計算機識別的基準，我們遇到大規模視覺識別的挑戰。大規模視覺識別挑戰，還有這樣一個統計的數據，就是最難的五個圖象處理，ImageNet方面的五大錯誤，這個錯誤率當然是一年比一年降低，而且降低的速度也是非常非常快。

到2014年，我們基本上已經把錯誤率降到很低很低的，到了2015年，現在計算機已經跟人眼所識別到的東西水平是完全一樣的，這就是我們神經語言網絡可以幫我們做到的水平。當然人類還需要更多的東西，比如說圖象字幕的抓取，這也是我們想做的一件事情。

另外一個案例很有意思，兩個圖片，比如說下面一個，你給他下面一個圖片，然后機器會給你一張很漂亮的圖片，就是右邊的這個。另外一個機器學習的案例呢，就是你給它兩張，一張照片，一個花圖，最后出來一個非常漂亮的圖片。其他的也一樣，這也是我喜歡的圖片，馬和面條結合出來這么有藝術感的圖象。這個就是我們了解的神經語言網絡，最后出來了這么一個特征圖，也就是說它會把這些圖片的特征都有機的，或者用藝術的感覺把它連接在一起。

這個就是深度學習的應用，包括計算機的視覺，包括標注、計算機、無人駕駛汽車這里面都是需要用到計算機視覺，比如說你把我的名字輸進去以后，給你各種各樣我的圖片以及我這個人涉及在一起的各種各樣的圖片。自然語音加工是深度學習應用的另外一個案例，然后是現場翻譯，我覺得現場翻譯亞馬遜翻譯等等，以后都是可以實現的，包括大城市的數據，車輛的數據等等。

接下來，給大家講一下對抗性樣本和無法識別的樣本。神經網絡易受的干擾就是對抗性的噪音干擾。比如說這里面有123456789，如果你加進去一些肉眼看不到的聲音進去以后，最后一模一樣的圖片出來的數據，就變成了6332931這樣的，完全不一樣的數據。其實這個數據還是123456789，也就是說有一些聲音，雖然我們人是完全感知不到的聲音，而這些聲音輸入到機器當中，計算機會非常非常的敏感，會干擾它對圖象的識別。這個就是機器所敏感的噪音，另外我們還做了一個隨機大容量噪音，隨機大容量噪音不是非常細微，而且大家都一樣，在每一個數據上面都加入了大容量的隨機噪音，出來的結果影響并不是很大，只有一個數據錯了。

再比如說，我們看所有的圖片，大家看這個圖片，它會識別出來的時候都是蘑菇，如果加了噪音以后，識別出來的結果會不一樣，所以聲音對圖形的識別是很有意思。我們加入過程當中，我們怎么樣去做對抗性的干擾，對抗性的聲音?對抗性的聲音我們用的是分類器，我們用不同的每一次識別的時候，我們都輸入X，它的矢量也會不一樣，對抗性和概率也是不一樣的。

最后這個問題，是通過梯度下降實現噪音的對抗性干擾。對抗性干擾，樣本的屬性應該是非常特別的，剛才我說到的普遍性，就是需要用這樣的分類器和基本的線性模型和良好的訓練。它的概括性和普遍性是可以通過我們的干擾來實現的。不管你做什么，他們都必須要非常得小心，我們要有很多很多的技術，這個比較專業。比如說基本信息模型，良好的訓練分類器等等，抵抗力方面，我們需要正規化，需要降噪建筑，需要對抗性的訓練，還有同時發聲、共振等等。還要進行一定的預處理，比如說低通濾波器，有源探測等等，普遍性的應用是剛才汽車的例子，這個概化屬性的案例比如說語意解釋，是像這樣的圖片過程當中，我們在這個圖片的輸入過程當中加入噪音，讓機器變得疑惑，這個到底怎么樣，它會退出來。對抗性的樣本是數據部分固有的，是固定任何模型的。說到無法識別的樣本，機器跟人最大的區別，就是我們覺得沒有問題的東西它會覺得無法識別。這些東西到底是什么呢，需要輸入一定的干擾才能夠識別。

我們的結果是藍色的這一部分，大家看Epochs，數據可以學習的周期，可以學習的數量越來越大，學習成本會越來越低，錯誤率會越來越高，藍色的就是錯誤率的降低。當然我們會有一些比較危險的，你輸入太多噪音干擾的話，會有一定的風險。我們看到Net1和Net2，Net1是生成噪音的地方，Net2是我們的目標系統。我們看一下穩定性、穩健性，以及怎么樣對抗這些樣本的穩定性，我們也可以看到輸入一定的噪音干擾之后可以降低三分之一的錯誤率，這個就是神經語言網絡學習，當然大家需要去理解這些理論，我們如果知道背后的理論才能夠進一步的利用它，減低錯誤的機率。我們在實驗的過程當中，也發現了隨機系統是非常穩健的，可以做到非常高度的隨機性，99%的隨機性，可以看到神經系統隨機語言可以達到百分之百的隨機性。在整個系統的穩定性方面，基本上可以達到90%的提升。接下來會做什么呢?我們用隨機投射，進一步利用到回界回腦的架構當中，我們會繼續利用這一點，然后是對抗性的擾亂或是干擾。

謝謝大家。