85 歲的圖靈獎得主 Raj Reddy 參加了最近舉行的第九屆海德堡獲獎者論壇。他發(fā)出由衷感嘆：「我在人工智能領(lǐng)域工作了近 60 年，沒想到這種技術(shù)會在有生之年實用化。」?

10 年前，也就是 2012 年，深度學習取得了突破。當時，一種基于多層神經(jīng)網(wǎng)絡的圖像分類創(chuàng)新算法突然被證明比之前的所有算法都要好得多。這一突破使得深度學習在語音和圖像識別、自動翻譯和轉(zhuǎn)錄以及機器人等領(lǐng)域得到應用。

隨著深度學習被嵌入到越來越多的日常應用中，越來越多可能出錯的樣本也浮出水面：人工智能系統(tǒng)會進行歧視，制定刻板印象，做出難以捉摸的決定，并需要大量的數(shù)據(jù)，有時還需要大量的能源。?

在此背景下，第九屆海德堡獲獎者論壇為來自 50 多個國家的約 200 名青年研究人員組織了一場關(guān)于深度學習的應用和影響的小組討論。包括圖靈獎獲得者 Yoshua Bengio、Yann LeCun 和 Raj Reddy，2011 年 ACM 計算機獎獲得者 Sanjeev Arora，以及研究人員 Shannon Vallor、Been Kim、Dina Machuve 和 Shakir Mohamed 都參與了討論。

Meta 首席 AI 科學家 Yann LeCun 是小組成員中最樂觀的：「有很多人聲稱深度學習不能做這個或那個，而這些說法在經(jīng)過幾年的工作后大多被證明是錯誤的。過去五年，深度學習已經(jīng)能夠做到我們所有人都想象不到的事情，而且進展正在加速?！?

LeCun 舉例說，Meta 公司旗下的 Facebook 現(xiàn)在能自動檢測出 96% 的仇恨言論，而大約四年前，這個比例只有 40%。他把這種改進歸功于深度學習?！肝覀兠刻於际艿酱罅啃畔⒌霓Z炸，而且這種情況只會越來越嚴重。我們將需要更多的自動化系統(tǒng)，使我們能夠篩選這些信息?！?/span>

英國愛丁堡大學教授 Shannon Vallor 則反對 LeCun 的觀點，即技術(shù)只是向前發(fā)展，它似乎有自己的意志，而社會只需適應?！高@正是我們陷入某些問題的原因。技術(shù)可以走很多分叉的道路，人們決定哪條分叉路是最佳的。深度學習系統(tǒng)是人類根據(jù)自己的價值觀、激勵措施和權(quán)力結(jié)構(gòu)建造和部署的徹頭徹尾的人工制品，因此我們要對它們負全責。」?

對深度學習的批評之一是，雖然它擅長模式識別，但目前不適合進行邏輯推理，而老式的符號 AI 卻適合。然而，Bengio 和 LeCun 都認為沒有理由不能讓深度學習系統(tǒng)進行推理。正如 Bengio 所觀察到的，「人類也在他們的大腦中使用某種神經(jīng)網(wǎng)絡，我相信有辦法通過深度學習架構(gòu)達到類似人類的推理?！?/span>

然而，Bengio 補充說，他不認為僅僅擴大現(xiàn)今的神經(jīng)網(wǎng)絡就足夠了?！肝蚁嘈?，我們可以從生物學和人類智能中獲得更多的靈感，以彌補當前人工智能和人類智能之間的差距?！?/span>

普林斯頓大學的理論計算機科學家 Sanjeev Arora 補充說，不僅僅是深度學習還不能推理，其實我們也不能推理深度神經(jīng)網(wǎng)絡。Arora 說：「我們需要更多地了解深度學習系統(tǒng)的黑匣子里面發(fā)生了什么，而這正是我正在努力做的事情。」?

Raj Reddy 是迄今為止參與人工智能社區(qū)時間最長的小組成員，他從 20 世紀 60 年代起就參與了人工智能先驅(qū)約翰 · 麥卡錫的博士研究工作。Reddy 認為杯子是半滿的，而不是半空的?！干疃葘W習的一個重要應用是幫助了社會金字塔底部的人。世界上大約有 20 億人不能閱讀或書寫。各種語言技術(shù)現(xiàn)在已經(jīng)足夠好用了，比如語音識別和翻譯。我在這個領(lǐng)域工作了近 60 年，沒想到這種技術(shù)會在有生之年實用化。十年后，即使是文盲也能閱讀任何書籍，觀看任何電影，并與世界上任何地方的任何人用他們的母語進行對話?！?

然而，對于深度學習技術(shù)來說，處理較小眾的語言仍然是一個未解決的問題，因為可用的數(shù)據(jù)要少得多。數(shù)據(jù)科學顧問 Dina Machuve 說，僅在非洲，就有 2000 種語言，但沒有人工智能技術(shù)可用。重要的是要進入一個社區(qū)，看看什么對該社區(qū)有用，所以在為非洲尋找深度學習應用時，Machuve 集中于圖像應用方面——「我們已經(jīng)開發(fā)了基于圖像識別的家禽疾病和農(nóng)作物疾病的早期檢測系統(tǒng)?！?

不幸的是，在許多方面，非洲仍然是深度學習研究和部署中「缺失的大陸」，DeepMind 的研究員 Shakir Mohamed 補充說?！肝覀兘y(tǒng)計了 2006 年至 2016 年期間，在著名的神經(jīng)信息處理會議 NeurIPS 上，有多少來自非洲人的論文被提交，答案是：0。拉丁美洲也是如此，或許是 1 篇。我希望你們所有人，無論你們在哪里，都能認真對待代表性的問題，誰在做這項工作，在哪里做，以及如何與他人分享你們的經(jīng)驗。」?

谷歌大腦的研究科學家 Been Kim 說，她希望大家認識到，深度學習并不是一個可以解決所有社會問題的神奇工具。事實上，她觀察到，「可能有比機器學習更適合你所遇到問題的非 AI 解決方案。你要停下來質(zhì)疑：這是正確的工具嗎？」

當被問及普通大眾應該知道什么是人工智能及其前景時，Mohamed 說：「未來還沒有被決定。我們?nèi)匀豢梢詣?chuàng)造和塑造未來，這就是我們應該永遠記住的?！?/span>