【51CTO.com快譯】如今，很多人擔心人工智能技術會發展成為“邪惡的機器人”，甚至達到主導世界的地步。但是不要害怕，這種情況不會發生。

[[354314]]

人工智能已經進入了人們的工作和日常生活中。它正在推動醫學、天氣預報、工廠自動化、自動駕駛汽車等各行業的進步。甚至高爾夫俱樂部制造商也采用人工智能技術設計球桿。

其實人們每天都在與人工智能互動。谷歌翻譯幫助人們瀏覽國外網站，并與不同國籍的人員交談。人工智能供應商已將語音識別功能內置到許多應用程序中。人們每天使用Siri和Alexa等語音助理來幫助完成簡單的任務。人臉識別應用程序自動為照片添加標簽，人工智能系統在諸如圍棋和德州撲克之類的復雜游戲中擊敗了專業游戲玩家，此外工廠的機器人替代工作人員實施重復性工作。

人工智能的最新進展使人們知道未來將將何去何從。科幻小說作家數十年來一直在思考這個問題。在有些人描述的未來世界中，將會出現功能強大并且友善的智能機器人，例如《星球大戰》電影中的C3PO機器人。也有人則將智能機器人描述成既不友善也不邪惡，而是具有人類般的弱點，例如西方世界的類人機器人，這種機器人有著自己的意識和情感，不愿意被人類奴役。盡管如此，在其他作家的作品中，也有與人類為敵的“邪惡的機器人”，例如電影《2001年的哈爾：太空漫游》和電影《終結者》中的智能機器人。

人們對于人工智能可能存在潛在危險的猜測并不局限在科幻小說領域。許多權威技術專家預測，隨著人工智能系統變得越來越智能，機器人最終將主導整個世界。特斯拉公司創始人埃隆·馬斯克表示，人工智能是人類的“最大的生存威脅”，它對文明的存在構成了根本性的風險。而已故著名物理學家斯蒂芬·霍金曾說：“這可能預示著人類的終結。”人類未來研究所創始人、哲學家尼克·博斯特羅姆認為，人工智能構成了人類有史以來最大的威脅，其威脅甚至大于核武器。

人工智能與狹義人工智能

這些技術專家和科幻小說作家所擔心的人工智能系統都是強人工智能（人工通用智能，AGI）的例子。強人工智能（人工通用智能，AGI）系統與人類有著共同的能力：推理，處理視覺、聽覺和其他輸入，并能適應各種環境。這些系統和人類一樣，對各種各樣的事件和話題有著豐富的知識和交流能力。

科幻小說虛構的強人工智能系統(即虛構的邪惡機器人)與當今的人工智能系統相比有兩個顯著的區別：首先，當今的每個人工智能系統只能執行比較狹義的任務。例如學會給照片命名的人工智能系統不能做其他任何事情，甚至無法區分狗和大象。它不能回答問題、檢索信息或進行對話。其次，當今的人工智能系統對于世界幾乎沒有常識性的知識，因此不能基于這些知識進行推理。例如，面部識別系統可以識別特定的人物，但對其他人一無所知。它不會像人類那樣能夠看到或聽到，也不像人類那樣進食、睡覺，工作，更不會犯罪或墜入愛河。

當今的人工智能系統都是狹義的人工智能系統，這個術語是由未來主義專家雷·庫茲韋爾在2005年提出的，用來描述這些區別：機器人只能執行一個特定的任務。雖然狹義人工智能系統的性能可以使它們看起來很智能，但事實并非如此。

相比之下，人類和虛構的智能機器人可以執行大量不同的任務。他們不僅認得人臉，還可以讀報、做飯、系鞋帶、討論時事，以及執行許多其他任務。虛構的智能機器人也基于人類對世界的常識進行推理，將常識、經驗和背景知識應用于各種各樣的任務中。例如，當人類從柜子里拿出一個玻璃杯時，就會利用所知的重力知識，并且知道如果抓得不夠緊，玻璃杯就會從手中掉下來。人類并不是從重力的定義或數學方程式中的描述中獲得知識，而是在現實生活的經驗中無意識獲得知識。人們每天都用這些知識來完成很多其他的任務。

新的人工智能范例

人們面臨的最大的問題是，如今的狹義人工智能系統是否會演變成具有人類智能的智能機器人，這種智能系統可以使用常識推理來執行許多不同的任務。

當今大多數突破性的人工智能系統都使用一種名為“監督學習”的機器學習形式，其目的是學習一種可以從信息輸入中識別輸出類別的功能。例如，面部識別系統將圖像作為輸入，并識別圖中人員的名字。“強化學習”也是如此，其目標是學習可以預測給定狀態的最佳動作的功能。

多倫多大學機器學習專家杰弗里•辛頓表示，他對當前的模式(包括監督學習、強化學習和自然語言處理)是否會導致強人工智能(以及科幻小說中的邪惡機器人)產生懷疑。辛頓建議，要采用人工智能，可能需要拋棄目前占主導地位的監督學習范例。Facebook公司首席人工智能科學家Yann LeCu還表示，監督學習和強化學習永遠不會創建強人工智能，因為它們不能用于創建對世界有常識的系統。

一些人工智能研究人員開始探索一些新的方法。在評估這些新方法的可行性時，必須記住，對狹義人工智能成就的熱情不應轉化為對這些新方法的樂觀想法，因為現有的狹義人工智能方法在構建強人工智能系統方面將面臨一條死胡同。

像人類一樣學習

很多研究人員將人類的學習描述為組合性學習：學習許多技能，然后將它們組合起來學習新技能。人類將學習有關世界的概念、規則和知識，這些技能將隨著人們學習執行不同任務而轉移。這些研究人員認為，常識性人工智能推理(以及人工智能和邪惡機器人)的關鍵在于構建像人類一樣可以組合性學習的人工智能系統。這個想法是讓人工智能系統學習作為構建塊的概念和規則，使其能夠學習更高層次的概念和更高層次的規則。

人們對這種方法的最大擔憂是，人工智能系統在理解人類如何獲得常識性知識方面的進展很緩慢。四十年前，就人工智能系統能否回答“德國牧羊犬的耳朵是什么形狀”這樣的問題進行了長時間的辯論。盡管人工智能和認知科學領域的一些權威人士參加了分析和辯論，但仍然沒有確切的答案。人工智能能否回答有關狗耳朵形狀的問題，只是大量的代表性方案和推理過程的其中之一。而且，人們甚至都不知道這些方案和推理過程是天生的還是后天的。五十多年來，這一直是學術辯論中持續討論的話題，目前尚無定論。

那么要多久才能了解人們如何看待人工智能和邪惡機器人的真正進展?按照目前的進展速度，也許需要幾千年，也許可能永遠不會發生。

深度學習

一些研究人員認為，盡管監督學習和強化學習本身是構建人工智能系統的死胡同，但深度學習可能將人們帶到目的地。Yann Lecun和Greg Brockman都提出了擴展無監督學習系統的想法，希望能夠神奇地獲取有關常識并學習基于該知識的推理。

GPT-3系統是可擴展性一個很好的例子，其能力比GPT-2系統強出100倍，而GPT-2系統本身比GPT原始系統強出10倍。GPT-2系統表現出令人驚訝的能力，可以產生人類的聲音(即使不是始終連貫的)，而GPT-3系統可以產生更好的結果。開發GPT系統的OpenAI研究人員認為這是一種新興功能，這是由于擴大網絡規模而產生的。

GPT-3系統無疑具有提取其訓練文本的統計規律性的強大能力，也可能具有記憶小片段文本的能力。但是，它沒有學習有關常識的能力，也沒有基于這種知識獲得推理的能力。在這個階段，沒有證據表明可以從這種方法中學習常識和推理技能，也沒有任何理由相信它會發生。

Yoshua Bengio提出了新穎的深度學習架構，旨在使用深度學習突破狹義人工智能的局限性。其中一個目標是學習更高層次的構建塊，可以幫助人工智能系統進行組合學習。這是一個有趣的想法。

模擬人腦

行業專家提出的另一種強人工智能方法是了解人腦物理結構，并在其之后建立人工智能系統的模型。經過幾十年的研究，人們對人類大腦如何處理信息只知道一些非常基本的事實。例如，人們知道大腦皮層可以靜態和動態地存儲所學知識，基底神經節處理各種目標，并通過強化學習來選擇信息，而邊緣腦結構連接大腦和身體并產生動機、情感和事物的價值。

在大腦中建立神經元模型的想法已經提出了40多年，但現在還沒有獲得真正的吸引力，部分原因是在理解人腦方面進展極為緩慢，在人工智能程序中沒有具體的方法來模擬人們所知道的人腦。在這里似乎又回到了起點，沒有證據表明這種方法會成功。

速度更快的計算機

技術未來主義者雷·庫茲韋爾一直認為，人工智能將作為更大、更快的計算機的副產品而出現。他提出了“奇點”這一理念，這是計算機能夠自己智能地改進程序的一個時間點。他指出，一旦發生這種情況，人工智能系統的智力將以指數級的速度增長，將很快達到超人的智力水平。庫茲韋爾預測，“奇點”將在2045年左右出現。

也就是說，很難想象處理能力本身如何能夠創造強人工智能。無論是使用上世紀70年代還是當今天先進的沒有加載任何程序的計算機，這些計算機都無法執行任何操作。如果在這兩種計算機上都加載一個字處理程序，那么都只能執行字處理。更新、更現代化的計算機將能夠更快地響應和處理更大的文檔，但它們仍然只能進行文字處理。未來的計算機也是這樣。

處理速度更快的計算機本身不會產生人工智能。正如Steven Pinker所說，“更強的處理能力并不是解決所有問題的靈丹妙藥。”在強人工智能不太可能實現的情況下，編程和學習算法可能會非常復雜，以至于需要功能非常強大的計算機。

強人工智能能夠實現嗎?

狹義的人工智能系統背后的技術無法發展到“邪惡的機器人”。對于如何實現強人工智能，業界提出一些想法，但這些想法并不明確。自從上世紀50年代末以來，人工智能研究人員對如何創建強人工智能提出了多種理念，但沒有人能夠獲得成功，也沒有證據表明現在的想法會更好。

艾倫人工智能研究所的首席執行官Oren Etzion表示，對實現強人工智能的樂觀和恐懼都源于狹義人工智能系統的成功。這種對狹義人工智能的樂觀情緒自然蔓延到了對強人工智能前景的樂觀。

人們可能并不會在有生之年發生時間之旅。可能會幻想，科技將讓人類進入冬眠或隱身狀態，或者通過心靈傳送將人類的思想輸入到電腦中，甚至逆轉人類衰老過程。如果是這樣，那么人們應該把人工智能和“邪惡的機器人”歸為同類。

原文標題：Don't Fear Artificial General Intelligence，作者：Steve Shwartz

【51CTO譯稿，合作站點轉載請注明原文譯者和出處為51CTO.com】