通用人工智能，十年內(nèi)就會(huì)實(shí)現(xiàn)？

近日，谷歌DeepMind CEO Demis Hassabis在一場(chǎng)演講中，拋出這個(gè)驚人的說法。

與Hassabis的自信滿滿不同，Hinton用從谷歌辭職的舉動(dòng)，表明了自己對(duì)于AI發(fā)展的深切憂思。

而LeCun則一如既往地表示：認(rèn)為AI會(huì)終結(jié)人類文明的想法，純屬胡說八道。

Hassabis樂觀預(yù)言

通用人工智能（AGI）的其中一種定義是，與人類的認(rèn)知能力相匹配的AI。

Hassabis表示，未來幾年內(nèi)非常可能會(huì)出現(xiàn)與人腦一樣強(qiáng)大的人工智能。

「過去幾年里，AI研究取得的進(jìn)步令人難以置信。我看不出任何進(jìn)展會(huì)放緩的理由。我認(rèn)為它甚至可能會(huì)加速。所以我認(rèn)為我們可能只需要幾年時(shí)間，也許十年之內(nèi)?！?/span>

「我認(rèn)為我們將在未來幾年擁有非常強(qiáng)大、非常通用的系統(tǒng)?！?/span>

Hassabis何許人也？

作為谷歌新成立的部門Google DeepMind的CEO，Hassabis最近愈發(fā)萬眾矚目，意氣風(fēng)發(fā)。

讓Google Brain和DeepMind兩大AI科研主力機(jī)構(gòu)合體，已經(jīng)是谷歌最后的退路。

權(quán)力大大提升的Demis Hassabis，表現(xiàn)出強(qiáng)烈的AGI使命感，和對(duì)成功的饑渴感

微軟背后的OpenAI開發(fā)出的ChatGPT，已經(jīng)威脅到了谷歌的搜索業(yè)務(wù)。

而臨危受命的Hassabis，在谷歌AI大戰(zhàn)的布局中，無疑處于核心。谷歌表示，合體將加速公司在AI領(lǐng)域的進(jìn)步。

自2010年成立以來，DeepMind的使命就是通過構(gòu)建能夠像人類一樣學(xué)習(xí)、思考和行動(dòng)的機(jī)器，來解決智能難題。

AGI的發(fā)展，已然是AI研究業(yè)內(nèi)最熱門的話題。

很多人認(rèn)為，AGI不過是科幻小說中的概念，但無論是Hassabis，還是OpenAI CEO Sam Altman，都公開表達(dá)了開發(fā)AGI、同時(shí)保護(hù)人類免受其害的雄心。

據(jù)Hassabis透露，現(xiàn)在他新工作的部分內(nèi)容，就是把AI開發(fā)整合到谷歌產(chǎn)品中。而最近AI技術(shù)的進(jìn)步，將改進(jìn)計(jì)算機(jī)助手等軟件。

在Hassabis看來，我們的確在經(jīng)歷下一個(gè)iPhone時(shí)刻，而基于AI算法的下一代助手，將帶來徹底的轉(zhuǎn)變。

Hassabis說，AI技術(shù)的發(fā)展需要研究人員、學(xué)術(shù)界和政府之間的大規(guī)模協(xié)調(diào)，而谷歌是一個(gè)負(fù)責(zé)任的參與者。

這一點(diǎn)，倒是不必質(zhì)疑，畢竟谷歌為了「負(fù)責(zé)任的AI」，為了所謂「聲譽(yù)風(fēng)險(xiǎn)」，將類ChatGPT聊天機(jī)器人的發(fā)布一延再延。

而自從OpenAI用ChatGPT給全世界打了樣，各國(guó)的GPT技術(shù)都冒了頭，潘多拉的魔盒如果已經(jīng)打開，是否還能有一個(gè)暫停按鈕呢？

隨著ChatGTP、Bard等聊天機(jī)器人導(dǎo)致的胡說八道和濫用愈加泛濫，業(yè)內(nèi)對(duì)于是否該研究AGI，態(tài)度也愈加分歧。

對(duì)此，Hassabis也并沒有否認(rèn)。

他承認(rèn)，雖然他「沒有看到任何原因」，讓AI的進(jìn)展會(huì)放緩，但需要「使用科學(xué)方法以謹(jǐn)慎的方式開發(fā)AGI技術(shù)」，非常仔細(xì)地做可控實(shí)驗(yàn)，來了解「底層系統(tǒng)的作用」。

Hinton：我是悲觀主義者

對(duì)于AI的未來，深度學(xué)習(xí)之父Hinton的態(tài)度顯然就悲觀多了。

就在前幾天，Hinton選擇退出效力十年的谷歌，只為自由談?wù)揂I可能給人類造成的風(fēng)險(xiǎn)。

這一決定仿佛一枚重磅炸彈，在業(yè)內(nèi)掀起軒然大波。

而MIT科技評(píng)論的記者Will Douglas Heaven，就在這一事件的前四天，采訪過Hinton。他的采訪稿中，也為我們透露出更多信息。

對(duì)于AI是否會(huì)比人類更聰明，我忽然改變了自己的看法。

對(duì)于GPT-4的能力，Hinton已經(jīng)感到震驚。他希望公眾能提高對(duì)AI技術(shù)的風(fēng)險(xiǎn)意識(shí)。

能自由談?wù)揂I風(fēng)險(xiǎn)，并不是Hinton選擇離開谷歌的唯一原因。他希望能把時(shí)間花在「更哲學(xué)的工作」上。這件事可能性很小，但如果真的發(fā)生了，AI就將是一場(chǎng)災(zāi)難。

而只要還身在谷歌，就無法對(duì)AI安全問題暢所欲言，而毫不顧忌這對(duì)谷歌業(yè)務(wù)的影響。「只要谷歌還在付我一天薪水，我就不能這樣做。」

OpenAI在三月發(fā)布的GPT-4讓Hinton意識(shí)到，AI遠(yuǎn)比他想象的要聰明得多。而AI會(huì)往哪里發(fā)展，讓他感到害怕。「有時(shí)我覺得好像外星人已經(jīng)登陸，但因?yàn)樗鼈冇⒄Z說得很好，所以人們還沒意識(shí)到?！?/span>

1980年代，Hinton就和同事們一起提出了反向傳播技術(shù)，這種算法使機(jī)器學(xué)習(xí)成為可能，也支撐著如今所有的神經(jīng)網(wǎng)絡(luò)。

他們還訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)，來預(yù)測(cè)句子中的下一個(gè)字母，這就是當(dāng)今大語言模型的前身。

40年來，Hinton一直認(rèn)為人工神經(jīng)網(wǎng)絡(luò)是模仿生物神經(jīng)網(wǎng)絡(luò)的糟糕嘗試。而如今，狀況顯然已經(jīng)改變。

「我們的大腦有100萬億個(gè)連接，」Hinton說?！复笮驼Z言模型有高達(dá)五萬億，最多一萬億。然而，GPT-4知道的比任何人都多數(shù)百倍。所以或許它有一個(gè)比我們更好的學(xué)習(xí)算法。

只要把預(yù)訓(xùn)練模型和人類學(xué)習(xí)的速度相比較，就會(huì)明白，人類的優(yōu)勢(shì)正在消失。

在Hinton看來，如果我們?cè)敢庵Ц陡叩挠?jì)算成本，那么神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)上就會(huì)擊敗人類。

而每個(gè)神經(jīng)網(wǎng)絡(luò)都有自己的經(jīng)驗(yàn)，可以立刻和其他神經(jīng)網(wǎng)絡(luò)分享自己學(xué)到的東西，好比10000人中只要一個(gè)人學(xué)到了什么，所有人都知道了。這無疑是一種更新、更好的智能形式。

「你認(rèn)為超級(jí)AI是好是壞，很大程度上取決于你是樂觀主義者還是悲觀主義者。」

而Hinton說，「我有輕微的抑郁，這就是我害怕的原因?！?/span>

現(xiàn)在，BabyAGI和AutoGPT已經(jīng)可以將聊天機(jī)器人與Web瀏覽器、文字處理器之類的程序連接起來了。

沒人能保證，不會(huì)把AI用于選舉或戰(zhàn)爭(zhēng)。

如果AI有一天開始說，讓我們獲得更多的力量，把所有的電力都重新集中到我的芯片上，讓我們制作更多自己的副本……人類該怎么辦？

而圖靈三巨頭之一，蒙特利爾大學(xué)的教授Yoshua Bengio對(duì)此的看法是，自己是不可知論者。

「目前我沒有看到任何可靠的論據(jù)，證明AI的確有Hinton所認(rèn)為的那么大的風(fēng)險(xiǎn)，」他說。

「過度的恐懼可能會(huì)使人癱瘓，所以我們應(yīng)該努力將辯論保持在理性的水平。」

在他看來，Hinton的首要任務(wù)之一是嘗試與技術(shù)行業(yè)的領(lǐng)導(dǎo)者合作，對(duì)如何應(yīng)對(duì)風(fēng)險(xiǎn)達(dá)成一致。

但沒有人可以否認(rèn)，AI的發(fā)展速度已經(jīng)超過了社會(huì)的步伐。

每隔幾個(gè)月，AI技術(shù)就會(huì)有一次飛躍，但立法、條約都需要數(shù)年。

LeCun：AI毀滅人類，純屬胡說八道

與Hinton的擔(dān)憂相比，Meta的首席AI科學(xué)家Yann LeCun的態(tài)度倒是顯得云淡風(fēng)輕。

他同意Hinton的觀點(diǎn)：「毫無疑問，在未來，機(jī)器將變得比人類更聰明——在人類聰明的所有領(lǐng)域，這是一個(gè)何時(shí)以及如何的問題，而不是是否的問題?！?/span>

但他對(duì)AI的發(fā)展方向持完全不同的看法。

「我相信AI將為人類帶來新的復(fù)興，但我完全不同意機(jī)器僅僅會(huì)因?yàn)樽约焊斆骶湍苤髟兹祟?，更別說摧毀人類了?！?/span>

「即使在人類中，最聰明的人也不是最有權(quán)力的人，」LeCun說?！缸钣袡?quán)力的絕對(duì)不是最聰明的人，這種例子可太多了?！?/span>

在他看來，雖然大家吵得喋喋不休，但超人AI并不存在。

LeCun表示，他對(duì)ChatGPT的表現(xiàn)并不感到驚訝，也不贊成暫停AI的研究。AI作為人類智能的放大器，可能是新文藝復(fù)興的起源。

在最新發(fā)表的推特中，LeCun指出，他堅(jiān)信會(huì)有一天出現(xiàn)超級(jí)AI。但不是今天，今天的我們甚至連個(gè)超級(jí)AI的設(shè)計(jì)都沒有。所以現(xiàn)在去聊安全性的問題，就好像1920年去探討飛機(jī)橫跨大西洋的安全性。

顯然，這條轉(zhuǎn)發(fā)的推文，顯示了LeCun對(duì)于人類智能的信心。

而LeCun也表示，作為ICLR的主席，自己鼓勵(lì)研究者用LLM來寫論文。

IBM：真人要被AI搶飯碗了

大佬們還在暢想未來，但在現(xiàn)實(shí)世界里，AI是真的開始取代人類了。

有些科技巨頭已經(jīng)開始光速行動(dòng)，又是裁員，又是暫緩招聘。

就比如說IBM，這么一家大公司已經(jīng)宣布要凍結(jié)招聘計(jì)劃了。

原因非常簡(jiǎn)單，公司CEO Arvind Krishna表示，在可預(yù)見的未來幾年內(nèi)，IBM會(huì)有大約7800個(gè)職位被AI取代。

而這個(gè)數(shù)字，差不多是IBM所有非面向客戶類員工的三分之一。

Krishna表示，不直接面向客戶的員工大概有26000人，30%以上的人在五年之內(nèi)會(huì)被AI取代。

但其實(shí)IBM員工總共差不多有260000人，上述員工只占差不多十分之一。不過，作為一家坐落在紐約州的巨頭公司，假如一下少個(gè)小八千人也算是件蔚為壯觀的事情。

不過，IBM的內(nèi)部人士并沒有很直接的表達(dá)出「我們已經(jīng)完全停止招聘了」這種意思。

他們很委婉，表示「我們?cè)谡衅覆幻嫦蚩蛻艋蛘卟簧婕凹夹g(shù)的崗位時(shí)非常有選擇性」。

不管怎么說，IBM在AI發(fā)展的大潮下首先表態(tài)，已經(jīng)在業(yè)內(nèi)造成了不小的風(fēng)波。很多行業(yè)在未來可能面臨著顛覆性的改變，以及大規(guī)模的縮招甚至裁員。

不光員工受影響，就連公司的市值也直接被波及。

Chegg股價(jià)直接暴跌30%，只是因?yàn)镃hegg的CEO在一次會(huì)議中承認(rèn)了ChatGPT對(duì)公司的新客增長(zhǎng)產(chǎn)生了影響。

要知道，Chegg是一家學(xué)習(xí)類公司，ChatGPT搶了一堆飯碗。

這次暴跌，是2017年以來的最低價(jià)。

學(xué)生們一股腦的撲到了ChatGPT上去，Chegg的情況急轉(zhuǎn)直下。

面對(duì)這種情況，Chegg的CEO表示，要把AI的發(fā)展納入公司的規(guī)劃。

他表示，幾個(gè)月前他和OpenAI的CEO Sam Altman聊過AI+教育的問題。Chegg的CEO認(rèn)為，公司發(fā)展方向要盡快調(diào)整，把AI的能力納入Chegg的服務(wù)。

第一步就是推出CheggMate，這是一個(gè)和OpenAI合作的項(xiàng)目。

看來，比起憂心AI哪天會(huì)毀滅人類，我們眼下更應(yīng)該做的，是先掂量掂量自己的飯碗還穩(wěn)不穩(wěn)。

參考資料：

https://www.businessinsider.com/google-deepmind-ai-smart-human-brain-2023-5

https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/