Hinton最新警告：殺手機(jī)器人或?qū)?lái)更多戰(zhàn)爭(zhēng)，最大擔(dān)憂是AI接管人類
Couric：如果你能把奧特曼和馬斯克請(qǐng)到同一張桌子上，你會(huì)對(duì)他們說(shuō)什么？
Hinton：我會(huì)說(shuō)：你們很清楚，你們正在開(kāi)發(fā)的東西，很可能把人類毀滅掉。
近期，「AI教父」Geoffrey Hinton，在與《Next Question》主持人Katie Couric對(duì)話時(shí)，直言不諱地說(shuō)出了內(nèi)心對(duì)AI安全的憂慮。
Geoffrey Hinton與《Next Question》主持人Katie Couric對(duì)話
實(shí)際上，這已經(jīng)不是他第一次為預(yù)警AI風(fēng)險(xiǎn)而發(fā)聲。
2023年5月，時(shí)任谷歌首席AI科學(xué)家的Hinton從谷歌辭職，扮演起「AI吹哨人」的角色。
自此，他一直在關(guān)注和呼吁人類要警惕AI過(guò)快發(fā)展帶來(lái)的風(fēng)險(xiǎn)，還表示后悔自己未能更早地考慮AI的安全問(wèn)題。
近日，Hinton再次發(fā)出警告——AI正在改變戰(zhàn)爭(zhēng)方式，讓?xiě)?zhàn)爭(zhēng)變得更容易：
自主武器，意味著「死掉的機(jī)器人」，而不是「裹尸袋」。
圖片
Geoffrey Hinton稱，殺手機(jī)器和無(wú)人機(jī)正在降低戰(zhàn)爭(zhēng)的人道成本
Hinton表示，「殺手機(jī)器人」「無(wú)人機(jī)」等致命自主武器的興起，正在讓發(fā)動(dòng)戰(zhàn)爭(zhēng)變得更容易。
AI讓發(fā)動(dòng)戰(zhàn)爭(zhēng)變得更容易
「殺手機(jī)器人」參與戰(zhàn)爭(zhēng)，將會(huì)代替許多原本可能在戰(zhàn)場(chǎng)中死掉的人。
這本應(yīng)該是件好事，但恰恰也是最讓這位「AI教父」恐懼的事情。
這樣一來(lái)，發(fā)動(dòng)一場(chǎng)戰(zhàn)爭(zhēng)的成本會(huì)更低，戰(zhàn)爭(zhēng)就更容易爆發(fā)了。
Hinton表示，「殺手機(jī)器人」的興起不會(huì)讓?xiě)?zhàn)爭(zhēng)更安全，相反它會(huì)通過(guò)降低作戰(zhàn)的人力與政治成本，使戰(zhàn)爭(zhēng)更容易爆發(fā)。
這使得一個(gè)富國(guó)想入侵一個(gè)窮國(guó)，變得更容易了。
因?yàn)樵瓉?lái)能夠阻戰(zhàn)爭(zhēng)發(fā)生的，就是這些富國(guó)的公民在戰(zhàn)場(chǎng)上被裝進(jìn)裹尸袋。
但是，AI改變了這一點(diǎn)，「如果有致命自主武器，回來(lái)就不是死人，而是死掉的機(jī)器人。」
在Hinton看來(lái)，這種轉(zhuǎn)變，可能會(huì)慫恿政府發(fā)動(dòng)戰(zhàn)爭(zhēng)，同時(shí)也會(huì)讓軍火商大發(fā)其財(cái)。
「這對(duì)軍火商來(lái)說(shuō)簡(jiǎn)直太棒了，因?yàn)檫@些機(jī)器人更換起來(lái)很昂貴」。
除了降低戰(zhàn)爭(zhēng)成本，Hinton認(rèn)為AI已經(jīng)在重塑戰(zhàn)場(chǎng)，改變戰(zhàn)爭(zhēng)的方式。
比如，在現(xiàn)實(shí)戰(zhàn)爭(zhēng)中，已經(jīng)通過(guò)AI驅(qū)動(dòng)的無(wú)人機(jī)、無(wú)人系統(tǒng)改變了戰(zhàn)場(chǎng)，顛覆了傳統(tǒng)戰(zhàn)爭(zhēng)形態(tài)和戰(zhàn)爭(zhēng)手段。
甚至有人說(shuō)，未來(lái)戰(zhàn)爭(zhēng)中，數(shù)據(jù)的作用將超越彈藥。
以現(xiàn)實(shí)戰(zhàn)爭(zhēng)舉例，現(xiàn)在一架500美元的無(wú)人機(jī)，就可以摧毀一輛價(jià)值數(shù)百萬(wàn)美元的坦克。
而且，AI技術(shù)也讓傳統(tǒng)硬件逐漸顯得過(guò)時(shí)，比如它使載人戰(zhàn)斗機(jī)變成一個(gè)愚蠢的主意：
「如果你能在戰(zhàn)機(jī)里裝上AI，AI可以承受更高的過(guò)載——而且不用過(guò)多擔(dān)心人員傷亡。」
AI接管將是人類最大的擔(dān)憂
與AI對(duì)未來(lái)戰(zhàn)爭(zhēng)帶來(lái)的影響相比，Hinton更擔(dān)心人類被AI接管的風(fēng)險(xiǎn)。
2024年，Hinton在獲得諾貝爾物理學(xué)獎(jiǎng)時(shí)表示，希望人們可以更認(rèn)真地看待他關(guān)于AI以及其未來(lái)角色的觀點(diǎn)。
而經(jīng)過(guò)這些年，Hinton也逐漸把他有關(guān)AI擔(dān)憂的思考，更廣泛地傳開(kāi)了。
當(dāng)談到當(dāng)下AI的風(fēng)險(xiǎn)，Hinton表示：
我的主要擔(dān)憂，并不是惡意行為者在短期內(nèi)濫用AI的風(fēng)險(xiǎn)（那當(dāng)然也非常嚴(yán)重），而是更長(zhǎng)期的風(fēng)險(xiǎn)——AI本身接管。
這種風(fēng)險(xiǎn)，主要來(lái)自科學(xué)家們對(duì)AI將大幅超越人類智力的預(yù)測(cè)。
Hinton談到了要避免被AI接管的唯一方法，就是讓我們構(gòu)建的那些超級(jí)智能AI，根本「不想」接管。而實(shí)現(xiàn)這一點(diǎn)的技術(shù)，和讓AI更聰明的技術(shù)有些不同。
在這個(gè)問(wèn)題上，更容易取得國(guó)際間的合作。因?yàn)楦鲊?guó)不會(huì)分享如何做出最聰明AI的辦法，但卻會(huì)在「如何讓它不想取代人類」這件事上合作。
AI會(huì)取代我們的工作嗎？
除了戰(zhàn)爭(zhēng)，Hinton關(guān)于AI的另一個(gè)警告，是它幾乎可能在所有領(lǐng)域，取代大量的工作崗位。
這個(gè)問(wèn)題所帶來(lái)的挑戰(zhàn)，并非在技術(shù)，而是在社會(huì)治理上：
「如果我們的政治體系足夠公平，當(dāng)AI大幅提升生產(chǎn)率時(shí)，本應(yīng)當(dāng)使每個(gè)人都能得到更多商品和服務(wù)。」
當(dāng)談到大學(xué)生未來(lái)的職業(yè)選擇，Hinton認(rèn)為AI會(huì)很快替換掉呼叫中心這類低薪、培訓(xùn)差的工作。
此外，還有律師助理、程序員等白領(lǐng)崗位上的一些初級(jí)崗位工作也可能被替代（一些能設(shè)計(jì)復(fù)雜系統(tǒng)的頂尖程序員仍然會(huì)吃香）。
與這些崗位相比，相反一些需要人手靈巧度的工作，比如水管工更不容易取代（當(dāng)然，最終機(jī)器也會(huì)變得靈巧，所以十年、二十年后，連這個(gè)可能也不安全了）。
Hinton認(rèn)為相比較律師、會(huì)計(jì)等知識(shí)型崗位，水管工的風(fēng)險(xiǎn)要小得多
令人有點(diǎn)沮喪的是，Hinton還提到，AI甚至也在替代一些需要高情商和人際溝通的工作，比如護(hù)士、醫(yī)生，原因是AI會(huì)比人類更具同理心：
「如果讓人們分別和醫(yī)生以及一個(gè)AI互動(dòng)，再問(wèn)他們誰(shuí)更有同理心，AI的評(píng)分更高。」
在訪談中，Kittie Couric還談到了「全民基本收入」（UBI），是否有助于應(yīng)對(duì)大規(guī)模工作被AI取代的問(wèn)題。
UBI是近幾年一些國(guó)家公共政策討論中的熱點(diǎn)議題，是為社會(huì)中的每個(gè)人，提供兜底的收入保障。
Hinton認(rèn)為它雖然治標(biāo)不治本，但是一個(gè)很好的「創(chuàng)可貼」。
UBI可以讓人不至于挨餓、付得起房租，但它解決不了價(jià)值觀喪失的問(wèn)題。
因?yàn)閷?duì)于很多人來(lái)說(shuō)，自我價(jià)值感和他們的工作緊密相關(guān)。一旦失業(yè)，這種價(jià)值感就會(huì)喪失。
AI常見(jiàn)的一個(gè)應(yīng)用場(chǎng)景，是在醫(yī)療科技領(lǐng)域。Hinton也提到了AI在醫(yī)療和疾病領(lǐng)域相關(guān)的科學(xué)突破。
比如，AI可以通過(guò)解讀眼底圖像，預(yù)測(cè)心梗發(fā)病幾率，這在以往是做不到的。
此外，AI還可以在新藥設(shè)計(jì)上發(fā)揮很強(qiáng)的關(guān)鍵作用。
Hinton談到DeepMind團(tuán)隊(duì)提出了從蛋白質(zhì)序列預(yù)測(cè)其折疊結(jié)構(gòu)的方法，還分拆出了一家專做新藥設(shè)計(jì)的公司。
他認(rèn)為，未來(lái)一兩年，或許更長(zhǎng)一點(diǎn)時(shí)間內(nèi)，我們會(huì)迎來(lái)一系列更好的藥。
對(duì)AI未來(lái)的樂(lè)觀展望
Hinton始終提醒人類，要注意防范被自己所創(chuàng)造出來(lái)的、更聰明的AI接管的風(fēng)險(xiǎn)。
以O(shè)penAI、谷歌為代表的AI公司，是AI技術(shù)發(fā)展背后的重要推手，但在Hinton看來(lái)，沒(méi)有哪家公司在這一問(wèn)題上是做得足夠的：
「Anthropic是一些離開(kāi)OpenAI的人創(chuàng)辦的，因?yàn)樗麄冋J(rèn)為后者在安全研究上的投入太少。但Anthropic還是可以做得更多；盡管OpenAI強(qiáng)調(diào)是以安全發(fā)展AI為目標(biāo)，但他們?cè)絹?lái)越關(guān)心讓AI更聰明，而不是如何讓它更安全。
Hinton揭示了這些AI公司在安全問(wèn)題上滑稽、矛盾的一面：
奧特曼在很大程度上轉(zhuǎn)向了「快點(diǎn)發(fā)展，別太注意安全」；馬斯克在起訴奧特曼，說(shuō)他忘了「安全發(fā)展AI的初心」。但馬斯克在發(fā)展AI上，對(duì)安全也并不上心。
Kittie Couric還問(wèn)了Hinton一個(gè)非常有意思的問(wèn)題。
Kittie Couric：如果你能把奧特曼和馬斯克請(qǐng)到同一張桌子上，你會(huì)對(duì)他們說(shuō)什么？
Hinton：我會(huì)說(shuō)：你們很清楚，自己開(kāi)發(fā)的東西有很大概率把人類滅掉。你們私下也承認(rèn)這點(diǎn)。你們應(yīng)該投入更多精力，用能確保安全的方式來(lái)開(kāi)發(fā)。
Kittie Couric：你覺(jué)得是什么阻止了他們？是貪婪嗎？
Hinton：基本上是的。他們想靠AI賺大錢(qián)，還有「做出比人類更聰明的東西」的興奮感。但這非常危險(xiǎn)。
對(duì)話還談到了貪婪、自負(fù)等人性弱點(diǎn)，對(duì)AI研究可能帶來(lái)的潛在風(fēng)險(xiǎn)。
Hinton認(rèn)為年輕的AI研究者，比年長(zhǎng)者更能理解AI的力量和潛在的負(fù)面效應(yīng)，他們也更能意識(shí)到AI接管可能帶來(lái)的風(fēng)險(xiǎn)。
一個(gè)積極的信號(hào)是：當(dāng)談到對(duì)AI未來(lái)的展望時(shí)，Hinton表示他比幾周前更樂(lè)觀了。
Hinton提出為AI植入「母性本能」，這是他最近看到人類與AI共存的一絲希望
這一轉(zhuǎn)變，主要是因?yàn)樗P(guān)于「AI母親」的思考，一種嘗試AI植入類似「母性本能」的新思路：
嬰兒之所以能控制母親，是因?yàn)楹芏鄸|西被「進(jìn)化寫(xiě)進(jìn)了」母親身上，母親真心希望孩子成功，會(huì)盡一切可能確保孩子成功。我們希望AI也會(huì)如此。
「AI母親」這一思考，重塑了人類如何與AI共存的思路，不是想著支配它們，而是為它們植入「母親本能」。
這一設(shè)想，也顛覆了大多數(shù)人的想象：
在AI面前，我們不再是「智慧頂點(diǎn)」（母親），而是嬰兒。
