?谷歌前首席執行官埃里克·施密特（Eric Schmidt）在一次訪談中，將人工智能比作核武器，并呼吁建立一個類似的相互確保毀滅的威懾機制，以防止世界上最強大的國家因為AI相互毀滅。

相互保證毀滅（Mutually Assured Destruction，簡稱M.A.D.機制，亦稱共同毀滅原則）是一種“俱皆毀滅”性質的思想。對立的兩方中如果有一方全面使用則兩方都會被毀滅，被稱為“恐怖平衡”。

施密特將AI與核武器相對比，表示中美未來可能要締結類似于禁止“核試驗”相似的條約，以防止AI毀滅世界。

施密特：當時我還很年輕，還很天真

7月22日，施密特在阿斯彭安全論壇（Aspen Security Forum）國家安全和人工智能專題小組會議上談到了人工智能的危險。

在回答一個關于科技中的道德價值的問題時，施密特解釋說，他自己在谷歌早期對信息的力量認識還很天真。

然后，他呼吁科技要更好地符合其服務對象的道德和倫理，并將人工智能與核武器進行了奇怪的比較。

施密特設想在不久的將來，中國和美國需要圍繞人工智能簽訂一些條約。

施密特說：“在50年代和60年代，我們最終制定了一個關于核試驗的‘意料之中’的規則，最終核試驗被禁止了。”

施密特認為“這是一個信任或缺乏信任的平衡的例子，這是一個‘沒有驚喜’的規則”，他非常擔心美國和中國這兩個人工智能大國之間，因為一些誤解和誤會而開始一些事情，導致觸發危險的事件。

施密特表示，目前沒有人在這方面進行研究，但人工智能是如此強大。

埃里克·施密特曾在2001年至2011年擔任谷歌首席執行官，2011年至2015年擔任谷歌執行董事長，2015年至2017年擔任 Alphabet 公司執行董事長，2017年至2020年擔任 Alphabet 技術顧問。 

2008年，在擔任谷歌董事長期間，施密特為巴拉克?奧巴馬(Barack Obama)助選，隨后與埃里克?蘭德(Eric Lander)一起成為奧巴馬總統的科技顧問委員會(Council of Advisors on Science and Technology)成員。

從2019年到2021年，施密特與羅伯特·O·沃克(Robert O. Work)共同主持了美國國家人工智能安全委員會(National Security Commission on AI)。 

AI果真有那么危險嗎？

人工智能和機器學習是一項令人印象深刻但經常被誤解的技術。在很大程度上，它并不像人們認為的那樣聰明。

它可以制作出杰作級的美術作品，在《星際爭霸2》中擊敗人類，還可以為用戶撥打基本的電話，然而，試圖讓它完成更復雜的任務，比如自動駕駛，卻進展不太順利。

施密特設想，在不久的將來，中國和美國都會對安全問題感到擔憂，從而迫使雙方就人工智能達成某種威懾條約。?

他談到了20世紀50年代和60年代，當時各個國家通過外交手腕精心設計了一系列對地球上最致命武器的控制。但是，世界要達到制定《禁止核試驗條約》(Nuclear Test Ban Treaty)以及第二階段《限制戰略武器條約》(SALT II)和其他具有里程碑意義的立法的地步，需要經歷幾十年的核爆炸，比如像廣島和長崎的核爆炸。

美國在第二次世界大戰結束時用核武器摧毀的兩個日本城市、殺死了成千上萬的人，并向世界證明了核武器的永恒恐怖。

隨后，蘇聯和中國也成功開發了核武器，隨后便誕生了相互保證毀滅(MAD) ，一種維持“危險平衡”的威懾理論，確保如果一個國家發射核武器，其他國家也有可能發射。

到目前為止，人類還沒有使用這個星球上最具破壞性的武器，因為這樣做可能會摧毀全球的文明。

目前人工智能有這樣的威力嗎？?

現在看來，人工智能還沒有證明自己具有核武器那樣的破壞力，但是許多掌權者害怕這種新技術，人們甚至建議把核武器的控制權交給人工智能，這些人認為人工智能比人類更適合作為核武器使用的仲裁者。

所以人工智能的問題也許不在于它擁有核武器的潛在世界毀滅力量，人工智能的好壞取決于它的設計者他們反映了創造者的價值觀。

人工智能存在經典的“garbage in, garbage out”的問題，種族主義算法誕生種族主義機器人，人工智能也會產生偏見。

DeepMind 的首席執行官戴米斯?哈薩比斯(Demis Hassabis)比施密特更明白這個道理。

DeepMind曾培養出一種能夠擊敗《星際爭霸2》(Starcraft II)玩家的人工智能，在Lex Fridman 播客7月份的一次采訪中，Fridman問哈薩比斯如何控制像人工智能這樣強大的技術，以及哈薩比斯本人如何避免被這種力量腐蝕。

哈薩比斯的回答：“人工智能是一個太大的想法，”他說，“重要的是誰創造了(人工智能) ，他們來自哪種文化，他們有什么價值觀，他們是人工智能系統的建造者。人工智能系統會自己學習... ... 但是這個系統的文化和創造者的價值觀會在這個系統中殘留下來。”

人工智能是其創造者的反映，120萬噸級的爆炸不可能把一座城市夷為平地，除非人類教它這么做。?