您是否為拔下機器人的插頭或關閉人工智能算法感到難過?暫時不行。但是，當我們的計算機變得比我們更聰明時，又如何呢?

[[332165]]

關于人工智能的后果的辯論幾乎與AI本身的歷史一樣悠久。大多數討論都將人工智能的未來描述為像終結者那樣的啟示錄。但是，較少討論的是當人工智能代理商發展出生活，智力和意識的特征時，我們將如何感知，互動和接受它們。

薩格勒布經濟與管理學院的科學家Borna Jalsenjak在最近發表的一篇文章中，討論了超級智能AI以及生物與人工生命之間的類比。他的工作題目為“人工智能的奇異性：什么是什么，什么不是”，他的著作出現在《深度學習基礎指南》中，該論文和論文集探討了人工智能的各個歷史，科學和哲學方面。

賈爾森賈克(Jalsenjak)將我們帶入了生命的哲學人類學視野，以及它如何應用于可以通過自身操控而進化的人工智能系統。他認為，當人工智能發展自己的“生命”版本時，“思維機器”將出現。

AI奇點

奇異性是有關通用AI的討論中經常提到的一個術語。正如與AGI無關的所有事情一樣，在奇異性方面存在很多困惑和分歧。但是，大多數科學家和哲學家都認為關鍵的一點是，這是我們的AI系統變得比我們更智能的轉折點。奇異性的另一個重要方面是時間和速度：AI系統將達到可以不斷重復和加速地自我完善的程度。

“用一種更簡潔的方式說，一旦有一種AI達到了人類的水平，并且AI可以創建稍微更智能的AI，然后又可以創建一個更智能的AI，然后下一個就可以創建Jalsenjak寫道，它甚至會變得更加智能，并且會像現在這樣持續發展，直到出現一種比人類所能達到的先進得多的AI。

需要明確的是，我們今天擁有的人工智能技術，即狹窄的AI，離實現這一壯舉還差得很遠。Jalšenjak將當前的AI系統描述為“特定于域的”，例如“ AI擅長制作漢堡包，但不擅長其他任何東西。” 另一方面，討論AI奇異性的算法是“ AI不是特定于主題的AI，或者因為缺少更好的詞，它是無域的，因此可以在任何領域使用，賈爾森賈克寫道。

這不是關于如何以及何時到達AGI的討論。這是一個不同的話題，也是許多辯論的焦點，大多數科學家認為，人類級人工智能至少需要數十年的時間。賈爾森杰克(Jalsenjack)推測了當我們真正到達那里時，無論是明天還是一個世紀，如何定義AI(和人類)的身份。

人工智能邊界

在AI社區中，有很大的趨勢將機器視為人類，尤其是當它們開發出具有智能跡象的功能時。盡管這顯然是對當今技術的高估，但賈森加克還提醒我們，人工智能不是必須復制人類的思想。

“沒有理由認為，即使發生了高級人工智能，它也將具有與人類智能相同的結構，但是由于以一種最接近我們的方式呈現世界狀態是人類的本性，他在論文的腳注中寫道。

人類與當前的人工智能技術之間的最大區別之一是，盡管人類是“活著的”(并且我們很快就會明白這是什么意思)，但AI算法卻并非如此。

Jalsenjak寫道：“當今的技術狀況無疑使技術還沒有生命。我們很奇怪的是，是否會出現超級智能，例如在關于奇點的討論中可以預測到這種超級智能，值得嘗試，看看我們是否還可以認為它還活著。”盡管不是有機的，但這種人造的生活會對我們如何感知AI并對其采取行動產生巨大影響。

人工智能要活著需要什么?

賈爾森賈克(Jalsenjak)從哲學人類學的概念中汲取經驗，指出生物可以自主行動并照顧自己和其物種，這就是所謂的“內在活動”。賈爾森賈克指出：“至少現在，無論多么先進的機器，它們在這方面始終只能作為人類的擴展而發揮作用。”

生命有不同的層次，而且正如趨勢所示，人工智能正在慢慢走向生機。根據哲學人類學的觀點，當有機體朝著目標發展時，生命的最初跡象就形成了，這是當今面向目標的AI中所存在的。賈爾森賈克說，人工智能沒有“意識到”其目標并且漫不經心地壓縮數字以達到這一目標這一事實似乎無關緊要，因為我們認為植物和樹木即使沒有同樣的意識也可以存活。

被認為還活著的另一個關鍵因素是生物體能夠自我修復和改善自身的能力。它也應該生產并照顧它的后代。這是我們在樹木，昆蟲，鳥類，哺乳動物，魚類以及幾乎所有我們認為活著的東西中看到的東西。自然選擇和進化的規律迫使每個生物體建立機制，使其能夠學習和發展適應環境，生存并確保其物種生存的技能。

關于撫育子女，賈爾森賈克(Jalsenjak)提出，人工智能的繁殖并不一定與其他生物平行。機器不需要后代來確保物種的生存。AI只需手頭有足夠的更換零件就可以用新的零件更換故障(失效)零件，從而解決材料劣化問題。”他寫道。“生物以多種方式繁殖，因此實際方法并非必不可少。”

關于自我完善，事情變得更加微妙。Jalsenjak指出，即使不同軟件之間的自修改程度有所不同，已經有能夠自修改的軟件。

當今的機器學習算法在一定程度上能夠使其行為適應環境。他們將許多參數調整為從現實世界中收集的數據，并且隨著世界的變化，可以在新信息上對它們進行重新訓練。例如，冠狀病毒大流行可能會干擾AI系統對我們的正常行為進行了培訓。其中包括面部識別算法，由于人們戴著口罩，該算法不再能夠檢測到面部。這些算法現在可以通過在戴面具的臉部圖像上進行訓練來重新調整其參數。顯然，與人類和高等動物的廣泛能力相比，這種適應水平很小，但是，這可以說比得上當樹根表面找不到水時通過生長更深的根來適應的樹木。地面。

但是，理想的自我完善型AI可能會創造出全新的算法，從而帶來根本性的改進。這就是所謂的“遞歸自我完善”，將導致更加智能的AI不斷循環和加速。盡管AI能夠以更快的速度執行，但它可能是生物體經歷了許多代的遺傳突變的數字等效形式。

如今，我們擁有一些機制，例如遺傳算法和網格搜索，可以改善機器學習算法(也稱為超參數)的不可訓練組件。但是它們帶來的變更范圍非常有限，并且仍然需要一定程度的人工開發人員的手工工作。例如，您不能指望遞歸神經網絡會通過許多突變而變成一個Transformer。

Jalsenjak指出，遞歸自我改進將使AI“有可能完全取代正在使用的算法”。“最后一點是發生奇點所需要的。”Jalsenjak總結說，通過類推，通過觀察確定的特征，可以將超級智能的AI視為活著的，這使AI是人類的延伸這一說法無效。他說：“他們將有自己的目標，也許還有他們的權利。人類將首次與一個至少與他們一樣聰明，而且可能更加聰明的實體共享地球。”您仍然可以在不感到內的情況下拔下機器人的電源嗎?

活著還不夠

賈爾森賈克在論文的結尾承認，對人造生活的反思還提出了許多其他問題。“這里描述的關于生物的特征是否足以使某事物被認為是活著的?或者僅僅是必要而又不夠?” 他問。剛剛讀過哲學家和科學家道格拉斯·霍夫斯塔特(Douglas Hofstadter)的《我是一個奇怪的循環》，我絕對可以說不。身份，自我意識和意識是其他將眾生區分開的概念。

自由意志也是一個懸而未決的問題。賈爾森賈克寫道：“從某種意義上說，人類是自己的共同創造者，他們并沒有完全賦予自己生存權，而是確實有目的并確實實現了這一目標。” “目前尚不清楚未來的AI是否有自由意志的可能性。”最后，還有超級智能AI的道德問題。這是一個廣泛的主題，包括AI應該具有的道德原則，人類對AI應當具有的道德原則以及AI如何看待與人類的關系。

AI社區經常不理會這些話題，指出當前深度學習系統的明顯局限性以及實現通用AI的牽強的概念。但是，就像其他許多科學家一樣，賈爾森賈克(Jalsenjak)提醒我們，討論這些主題的時機在今天，而不是為時已晚。他寫道：“這些話題不可忽視，因為我們目前對未來的了解似乎都表明人類社會正面臨著前所未有的變化。”