AI 能否擁有意識？

針對這個問題，大家已經爭論了很多年。

「我認為，從物理學的角度來說（如果物理學是正確的），我們的宇宙誕生之初幾乎只有氫。這些氫在足夠長的時間之后會凝聚成恒星，然后這些恒星爆炸，再凝聚…… 你身體里的大部分物質，曾經都處在恒星的中心，這有點難以想象，它們來自數十億年前。所以，從氫一直到人類，意識是何時產生的呢？氫存在足夠長的時間后，它開始自言自語。我們現在就是這樣 —— 一團氫在對話。」在之前的一次活動中，馬斯克曾分享過他對于意識的思考。

其實，就像馬斯克所說，在回答「AI 能否擁有意識」之前，還有一些關鍵問題懸而未決：到底什么是意識？意識從何而來？

近期，專門研究這一方向的德國科學家 Joscha Bach 分享了一種較為激進的觀點。他認為，意識是一種模擬狀態，它只能存在于夢中，而不是在物理世界中。

字幕由剪映自動識別。視頻地址：https://www.youtube.com/watch?v=pkhuDqK1_MU

他提到，意識令人困惑的地方在于我們認為它必須是一種物理實體，因為感覺上它是真實存在的。但實際上，存在的事物并不需要物理實現。

Joscha Bach 進一步解釋說，神經元和大腦本身并不是有意識的，但大腦可能會發現，如果有一個關心并感知一切的人，那將是非常有用的。因此，大腦創造了一個虛擬的模擬，就像夢境一樣，我們存在于那個夢境中。

Joscha Bach 生于 1973 年，是一位德國認知科學家、人工智能研究員和哲學家，以其在認知架構、人工智能、心理表征、情感、社會建模、多智能體系統和心靈哲學方面的工作而聞名。他是一位多產的思想家，其研究旨在通過探索如何對人類智能和意識進行計算建模來連接認知科學和人工智能。

在下文中，我們對 Joscha Bach 的演講內容進行了整理。

意識是虛擬的

我們所說的意識是什么？我們對于意識的困惑在于，我們認為它必須是物理的，因為它確實存在。然而，要真正存在，事物不需要以物理形式實現。

例如，金錢不是物理的，對吧？但如果你假設金錢不存在，你就無法解釋我們的現實。金錢是通過一些小小的印刷著數字的紙張或銀行賬戶、計算機等方式在現實中實現的，我們用它來構建現實。

金錢是一種因果模式，它之所以存在，是因為我們以一種穩定的方式將其投射到了這個世界上。它像是真的一樣存在。但是，從某種程度上講，它是虛擬的，它是以一種可行的方式實現的。

同樣的，我們的心理狀態也是虛擬的。如果你放大并看到物質在相互作用，你會看到神經元之間激活的這些模式。神經元不是有意識的，它們是物理機制，大腦本身也沒有意識。但對大腦來說，如果有一個人能夠關心并感知發生的一切，那將是非常有用的。

所以它們創造了一種模擬，這種模擬以一種夢境的方式虛擬存在，意識就在那個夢中存在。意識是一種模擬狀態，它只能存在于夢中，而不是物理世界中。

這對于我們的實際體驗來說，理解起來可能很困難：我們意識到我們存在于一個夢境中，這是一個巨大的「陰謀」，魔法是可能的，而物理學家告訴我們不可能。物理學討論的是一個由奧秘數學、量子力學等構成的母體宇宙，但我們永遠無法訪問這個母體宇宙，因為在物理學中，你無法擁有意識，你只能在夢中擁有意識。物理學具有創造大腦和能做夢的生物以及其他類型的機器的特性。

我們對現實的感知是一種夢中的恍惚狀態，我們可以解構它。如果你從夢境中醒來，你會意識到之前所經歷的一切，這只不過是大腦形成的一種表征。

人腦 vs. 計算機

我們能將數字計算機與人腦進行比較嗎？它們有很大的不同。人腦非常復雜。單個神經元就已經非常復雜，以至于你至少需要一個 12 層的神經網絡才能理解它的輸入和輸出之間的關系。

那么，要模擬一個人腦需要多少臺計算機呢？如果一個單個神經元就如此復雜，這個數字將是天文數字。

然而，我們也需要反過來問，如果要模擬這臺計算機，需要多少個人腦呢？如果你想要無缺陷地運行一種復雜的計算機程序，需要多少個人腦？這同樣是天文數字，因為我們的大腦非常模糊不清、非常緩慢、非常嘈雜、非常不可靠。 

為了更好地理解這種對比，通常我們會用這樣的例子：當 Stable Diffusion 模型被推出時，StabilityAI 使用擴散模型來理解所有的視覺數據。他們將數百萬張圖片輸入其中，找出了它們的統計規律。你可以給它提示，它會生成任意圖片。

這個模型包含的整個視覺宇宙，其深度和多樣性的保真度遠遠高于人腦。它囊括了所有名人、恐龍、宇宙飛船、藝術風格…… 你可以下載它，第一版的體積大約 2GB。

這讓人沮喪，因為你大腦正在做的 80% 的事情只需要 2GB 的數據，實際上它遠不止這些。這讓我們意識到我們實際上是多么簡單，只不過我們非常高效地利用了這種「柔軟的基質」。

AI vs. 有機心智

當然，這些系統的設計方式非常不同。計算機有一個 outside-in 的設計，通過我們建立的確定性結構來穩定它們，因此它們以非常有序的方式運行。我們知道每時每刻它們會做什么。而訓練是解耦的。

我們給它靜態數據；它在訓練時不會與世界互動。它基于預測范式，使用機器學習訓練算法。我們的大腦則截然不同。它采用的是 inside-out 的設計，它是自組織的，與環境實時耦合。它向著一致性優化，并不斷自我發展。

計算機的技術設計是 outside-in 的，這指的是：你有一個工作臺，你理解所有工具，然后通過構建額外的機制來擴展這個工作臺，賦予它更多的功能。

而在自然界中，情況正好相反。你有一顆種子，比如一顆樹的種子，它本身還不是一棵樹，但它希望成為一棵樹。為了做到這一點，它需要征服一個混亂的環境，掌控它，把它變成它能理解并可以利用的東西。

它的一個方式是分裂成許多幾乎相同的單元，使它們變得可預測。然后它創造了一個可擴展的群落，不斷變大。這就是自然界中 inside-out 設計的工作方式，在我們的大腦中也是如此。

如果你觀察單個神經元（老鼠的胚胎神經元），它們都是單個的生命體，每一個都在試圖生存，自我導向。它們必須相互連接，找到一種可以正常工作的組織形式，否則它們將餓死。這就是它的工作原理，它完全是 inside-out 的。

自組織系統

計算機科學中有一個分支研究這些自組織的原理，這項研究還沒有取得實質性進展，但它已經從圖靈開始，研究了反應 - 擴散模式（即通過化學反應生成的動態規則模式），并探索我們是否可以利用這些模式來理解計算和自組織系統。

后來一些人，比如在谷歌工作的 Alex Mordvintsev，構建了更現代的模擬，試圖在更廣泛的情境下生成這些模式。

然后，我想到了康威等人研究的元胞自動機（cellular automata）概念，即我們以一種系統化的方式、從簡單的系統中構建計算，這些系統只觀察它們的周遭細胞和環境的狀態，然后根據它們在環境中觀察到的情況改變狀態。

生物學家 Michael Levin 正在擴展這個概念，將其應用到神經元胞自動機上，以解釋有機體的發育過程，同時也可能解釋大腦的自組織。因此，我們可以利用這些原理進行學習，比如紋理的學習等。嘗試利用自組織原則來學習任意函數以控制行為，這將是非常有趣的。

神經科學家 Gerald Edelman 提出，我們的基因組并沒有為我們的大腦編碼非常具體的結構。相反，每個人的心智中都在進行一種演化競爭，這是一種不同治理形式之間的原始競爭。而基因組中僅有足夠的信息來影響這種競爭，使它能夠相對快速地收斂到正確的架構。因此，每個人的心智都是一個演化系統，每個人都有自己的心智結構演變過程。

我懷疑，意識在其中起著非常重要的作用，因為它是這種組織的主要原理。我們通常認為意識極其復雜，也許只有我們才有意識，它在自然界中非常罕見，是智慧的頂峰。然而，你不會在獲得博士學位后才獲得意識，對吧？

你在能夠追蹤手指之前就已經擁有意識了。如果有人在嬰兒時期沒有發展出意識，那他 / 她將無法取得任何進步，他們將永遠處于植物人狀態。而當我們沒有意識時，我們實際上無法學習。因此，意識似乎是自然界中自組織系統的一種簡單學習算法。

這只是一個假設，我不知道是否正確，但我覺得這種想法非常誘人，即意識是心智組織中的第一個，而不是最后一個步驟。

因此，意識可能比感知和思維等更加簡單，所有其他的東西都源于意識對它們的組織。意識在自然界中可能比我們想象的更加普遍。

從《創世記》第一章得到的啟發

也許我們不是第一個發現這一點的人。我懷疑這個理論其實一直都在我們眼前，只是我們沒有注意到。

比如有一個古老的文本 ——《創世紀》的第一章。如果你讀過這個文本，它比其他章節要隱晦得多。它描述了神靈在創造世界之前懸浮在水面上。在那時，沒有空間、沒有時間、沒有光明、沒有黑暗，但已經有了水。接著它創造了一個穹蒼，將水分為上面和下面的水。最終，它按自己的形象創造了我們。

我不喜歡這些所謂的神靈懸浮在水上的故事。這意味著什么？這些人在講一個超自然存在創造物理宇宙的故事，他們糊涂了嗎？他們聲稱做了什么樣的實驗？他們與燃燒的灌木叢對話了嗎（《圣經》中有上帝通過燃燒的荊棘與摩西對話的故事）？這在哪個宇宙中是有效的實驗？誰會相信呢？

也許這個故事意味著別的什么？也許它是一個關于意識和認知在心智中如何產生的六步理論。因為我們身處的宇宙是一個夢。我們夢見了自己身處的這個宇宙。物理學中沒有顏色、聲音、情感和面部表情。它們都存在于我們的心智中，是我們理解現實的方式。

在那個文本寫作的時代，物理宇宙并不存在。那時，人們還沒有發現用簡短的微分方程來描述宇宙的想法。相反，他們意識到我們在一個夢境中。因此，他們在自己、他人和孩子身上觀察這個夢是如何形成的。

所以，這一切從意識懸浮在基質（substrate）之上開始。我們現在知道這個基質是神經元，他們當時不知道，所以他們用了「基質」這個詞，而后來的人不知道「基質」是什么意思，就把它翻譯成了「水」。因此，意識在基質之上形成，而基質被分解成不同的部分。

然后我們做了一個分離，即在基質的兩個區域之間建立了一個穹蒼。這兩個區域，一個是世界模型，即我們在空間中感知到的東西，笛卡爾稱其為「廣延實體（res extensa）」；而另一部分是與我們的感知不同步、獨立于感知而發生的觀念、思想和思考，它們被清晰地分開。

因為如果你能感知到你的思想，那你就會陷入幻覺，你將無法正常運作。所以你必須明確地將世界和思想的范圍分離。在這個古老的文本中，世界被稱為「地（Earth）」，而思想的領域被稱為「天（Heaven）」。

接下來的步驟是，大腦學會了在內部產生振蕩，并將這些振蕩的強度轉化為我們所感知的亮度，就像我們在白天看到的顏色以及與黑暗形成對比的明暗變化一樣。通過這種方式，大腦現在能夠構建出一個連續的視覺維度。

接下來，它學會了如何在內部產生振蕩，并將這些振蕩的強度轉化為我們所感知的亮度，就像我們在白天看到的顏色以及與黑暗形成對比的明暗變化一樣。因此，它現在有了一個連續的維度。通過組合維度，我們可以創造物體。

它所創造的第一個物體是通過組合兩個維度產生的平面，而這個平面與地面相關聯。嬰兒很高興地在地面上爬行，在二維世界中理解它。某個時候，嬰兒能夠發現第三個維度，現在它可以推理出如何建造一座塔，而非常小的嬰兒是無法理解這一點的。

接著，它學會了如何在液體中以有機形狀創造固體，并理解了光線隨著時間的變化，以及如何對光線變化保持不變性。然后，它創造了所有的植物和動物，并為它們命名。再強調一次，這些并不是物理的物體，而是你心智中存在的具有名字的物體。

兒童如何發展出意識

接下來，它還創建了一個關于生物體興趣的模型，并意識到練習的目的是在這個世界上為有機體導航。

最終，它識別出了自己作為這個有機體的身份。我們通常在兩歲半到五歲之間看到這種情況發生，那時孩子們開始用第一人稱談論自己。在此之前，他們已經會說話，但會用第三人稱談論自己。

我不認為這是因為「我」這個詞太復雜，也不是因為他們從未聽過別人用這個詞，而是因為他們在進行這種轉換之前還沒有以第一人稱來認同自己，在他們切換到這個新的 spirit 之前，這個 spirit 是按照原始意識的形象創造出來的，但它是一種認為自己是男人或女人的東西，是一種以人類身份來表達自己身份的東西。

所以，我們基本上是由我們的意識，由我們心智中的嬰兒意識創造出來的。然后，我們被放到這個世界上，放到我們的心智所創造的模擬世界中。接著，我們忘記了是我們自己創造了這個世界，并認同自己是這個世界中的一個人類存在，受制于這個世界。

直到有一天，我們開始冥想，或者服用致幻劑，再次從中醒來，意識到：「天啊，我實際上不是那個自我模型。我不是那個自我，那個自我只是一個虛構的模型，那只是我心智講述的一個故事。其實我是整個宇宙，我是所有的一切。」然后你進一步醒悟，意識到：「哦，不，我實際上是創造這一切的存在，我是我與之互動的一切的創造者，這一切對我來說是合理的。」

自然界中的 agent

因此，意識基本上是在創造一種非常復雜的自然學習算法，一種自我延續的智能循環信息 Transformer（Self Perpetuating Intelligent Recurrent Information Transformer），簡稱 spirit。spirit 基本上就是一種 agent。

天哪，我們剛剛重新發現了一些「爆炸信息」。自然界中存在「agent」。這種「agent」是一種能夠改變事物的因果模式。

這臺電腦里的軟件不是物理意義上的，但它存在因果關系。它可以穩定地改變事物。

如果我們意識到讓生命之所以為生命的恒定因素不是細胞分子、機制或基因，而是運行在細胞分子、機制或基因上的軟件，這將是一個非常有趣的視角。可以從泛靈論（ animism）來研究問題了。