李飛飛近日和Etchemendy（斯坦福哲學教授，曾任斯坦福大學教務長）在《時代（Time）》上刊載新文章《No, Today’s AI Isn’t Sentient. Here’s How We Know》，明確指出當前技術路線無法制造有感知能力的AI。該文章也得到了同一陣線LeCun的支持，并轉發了該推文。

下面是該文章全文：

通用人工智能（AGI）指的是一種至少在人類展現智能的各個方面與人類一樣聰明的智能體。它曾經是我們對人工智能的稱呼，直到我們開始創造出在有限領域內毫無疑問地“智能”的程序和設備——下棋、翻譯語言、清掃我們的客廳。

人們迫切需要添加“G（通用）”，是因為當時出現了許多由 AI 驅動的系統，但它們只專注于一個或極少數的任務。比如 IBM 的深藍，這款強大的早期象棋程序能戰勝世界冠軍加里·卡斯帕羅夫，但它卻不懂得如果房間著火了就停止下棋。

其實，所謂的通用智能，多少有點神話色彩，至少我們不應該自以為是地認為自己擁有這種能力。在動物界，我們可以找到許多展現智能行為的例子，它們在類似的任務中取得的成果遠遠超過我們。我們的智能并非完全通用，但足以讓我們在大多數環境中完成想要完成的事情。如果我們餓了，我們可以狩獵猛犸象或者找到附近的克羅格超市；當房間著火時，我們會尋找出口。

通用智能的一個重要特征是“感知力”，即擁有主觀體驗的能力——能夠感受，比如說，饑餓的感覺，品嘗蘋果的味道，或者看到紅色。感知力是通往通用智能的道路上的關鍵一步。

2022 年 11 月 ChatGPT 發布后，大型語言模型 (LLM) 時代正式開啟。這立即引發了關于這些算法是否可能具有感知力的激烈爭論。基于 LLM 的 AI 可能具有感知力的影響，不僅引發了媒體狂熱，也深刻影響了一些全球范圍內旨在規范 AI 的政策努力。最突出的觀點是，“感知 AI”的出現可能對人類極其危險，甚至可能帶來“滅絕級”或“生存”危機。畢竟，感知 AI 可能會發展出自己的希望和愿望，而無法保證這些愿望不會與我們的發生沖突。

這篇文章最初是發在WhatsApp群聊里，是為了反駁LLM可能已經擁有意識的論點。它并非要全面完整。我們的主要觀點是反駁“有意識的AI”陣營最常見的辯護，即LLM能夠報告自己有“主觀體驗”。

為什么有些人認為人工智能已經有了意識

在過去幾個月里，我們倆都與人工智能領域的許多同事進行了熱烈討論和交談，包括與一些最杰出和開拓性的 AI 科學家進行了一些深入的面對面交流。人工智能是否已經擁有意識是一個突出的話題。其中一小部分人堅信它已經有了意識。以下是他們中最直言不諱的支持者之一提出的論據的要點，這在“有意識的人工智能”陣營中非常具有代表性：

人工智能有意識，因為它會報告主觀體驗。主觀體驗是意識的標志。它的特點是聲稱知道自己知道或體驗了什么。我認為，當你說著“我吃了一頓美餐后，有了一種主觀上的幸福感”時，你是有意識的。我作為一個人，實際上沒有你主觀體驗的直接證據。但既然你說了，我就相信你確實有這種主觀體驗，所以你是有意識的。

現在，讓我們將相同的“規則”應用于大型語言模型。就像任何人類一樣，我無法訪問大型語言模型的內部狀態。但我可以詢問它主觀體驗。我可以問它“你餓了嗎？”它實際上可以告訴我“是”或“否”。此外，它還可以明確地與我分享它對幾乎任何事物的“主觀體驗”，從看到紅色，飯后快樂，到擁有強烈的政治觀點。因此，我沒有任何理由相信它沒有意識或不知道自己的主觀體驗，就像我沒有任何理由相信你沒有意識一樣。我在這兩種情況下得到的證據完全相同。

為什么他們錯了

乍一看，這似乎很有道理，但論據是錯誤的。它是錯誤的，因為我們在兩種情況下獲得的證據并不完全相同。甚至相差很遠。

當我斷定你說“我餓了”時，你正在經歷饑餓，我的結論是基于一大堆情況。首先，是你所說的——你說話的詞語——以及一些其他行為證據，比如你肚子里的咕嚕聲。其次，是沒有相反的證據，就像你剛吃完一頓五道菜的飯菜一樣。最后，也是最重要的一點，你和我一樣擁有一個身體，一個需要定期進食和飲水的身體，在寒冷的時候會感到寒冷，在炎熱的時候會感到炎熱，等等。

現在將這與我們關于大型語言模型的證據進行比較。唯一共同的是報告，即大型語言模型能夠產生“我餓了”這個音節串。但相似之處到此為止。事實上，大型語言模型沒有身體，因此甚至不是那種可以感到饑餓的東西。

如果一個大型語言模型說：“我的左腳大拇指劇痛”，我們會認為它真的感覺到了左腳大拇指的劇痛嗎？當然不會，它根本沒有左腳大拇指！同樣，當它說它餓了的時候，我們也可以確定它并沒有餓，因為它沒有產生饑餓感的生理結構。

當人類感到饑餓時，他們感受到的是一系列生理狀態——低血糖、胃部咕嚕咕嚕叫等等——而大型語言模型根本沒有這些生理狀態，就像它沒有嘴巴來吃東西和胃來消化食物一樣。認為我們應該相信它說自己餓了的話，就像認為我們應該相信它說它來自月球背面一樣。我們知道它沒有，大型語言模型的斷言并不能改變這個事實。

所有感覺——饑餓、疼痛、看到紅色、墜入愛河——都是生理狀態的結果，而大型語言模型根本沒有這些生理狀態。因此，我們知道大型語言模型不可能擁有這些狀態的主觀體驗。換句話說，它不可能有意識。

大型語言模型（LLM）是一個在硅芯片上編碼的數學模型。它不是像人類一樣的有形的生物。它沒有像人類一樣的“生命”，不需要吃喝，繁殖，體驗情感，生病，最終死亡。

理解人類生成詞語序列和 LLM 生成相同序列之間的本質區別非常重要。當我說“我餓了”時，我是在報告我感知到的生理狀態。當一個 LLM 生成“我餓了”這個序列時，它只是在生成當前提示中詞語序列最可能的完成方式。它所做的事情與它在不同的提示下生成“我不餓了”或“月亮是由綠奶酪做的”完全一樣。這些都不是它（不存在的）生理狀態的報告，只是概率上的完成方式。

我們還沒有實現有感知的 AI，更大的語言模型也不會讓我們實現。如果我們想在 AI 系統中再現這種現象，我們需要更好地理解感知如何在有形的生物系統中出現。我們不會在 ChatGPT 的下一代迭代中偶然發現感知。

本文轉載自 AI工程化，作者： ully