近日，OpenAI 的掌舵人 Sam Altman 在其個(gè)人博客上發(fā)表了一篇題為《The Gentle Singularity》（溫和的奇點(diǎn), https://blog.samaltman.com/the-gentle-singularity）的重磅文章，再次將人工智能的未來推向了輿論的風(fēng)口浪尖。Altman 以其一貫的前瞻性視角，大膽宣稱：“我們已越過事件視界；起飛已經(jīng)開始。人類已接近構(gòu)建數(shù)字超級(jí)智能，而且至少到目前為止，它遠(yuǎn)沒有看起來那么怪異。”

這番“奇點(diǎn)宣言”無疑是震撼性的。它不僅暗示著 AI 發(fā)展的某個(gè)關(guān)鍵轉(zhuǎn)折點(diǎn)已經(jīng)到來，更描繪了一個(gè)由 AI 驅(qū)動(dòng)的、既熟悉又陌生的未來。那么，Altman 的“溫和奇點(diǎn)”究竟意味著什么？我們是否真的站在了一個(gè)新時(shí)代的門檻上？本文就來轉(zhuǎn)述和提煉一下Altman的觀點(diǎn)，分享給大家，期望能引發(fā)各位小伙伴兒的思考。

不那么怪異”的超智能跡象：奇跡正在常態(tài)化

Altman 開篇即指出，盡管機(jī)器人尚未遍布街頭，我們大多數(shù)人也并非整日與 AI 對(duì)話，人類依然面臨疾病、太空探索的困境以及對(duì)宇宙的諸多未知，但一個(gè)不爭的事實(shí)是：“我們最近構(gòu)建的系統(tǒng)在很多方面比人類更聰明，并且能夠顯著放大使用者的產(chǎn)出。”

他認(rèn)為，通往通用人工智能（AGI）道路上“最不可能的部分已經(jīng)過去”。那些讓我們得以擁有像 GPT-4 和 o3這樣強(qiáng)大系統(tǒng)的科學(xué)洞察，是“來之不易的”，但它們的影響將極其深遠(yuǎn)。

一個(gè)核心的觀察是，AI 正在經(jīng)歷一個(gè)“奇跡變成常規(guī)，然后成為基本要求”的演進(jìn)過程。 Altman 生動(dòng)地描述了這種轉(zhuǎn)變：

• 我們從驚嘆 AI 能生成優(yōu)美的段落，到開始期待它能創(chuàng)作出整部小說；
• 從驚嘆 AI 能做出拯救生命的醫(yī)學(xué)診斷，到開始期待它能研發(fā)出治療方法；
• 從驚嘆 AI 能創(chuàng)建小型計(jì)算機(jī)程序，到開始期待它能構(gòu)建全新的公司。

這種期望值的快速提升和對(duì) AI 能力的迅速適應(yīng)，正是“奇點(diǎn)”發(fā)生方式的體現(xiàn)——曾經(jīng)的奇跡迅速融入日常，成為我們對(duì)技術(shù)能力的新基線。

未來的核心驅(qū)動(dòng)力：AI 加速科學(xué)進(jìn)步與生產(chǎn)力飛躍

Altman 強(qiáng)調(diào)，AI 將在多方面為世界做出貢獻(xiàn)，但其中最為顯著的，將是由 AI 驅(qū)動(dòng)的“更快的科學(xué)進(jìn)步”和“大幅提升的生產(chǎn)力”，這將極大地改善人類的生活質(zhì)量。

“科學(xué)進(jìn)步是整體進(jìn)步的最大驅(qū)動(dòng)力，” Altman 寫道，“思考我們還能擁有多少，是極其令人興奮的。”

而更具顛覆性的是，AI 本身也將被用于加速 AI 研究。 “先進(jìn) AI 之所以引人注目，有很多原因，但也許沒有什么比我們能用它來更快地進(jìn)行 AI 研究這一事實(shí)更重要了。” 他設(shè)想，如果我們能將原本需要十年的研究時(shí)間縮短到一年甚至一個(gè)月，那么進(jìn)步的速度將發(fā)生質(zhì)的飛躍。這雖然不等同于 AI 系統(tǒng)完全自主地更新其代碼，但 Altman 認(rèn)為這是一種“遞歸式自我改進(jìn) (larval version of recursive self-improvement)”的雛形。

“智能與能源的極大豐富”：打破人類進(jìn)步的根本限制

在 Altman 的構(gòu)想中，未來三十年最核心的變革在于：“智能和能源——想法，以及讓想法發(fā)生的能力——將變得極其豐富。”

他認(rèn)為，這兩者長期以來一直是制約人類進(jìn)步的根本因素。一旦它們（在良好治理的前提下）不再稀缺，人類理論上可以擁有其他任何東西。

一個(gè)大膽的預(yù)測是，隨著數(shù)據(jù)中心生產(chǎn)的自動(dòng)化，智能的成本最終應(yīng)趨近于電力的成本。 為了讓這個(gè)概念更具體，他甚至給出了一個(gè) ChatGPT 平均查詢的能耗數(shù)據(jù)：約 0.34 瓦時(shí)，相當(dāng)于一個(gè)烤箱一秒多一點(diǎn)的耗電量，或一個(gè)高效燈泡幾分鐘的耗電量。

這種對(duì)未來資源充裕程度的樂觀預(yù)期，是 Altman “溫和奇點(diǎn)”論的重要基石。

2030年的深刻變革：一個(gè)既熟悉又陌生的世界

Altman 并沒有描繪一個(gè)完全脫離現(xiàn)實(shí)的烏托邦或反烏托邦。他認(rèn)為，在最重要的方面，2030年可能與現(xiàn)在并無太大不同：“人們依然會(huì)愛他們的家人，表達(dá)他們的創(chuàng)造力，玩游戲，在湖中游泳。” 人類的核心情感需求和生活方式的基本面將得以延續(xù)。

然而，在“仍然非常重要的方面”，到2030年將發(fā)生前所未有的劇變：

• Agent 的崛起與工作模式的顛覆：

• 2025年： 能執(zhí)行真正認(rèn)知工作的 Agent 將出現(xiàn)，“編寫計(jì)算機(jī)代碼將永遠(yuǎn)改變。”
• 2026年： 能夠發(fā)現(xiàn)新穎見解的系統(tǒng)可能會(huì)出現(xiàn)。
• 2027年： 能夠在現(xiàn)實(shí)世界執(zhí)行任務(wù)的機(jī)器人可能會(huì)出現(xiàn)。

• 個(gè)人生產(chǎn)力的指數(shù)級(jí)提升： “總的來說，一個(gè)人在 2030 年能夠完成的工作量將遠(yuǎn)超其在 2020 年所能完成的，這將是一個(gè)驚人的變化。”
• 社會(huì)契約的重塑： 技術(shù)進(jìn)步的加速和財(cái)富的極大增長，將使我們能夠認(rèn)真考慮以前無法想象的新政策理念。但 Altman 也坦言，“整個(gè)職業(yè)類別的消失將是非常艱難的部分。” 他預(yù)測社會(huì)契約的調(diào)整將是漸進(jìn)的，而非一蹴而就。

自我強(qiáng)化的循環(huán)與加速的進(jìn)步

除了 AI 本身的進(jìn)步，Altman 還指出了其他自我強(qiáng)化的循環(huán)在起作用：

• 經(jīng)濟(jì)價(jià)值創(chuàng)造的飛輪： AI 創(chuàng)造的經(jīng)濟(jì)價(jià)值，正在推動(dòng)建設(shè)更龐大的基礎(chǔ)設(shè)施來運(yùn)行日益強(qiáng)大的 AI 系統(tǒng)。
• 機(jī)器人制造機(jī)器人： “能制造其他機(jī)器人的機(jī)器人（某種意義上，能建設(shè)其他數(shù)據(jù)中心的數(shù)據(jù)中心）”的出現(xiàn)，將進(jìn)一步指數(shù)級(jí)地加速發(fā)展進(jìn)程。例如，如果首批百萬級(jí)人形機(jī)器人能以傳統(tǒng)方式制造出來，然后它們能接管整個(gè)供應(yīng)鏈（從采礦、精煉到工廠運(yùn)營）來制造更多的機(jī)器人、芯片廠、數(shù)據(jù)中心等，那么進(jìn)步的速度將不可同日而語。

我們面臨的挑戰(zhàn)與前進(jìn)之路：對(duì)齊、普及與集體智慧

面對(duì)如此巨大的潛力和變革，Altman 強(qiáng)調(diào)了兩個(gè)核心挑戰(zhàn)及應(yīng)對(duì)之道：

1. 解決對(duì)齊問題 (Alignment Problem)： 這是技術(shù)和社會(huì)層面的雙重挑戰(zhàn)。我們需要確保 AI 系統(tǒng)的學(xué)習(xí)和行動(dòng)目標(biāo)與人類的長期集體意愿真正對(duì)齊。他以社交媒體算法為例，指出它們雖然能極好地理解并利用用戶的短期偏好（讓你不停地刷），但卻可能與用戶的長期福祉相悖，這便是“錯(cuò)位的 AI (misaligned AI)”的體現(xiàn)。
2. 讓超級(jí)智能廉價(jià)、廣泛可用且不過度集中： 在解決了安全和對(duì)齊問題之后，至關(guān)重要的是將超級(jí)智能的訪問權(quán)廣泛分配，避免其被少數(shù)個(gè)人、公司或國家壟斷。Altman 相信“社會(huì)是富有韌性、創(chuàng)造力且適應(yīng)迅速的。”

他提出的前進(jìn)路徑是：首先解決對(duì)齊問題，然后致力于降低超級(jí)智能的成本，使其廣泛可及。在這個(gè)過程中，“賦予用戶在社會(huì)決定的廣泛邊界內(nèi)的大量自由，似乎非常重要。世界越早開始就這些廣泛邊界是什么以及我們?nèi)绾味x集體對(duì)齊進(jìn)行對(duì)話，就越好。”

OpenAI 的使命與對(duì)未來的展望

Altman 最后重申了 OpenAI (乃至整個(gè) AI 行業(yè)) 的使命：“我們正在為世界構(gòu)建一個(gè)大腦。” 這個(gè)大腦將是高度個(gè)性化且易于使用的，其潛力將僅受限于“好的想法”。他甚至樂觀地認(rèn)為，那些曾被技術(shù)圈嘲笑的“只有想法的人 (the idea guys)”，將在 AI 時(shí)代迎來他們的“高光時(shí)刻”。

“OpenAI 現(xiàn)在有很多身份，但歸根結(jié)底，我們是一家超級(jí)智能研究公司。” Altman 寫道，“我們面前還有很多工作，但大部分道路已經(jīng)被照亮，黑暗區(qū)域正在迅速退去。”

對(duì)于未來，Altman 的預(yù)測是：“智能便宜到可以計(jì)量 (Intelligence too cheap to meter) 已觸手可及。” 他承認(rèn)這聽起來可能有些瘋狂，但對(duì)比五年前我們對(duì)今天 AI 發(fā)展的預(yù)測，當(dāng)前對(duì) 2030 年的預(yù)測或許已顯得不那么“瘋狂”了。

文章的結(jié)尾，Sam Altman 以一句充滿期許的話結(jié)束：“愿我們能夠平穩(wěn)、指數(shù)級(jí)且波瀾不驚地邁向超級(jí)智能 (May we scale smoothly, exponentially and uneventfully through superintelligence)。”

小結(jié)：“溫和奇點(diǎn)”已至，我們準(zhǔn)備好了嗎？

Sam Altman 的這篇博文，以其一貫的宏大敘事和對(duì)未來的堅(jiān)定信念，為我們描繪了一個(gè) AI 正在深刻重塑世界的圖景。他所說的“溫和奇點(diǎn)”，并非遙不可及的科幻概念，而是已經(jīng)開始在我們身邊發(fā)生的、漸進(jìn)但影響深遠(yuǎn)的變革。

從 AI 在編碼、科研、醫(yī)療等領(lǐng)域的加速滲透，到對(duì)未來工作模式、社會(huì)結(jié)構(gòu)乃至人類進(jìn)步根本動(dòng)力的重塑，Altman 的觀點(diǎn)為我們提供了極具價(jià)值的思考框架。當(dāng)然，其中也伴隨著對(duì)“職業(yè)消失”、“對(duì)齊難題”等嚴(yán)峻挑戰(zhàn)的坦誠。

無論我們是否完全認(rèn)同 Altman 的所有預(yù)測和時(shí)間表，一個(gè)不爭的事實(shí)是，AI 技術(shù)的指數(shù)級(jí)發(fā)展正在以前所未有的速度改變著我們的世界。作為技術(shù)從業(yè)者，理解這些趨勢，思考我們自身的定位，并積極參與到構(gòu)建一個(gè)負(fù)責(zé)任、普惠的 AI 未來的討論中，顯得尤為重要。

“事件視界”或許已然越過，“起飛”的引擎也已點(diǎn)燃。我們是否準(zhǔn)備好迎接這個(gè)由 AI 定義的，既熟悉又陌生的未來了呢？

聊一聊，也幫個(gè)忙：

• 你如何理解 Sam Altman 提出的“溫和奇點(diǎn)”？你認(rèn)為我們真的已經(jīng)“起飛”了嗎？
• Altman 對(duì) 2025-2027 年 AI Agent 和機(jī)器人的預(yù)測，你認(rèn)為哪些最有可能實(shí)現(xiàn)？它們將如何改變我們的生活和工作？
• 面對(duì) AI 可能帶來的“整個(gè)職業(yè)類別的消失”，你認(rèn)為個(gè)人和社會(huì)應(yīng)該如何應(yīng)對(duì)？“對(duì)齊問題”和“超級(jí)智能的普及”哪個(gè)挑戰(zhàn)更大？