最近，我在斯坦福大學(xué)的一篇文章中讀到了神經(jīng)科學(xué)家Grace Huckins的觀點(diǎn)，她提出了一個(gè)令人深思的問題："雖然強(qiáng)大的AI工具和海量數(shù)據(jù)集正在推動實(shí)際進(jìn)步，但它們可能沒有深化我們對宇宙的理解。"

這句話像一記重錘，敲在了我的思考深處。在這個(gè)AI大爆炸的時(shí)代，我們每天都在驚嘆于技術(shù)的進(jìn)步：AlphaFold預(yù)測蛋白質(zhì)結(jié)構(gòu)的準(zhǔn)確性超越了實(shí)驗(yàn)方法，大型語言模型能夠?qū)懗隹此朴猩疃鹊奈恼拢珹I系統(tǒng)可以識別出人類肉眼無法察覺的模式...但是，這些進(jìn)步真的讓我們更理解這個(gè)世界了嗎？

一個(gè)被遺忘的"微處理器論文"

Grace Huckins在她的獲獎文章《理解的終結(jié)》中提到了一個(gè)有趣的實(shí)驗(yàn)，被稱為"微處理器論文"。這個(gè)實(shí)驗(yàn)由賓夕法尼亞大學(xué)教授Konrad Kording和他的學(xué)生Eric Jonas進(jìn)行，他們試圖用神經(jīng)科學(xué)的方法來理解一個(gè)計(jì)算機(jī)芯片的工作原理。

聽起來很瘋狂，對吧？他們不是去閱讀芯片的技術(shù)文檔，而是像研究大腦一樣，記錄每個(gè)"神經(jīng)元"（晶體管）的電活動，觀察當(dāng)單個(gè)"神經(jīng)元"被破壞時(shí)"行為"如何變化。他們收集了大量數(shù)據(jù)，使用了當(dāng)時(shí)最先進(jìn)的分析方法，但結(jié)果令人沮喪：所有這些數(shù)據(jù)并沒有幫助他們理解芯片是如何工作的。

"我們的結(jié)果遠(yuǎn)遠(yuǎn)達(dá)不到我們所說的令人滿意的理解，"他們寫道。沒有新的理論和分析方法，更多的數(shù)據(jù)不會幫助任何人理解大腦的工作原理。

這個(gè)實(shí)驗(yàn)已經(jīng)過去了近十年，但它的警示意義在今天顯得更加重要。神經(jīng)科學(xué)對數(shù)據(jù)的迷戀只增不減：西雅圖的艾倫研究所正在詳盡編目人類和小鼠大腦中的神經(jīng)元，去年，一個(gè)國際科學(xué)家聯(lián)盟發(fā)布了果蠅大腦的完整圖譜——包含超過1000萬個(gè)個(gè)別的神經(jīng)元到神經(jīng)元連接。

而分析這些數(shù)據(jù)的工具也隨著深度學(xué)習(xí)和生成式AI的崛起而變得更加強(qiáng)大。在過去的幾年里，神經(jīng)科學(xué)家們已經(jīng)使用AI工具來編寫能夠激活大腦特定區(qū)域的句子，模擬嬰兒大腦學(xué)習(xí)如何響應(yīng)視覺世界的過程，甚至僅根據(jù)大腦活動重建某人正在收聽的播客節(jié)目。

但是，盡管這些研究極大地提高了我們操縱人腦、解碼其活動并在計(jì)算機(jī)中準(zhǔn)確建模的能力，但它們對大腦如何完成所有這些非凡事情的洞察卻相當(dāng)有限。

理解與預(yù)測的分離

Grace Huckins指出了一個(gè)核心問題：我們正處于科學(xué)運(yùn)作方式發(fā)生根本性變革的時(shí)期。以前，科學(xué)的目標(biāo)（開發(fā)新技術(shù)和干預(yù)措施與理解宇宙）是同一個(gè)目標(biāo)，但現(xiàn)在大數(shù)據(jù)和AI已經(jīng)分離了這兩個(gè)目標(biāo)，我們有責(zé)任決定哪個(gè)更重要。

"數(shù)據(jù)給了我們不需要理解周圍世界的許可，"她寫道，"它是否會讓我們失望，取決于我們?nèi)绾问褂眠@種許可。"

這種理解與預(yù)測的分離在AlphaFold的例子中表現(xiàn)得尤為明顯。AlphaFold是DeepMind開發(fā)的蛋白質(zhì)結(jié)構(gòu)預(yù)測系統(tǒng)，它在2020年的CASP14評估中取得了突破性的成功。讓我通過一個(gè)表格來展示AlphaFold與傳統(tǒng)方法的對比：

作為比較，一個(gè)碳原子的寬度約為1.4 ?。AlphaFold的精度已經(jīng)達(dá)到了原子級別，這在以前是不可想象的。

但是，正如Grace Huckins所指出的，"AlphaFold是一個(gè)巨大的、極其復(fù)雜的系統(tǒng)，沒有人理解它是如何工作的。它能做出很好的預(yù)測，但這些預(yù)測的來源是一個(gè)謎。"

這種情況讓我想起了William Burns在《硅幻覺》一文中的觀點(diǎn)："AI在科學(xué)中的應(yīng)用可能掩蓋了比它揭示的更多的問題，加劇了它聲稱要解決的問題。"

AI：沒有理解的預(yù)測機(jī)器

大多數(shù)AI系統(tǒng)本質(zhì)上是預(yù)測機(jī)器：它們處理大量數(shù)據(jù)以找到統(tǒng)計(jì)模式，從而能夠從輸入預(yù)測輸出。在獲得數(shù)據(jù)之前，這些系統(tǒng)并不智能。它們無法訪問我們?nèi)祟愑脕砝斫馐澜绲娜魏卫碚摶蚰Ｐ停虼怂鼈冃枰罅繑?shù)據(jù)來發(fā)現(xiàn)所需的模式——遠(yuǎn)遠(yuǎn)超過任何人類能夠理解的數(shù)據(jù)量。

而且因?yàn)樗鼈兎浅Ｉ瞄L處理大量數(shù)據(jù)，它們可以做出比任何人類都更好的預(yù)測——無需理解。

在過去的幾年里，AI系統(tǒng)已被用于預(yù)測各種科學(xué)學(xué)科中的各種結(jié)果。它們可以識別哪些分子可能成為良好的抗生素，選擇哪種抗抑郁藥可能對特定患者最有效，并設(shè)計(jì)新型電池。我們還沒有能夠解釋為什么特定患者對Prozac的反應(yīng)比Zoloft更好的抑郁癥理論。但有了AI和大數(shù)據(jù)，這不再是必需的。

Grace Huckins提出了一個(gè)發(fā)人深省的問題："如果AI系統(tǒng)真的贏得了諾貝爾獎，它不會是第一個(gè)在沒有理解的情況下實(shí)現(xiàn)這一目標(biāo)的代理人：Alexander Fleming偶然發(fā)現(xiàn)了青霉素，從而拯救了無數(shù)生命。但沒有理解的創(chuàng)新的系統(tǒng)化，不啻為一場革命。幾個(gè)世紀(jì)以來，理解一直是實(shí)現(xiàn)科學(xué)最受贊譽(yù)的實(shí)際、預(yù)測依賴目標(biāo)——技術(shù)創(chuàng)新、災(zāi)難預(yù)測、藥物發(fā)現(xiàn)——的關(guān)鍵步驟。隨著理解在這個(gè)過程中越來越被邊緣化，我們正在進(jìn)入一個(gè)新的科學(xué)時(shí)代。"

科學(xué)理解的危機(jī)

這種理解與預(yù)測的分離并非憑空出現(xiàn)。William Burns指出，科學(xué)本身在過去二十年里一直處于一種智力危機(jī)中。例如，人類基因組項(xiàng)目曾預(yù)期會帶來新藥物的繁榮，但未能實(shí)現(xiàn)其最樂觀的承諾。

2008年，一家大型制藥公司的科學(xué)家在一篇文章中發(fā)現(xiàn)："公司為增加新藥輸出所做的一切都沒有奏效，包括合并、收購、重組和流程改進(jìn)。"

當(dāng)前危機(jī)的原因不僅僅是運(yùn)氣不好或管理不善。已故的Carl Woese，一位反對"工程化"生物學(xué)的特立獨(dú)行者，曾在2004年寫道：

"允許生物學(xué)成為一門工程學(xué)科，允許科學(xué)滑入改變生活世界而不試圖理解它的角色，對社會是一種危險(xiǎn)。"

他主張科學(xué)應(yīng)該尋求理解世界，而不是主要為了改變它。

理解的三個(gè)維度

在一篇發(fā)表在Nature Reviews Physics上的文章中，作者們提出了計(jì)算機(jī)輔助科學(xué)理解的三個(gè)維度。雖然我無法獲取完整內(nèi)容，但從摘要中可以看出，他們試圖回答一個(gè)核心問題："先進(jìn)的計(jì)算系統(tǒng)，特別是人工智能，如何能夠促進(jìn)新的科學(xué)理解或自主獲得理解？"

這個(gè)問題正是Grace Huckins所關(guān)心的。她并不是全盤否定AI在科學(xué)中的作用，而是擔(dān)心我們可能會因?yàn)樽非箢A(yù)測和實(shí)際效益而忽視了理解的重要性。

我們需要什么樣的科學(xué)？

作為一個(gè)長期關(guān)注AI發(fā)展的人，我深深被Grace Huckins的觀點(diǎn)所觸動。在這個(gè)AI大爆炸的時(shí)代，我們每天都在驚嘆于技術(shù)的進(jìn)步，但我們是否停下來思考過：這些進(jìn)步真的讓我們更理解這個(gè)世界了嗎？

AlphaFold可以預(yù)測蛋白質(zhì)結(jié)構(gòu)，但我們真的理解蛋白質(zhì)是如何折疊的嗎？大型語言模型可以生成看似有深度的文章，但它們真的理解語言的意義嗎？AI系統(tǒng)可以識別出人類肉眼無法察覺的模式，但它們真的理解這些模式背后的原理嗎？

這些問題不僅僅關(guān)乎科學(xué)，更關(guān)乎我們作為人類的本質(zhì)。理解世界是我們?nèi)祟惖幕拘枨笾唬俏覀儏^(qū)別于其他生物的關(guān)鍵特征。如果我們把這種能力完全交給機(jī)器，我們將會失去什么？

Grace Huckins的觀點(diǎn)并不是要我們拒絕AI和大數(shù)據(jù)，而是要我們重新思考科學(xué)的本質(zhì)和目標(biāo)。她認(rèn)為，既然大數(shù)據(jù)和AI已經(jīng)分離了科學(xué)的兩個(gè)目標(biāo)（開發(fā)新技術(shù)和干預(yù)措施與理解宇宙），我們有責(zé)任決定哪個(gè)更重要。

在我看來，理解應(yīng)該始終是科學(xué)的核心目標(biāo)。預(yù)測和實(shí)際應(yīng)用固然重要，但它們不應(yīng)該以犧牲理解為代價(jià)。正如Carl Woese所說，"科學(xué)應(yīng)該尋求理解世界，而不是主要為了改變它。"