今天一早，谷歌CEO劈柴在X上發布帖子，宣告NeuralGCM在氣候建模領域取得了重大突破！

「NeuralGCM將基于物理的建模與人工智能相結合，在模擬大氣方面的效率比其他模型高出10萬倍，為科學家提供了預測氣候變化的新工具。」

這項研究成果也被刊登在了Nature上，研究團隊大部分來自Google Research和DeepMind，還有MIT、哈佛和ECMWF的科學家。

論文地址：https://www.nature.com/articles/s41586-024-07744-y

谷歌開發的這個名為NeuralGCM的模型，能夠快速、高效且準確地模擬地球大氣。

其意義在于，在地球正以前所未有的速度變暖的當下，幫助科學家對地球氣候做出準確的預測——

全球氣溫升高會使哪些地區面臨長期干旱？哪些地方會因大型熱帶風暴而使沿海洪水更加頻繁？隨著氣溫上升，野火季節將如何變化？

面對這些亟待解決的問題，傳統的基于物理的大氣環流模型（General Circulation Model，GCM）顯得有些捉襟見肘，GCM在面對長期天氣和氣候模擬時，缺乏足夠的穩定性。

而NeuralGCM是一種基于機器學習的方法，結合了傳統的物理建模，大大提高了模擬的準確性和效率。

這種方法生成的2-15天的天氣預報比目前最先進的物理模型更準確，并且比傳統的大氣模型更準確地再現了過去40年的氣溫。

它標志著在開發更強大、更易使用的氣候模型方面邁出了重要一步。

NeuralGCM模擬了2019年12月26日至2020年1月8日期間的特定濕度（specific humidity）變化模式

NeuralGCM變革氣候建模

盡管傳統氣候模型在過去幾十年中有所改進，但由于科學家對地球氣候運行機制和模型構建方式的理解不完全，它們往往會產生誤差和偏差。

這些模型將地球從地表到大氣層的這部分空間，劃分成邊長為50-100公里的立方體，然后預測每個立方體在一段時間內的天氣變化。

然后，模型根據公認的物理定律計算空氣和水分的運動，這也就是天氣預報的基本原理。

但問題在于，50-100公里這個尺度實在是太大了。

許多重要的氣候過程，包括云和降水，在比當前模型使用的立方體尺寸更小的尺度上變化（毫米到公里）。

而且，科學家們對某些過程（如云的形成）的物理理解也不完整。

因此，這些傳統模型不僅依賴于基本原理，還使用簡化模型生成稱為「參數化」的近似值來模擬小尺度和不太了解的過程。

這些簡化的近似值不可避免地降低了基于物理的氣候模型的準確性。

那么，NeuralGCM是怎么解決這一難題的呢？

像傳統模型一樣，NeuralGCM仍然將地球大氣劃分為立方體，并對大規模過程（如空氣和水分運動）的物理進行計算。

不同的是，NeuralGCM不再依賴科學家制定的「參數化」近似值來模擬小尺度天氣變化，而是使用神經網絡從現有天氣數據中學習這些事件的物理原理。

NeuralGCM的一個關鍵創新，是用JAX從頭重寫了大規模過程的數值求解器。

這使得研究人員能夠使用基于梯度的優化，來在線調整耦合系統在多個時間步長上的「在線」行為。

相比之下，之前嘗試使用機器學習增強氣候模型的努力在數值穩定性方面遇到了很大困難，因為它們使用「離線」訓練，忽略了隨著時間積累的小尺度和大尺度過程之間的重要反饋。

將整個模型用JAX編寫的另一個好處是它可以在TPU和GPU上高效運行，而傳統的氣候模型大多在CPU上運行。

NeuralGCM結合了傳統的流體動力學求解器和用于小尺度物理的神經網絡，這些組件通過一個微分方程求解器組合在一起，使系統按時間順序推進

谷歌團隊使用了1979年至2019年間ECMWF的天氣數據，在0.7°、1.4°和2.8°分辨率下訓練了一系列NeuralGCM模型。

雖然NeuralGCM是基于天氣預報數據訓練的，但團隊設計NeuralGCM為一個通用的大氣模型。

精準的天氣預報和氣候預測

最近的地球大氣機器學習（ML）模型，包括Google DeepMind的GraphCast，已經在天氣預測方面展示了革命性的準確性。

迄今為止，ML預測的研究主要集中在短期預測上，遠未達到氣候預測所需的數年到數十年時間。

由于數十年的氣候預測難以得到可靠驗證，谷歌團隊評估了NeuralGCM在氣候尺度預測方面的表現，并使用已建立的WeatherBench 2基準將其作為一個天氣模型進行了評估。

NeuralGCM在0.7°分辨率下的確定性模型（deterministic model）在天氣預報準確性方面與當前最先進的模型相當，天氣預報準確度可達 5 天。

然而，確定性模式缺乏所需的量化不確定性，無法在較長的準備時間內做出有用的預報。

預報集合從略微不同的起始條件生成，以產生一系列同樣可能的天氣情況。這些集合產生的概率天氣預報通常比確定性預報更準確。

NeuralGCM在1.4°分辨率下的集成模型（ensemble model），在5至15天的預測準確性方面優于之前的SOTA。

這種性能提升，得益于NeuralGCM生成的是集合天氣預測，后者能和ECMWF基于物理的SOTA模型ECMWF-ENS相媲美。

在已發布的ML模型中，NeuralGCM是第一個做到這一點的。

在2至15天的預測中，NeuralGCM的集合預測有95%的時間比ECMWF-ENS更準確。

NeuralGCM在氣候時間尺度預測方面，NeuralGCM也優于最先進的大氣模型。

由于NeuralGCM僅模擬地球氣候的大氣成分，谷歌團隊將其性能與基于物理的大氣模型進行了比較。

在預測1980年至2020年間的溫度時，NeuralGCM的2.8°確定性模型的平均誤差，是大氣模型（AMIP）誤差的三分之一，即0.25 vs. 0.75攝氏度。

對比NeuralGCM和AMIP在1980年至2020年間預測1000 hPa全球平均溫度的表現

由于傳統的大氣模型在模擬地球大氣的某些方面存在困難，氣候科學家有時會使用更高分辨率的模型，如X-SHiELD，這些模型雖然更準確，但計算成本較高。

與X-SHiELD相比，NeuralGCM的1.4°確定性模型在預測2020年的濕度和溫度數據時誤差減少了15-50%，這些數據由美國國家海洋和大氣管理局（NOAA）提供。

在2020年的氣候模擬期間，NeuralGCM還預測了熱帶氣旋模式，這些模式與當年在相同區域觀察到的風暴數量和強度相匹配。

NeuralGCM是第一個能夠生成此類模式的基于機器學習的模型。

NeuralGCM預測了2020年全球范圍內的熱帶氣旋路徑（預測的風暴數量和強度與ECMWF再分析v5（ERA5）數據集中記錄的實際氣旋數量和強度相匹配）

開放、快速、高效

NeuralGCM在計算速度和成本上比傳統的基于物理的氣候模型快了幾個數量級。

其1.4°模型比X-SHiELD快3500多倍，這意味著如果研究人員用X-SHiELD模擬一年的大氣，需要20天，而用NeuralGCM只需8分鐘。

而且，科學家只需要一臺帶有單個TPU（張量處理單元，Tensor Processing Unit）的計算機就能運行NeuralGCM，而運行X-SHiELD則需要請求使用擁有13000個CPU（中央處理單元，Central Processing Unit）的超級計算機。

總體而言，使用NeuralGCM進行氣候模擬的計算成本比X-SHiELD低10萬倍，相當于高性能計算領域25年的進步速度。

NeuralGCM比最先進的物理模型模擬大氣的速度更快，同時生成的預測具有同樣的準確性

在此圖表中，NeuralGCM和兩個物理模型NCAR CAM、NOAA X-SHiELD同場競技，對比它們在30秒計算時間內生成的大氣模擬天數。

這三個模型分別以不同的分辨率運行，其中X-SHiELD的分辨率最高（0.03°），NCAR CAM6的分辨率為1.0°，NeuralGCM的分辨率最低（1.4°）。

值得一提的是，盡管NeuralGCM以低分辨率運行，但其準確性與高分辨率模型相當。

那么，在準確性相當的情況下，可以看到，NeuralGCM在30s的時間內，就能夠生成22.8天的大氣模擬，而X-SHiELD作為一個必須在超級計算機上運行的高分辨率物理模型，則只能生成9分鐘！

這也讓之前因計算成本較低而頗受研究人員青睞的NCAR CAM6的優勢蕩然無存。

谷歌團隊已在GitHub上公開了NeuralGCM的源代碼和模型權重，供非商業用途。他們希望其他研究人員可以輕松添加新組件來測試假設并改進模型功能。

此外，由于NeuralGCM可以在筆記本電腦上運行，而不需要超級計算機的支持，因此更多的氣候研究人員能夠在他們的工作中使用這一最先進的模型。

結論和未來方向

NeuralGCM目前僅對地球大氣進行建模，但谷歌團隊希望最終將地球氣候系統的其他方面，如海洋和碳循環，納入模型。

通過這種方式，NeuralGCM將能夠在更長的時間尺度上進行預測，不僅可以預測幾天和幾周的天氣，還能在氣候時間尺度上進行預測。

總而言之，NeuralGCM提出了一種構建氣候模型的新方法，這種方法可能比現有模型更快、計算成本更低且更準確。