今年的谷歌I/O開發(fā)者大會，AI一如既往仍是核心主題，CEO Sundar Pichai表示谷歌有責(zé)任在這個信息爆炸、技術(shù)不斷革新的時代里擔(dān)負(fù)起推動科技創(chuàng)新的使命，而AI就是其中一種途徑。作為能給谷歌AI產(chǎn)品提供強(qiáng)大計算服務(wù)支持的“幕后英雄“——TPU，今年已升級至3.0版，并在本次大會上閃亮登場。

TPU作為一種專為機(jī)器學(xué)習(xí)設(shè)計的芯片，從2016年***代助AlphaGo成功打敗李世石開始，就注定會成為萬眾矚目的科技界“大佬“，擁有不平凡的一生。2017年TPU順勢升級至第二代，TPU2.0單個浮點(diǎn)運(yùn)算能力高達(dá)180teraflops，主要采用云服務(wù)Cloud TPU的形式對外賦能。但谷歌似乎覺得這個速度還未達(dá)到一個”大佬“應(yīng)有的水準(zhǔn)，直接使用新的高速網(wǎng)絡(luò)將64個TPU組合成究極進(jìn)化版——“TPU Pod”機(jī)器學(xué)習(xí)超級計算機(jī)，浮點(diǎn)運(yùn)算能力飆升至11.5 petaflops。一個簡單對比，谷歌在其2017年發(fā)布的TPU技術(shù)細(xì)節(jié)論文中提到，雖然應(yīng)用范圍受限，但TPU的平均處理速度比當(dāng)前的GPU或CPU快15~30倍，性能功耗比高出約30~80倍(TPU：我不是針對誰，我是說在座的各位都……)。到如今TPU3.0發(fā)布，谷歌宣稱TPU3.0 pod的功率是TPU2.0 pod的8倍，每個TPU3.0 pod可提供超過 100 petaflops的運(yùn)算能力，但在系統(tǒng)接口和行為方面，TPU3.0盡可能保留了第二代的特征，對于其它GPU和CPU巨頭來說，3.0的提升不大可謂讓他們送了一口氣。

雖然此次的TPU升級算不上改頭換面，甚至稱為TPU2.5的發(fā)布更為合適，但我們?nèi)孕枰吡疗渲械囊粋€細(xì)節(jié)，那就是TPU3.0讓谷歌不得不也***次在其數(shù)據(jù)中心中使用液冷技術(shù)。液冷技術(shù)并不是一個全新的概念，它在衛(wèi)星、火箭發(fā)動機(jī)等航天領(lǐng)域也已有很長的運(yùn)用歷史，在IT基礎(chǔ)設(shè)施領(lǐng)域國內(nèi)外眾多廠商也有很多較為成功的實(shí)踐?？傮w來說，市場上對于液冷技術(shù)的研究和實(shí)驗(yàn)源于這項(xiàng)技術(shù)可以大大降低能耗、減少數(shù)據(jù)中心的支出成本，像谷歌這樣坦誠其芯片的運(yùn)行溫度過高而不得不使用液冷技術(shù)的情況其實(shí)并不常見。

通過對比TPU2.0 pod(左)和 TPU3.0 pod(右)的機(jī)架可以發(fā)現(xiàn)，3.0機(jī)架的TPU數(shù)目是原來的兩倍，而且機(jī)架的computing unit (板卡)間距大大減少。谷歌曾稱部署TPU2.0的數(shù)據(jù)中心溫度約在 80°F (26.6666℃)到 95°F(30℃) 之間，因此必須使用高效龐大的風(fēng)冷散熱器才能達(dá)到降溫目的，可以想見，當(dāng)升級至TPU3.0，部署密度大幅提升的情況下，還想獲得較好的降溫效果也確實(shí)只能直接借助液冷手段。此外，谷歌采用的是開放式機(jī)架，并沒有形成封閉的盡量小的風(fēng)循環(huán)機(jī)架環(huán)境，這樣一來使用風(fēng)冷散熱對抗如此高密度的熱插槽的成本其實(shí)非常高昂。

谷歌將數(shù)據(jù)中心降溫方式向液冷方向轉(zhuǎn)變，這不得不行的一步或許是受TPU3.0高密度規(guī)格的形勢所迫，但從成本節(jié)約的角度來看，這也未嘗不是一種更好的選擇。而液冷技術(shù)本身的研究和革新似乎也會被加速推進(jìn)，畢竟當(dāng)它作為不可替代的角色被推到舞臺中間時，不行也得行。

總體來看，一方面，數(shù)據(jù)中心的各種成本越來越高，另外一方面，業(yè)界能夠?qū)崿F(xiàn)的計算密度越高越高。如何在單位體積內(nèi)部署更多的計算能力是擺在我們面前的很現(xiàn)實(shí)的問題，也許液冷將會使這個問題得到很好的解答。

ODCC將在液冷方面開展更多的工作，敬請期待。