谷歌日前聲稱，公司在AI超級(jí)計(jì)算能力方面可以勝過(guò)英偉達(dá)。但業(yè)界認(rèn)為，這一消息并不可能對(duì)英偉達(dá)這家市場(chǎng)領(lǐng)導(dǎo)者帶來(lái)太大困擾。

谷歌近日發(fā)布一份研究報(bào)告稱，采用其TPU驅(qū)動(dòng)的AI超級(jí)計(jì)算機(jī)與運(yùn)行Nvidia A100 GPU的同等機(jī)器比具有更好的性能和能效。

谷歌已將4000個(gè)第四代TPU串聯(lián)在一起，構(gòu)建了一臺(tái)超級(jí)計(jì)算機(jī)，并稱這臺(tái)超級(jí)計(jì)算機(jī)的運(yùn)行速度要比采用Nvidia A100 GPU的同等機(jī)器快1.7倍，效率高出1.9倍。

谷歌在俄克拉荷馬州運(yùn)行的TPU v4驅(qū)動(dòng)的超級(jí)計(jì)算機(jī)

英偉達(dá)從生成式AI的繁榮發(fā)展中受益，用戶對(duì)Nvidia A100 GPU的需求激增。A100主要用于訓(xùn)練大型語(yǔ)言AI模型，例如OpenAI的GPT-4。

業(yè)界認(rèn)為，隨著英偉達(dá)新的GPU H100即將上市，該公司不太可能對(duì)谷歌的這一成就感到擔(dān)憂。

谷歌自從2020年以來(lái)一直在內(nèi)部使用TPU v4，并于去年向其谷歌云平臺(tái)的客戶提供了這些芯片。該公司最大的大型語(yǔ)言模型 PaLM就是使用兩臺(tái)4000 TPU超級(jí)計(jì)算機(jī)進(jìn)行訓(xùn)練的。

谷歌研究人員Norm Jouppi和杰出工程師David Patterson在發(fā)表的一篇關(guān)于該系統(tǒng)的博客文章中解釋說(shuō)：“采用光電路交換機(jī)可以很容易地繞過(guò)故障組件。這種靈活性甚至允許我們改變超級(jí)計(jì)算機(jī)互連的拓?fù)浣Y(jié)構(gòu)，以加速機(jī)器學(xué)習(xí)模型的性能。”

GlobalData負(fù)責(zé)半導(dǎo)體市場(chǎng)開(kāi)發(fā)的Mike Orme表示，采用光電路交換機(jī)是谷歌提升超級(jí)計(jì)算機(jī)性能的關(guān)鍵。他解釋說(shuō)：“雖然每個(gè)TPU的處理速度都比不上最好的英偉達(dá)AI芯片，但谷歌用于連接芯片和在芯片之間傳遞數(shù)據(jù)的光電路交換技術(shù)彌補(bǔ)了性能差異。”

英偉達(dá)技術(shù)已經(jīng)成為訓(xùn)練AI模型的黃金標(biāo)準(zhǔn)，一些大型科技公司購(gòu)買了數(shù)千個(gè)Nvidia A100 GPU，試圖在AI的技術(shù)競(jìng)爭(zhēng)中超越對(duì)手。而OpenAI用于訓(xùn)練GPT-4的超級(jí)計(jì)算機(jī)配備了1萬(wàn)個(gè)英偉達(dá)GPU，每個(gè)零售價(jià)高達(dá)1萬(wàn)美元。

Nvidia A100 GPU

最新消息顯示，A100即將被英偉達(dá)的最新型號(hào)H100所取代。在MLPerf (一個(gè)跟蹤處理器性能的開(kāi)放AI工程聯(lián)盟)日前發(fā)布的推理基準(zhǔn)測(cè)試報(bào)告中，H100在功率和效率方面位居行業(yè)榜首。

Nvidia H100 GPU

英偉達(dá)聲稱，H100 GPU的運(yùn)行速度是谷歌拿來(lái)進(jìn)行比較的A100 GPU的9倍。這種速度優(yōu)勢(shì)將消除谷歌光電路交換技術(shù)帶來(lái)的優(yōu)勢(shì)。

谷歌90%的AI訓(xùn)練都使用TPU，但盡管其芯片功能強(qiáng)大，但Orme預(yù)計(jì)谷歌并不會(huì)將其推向第三方使用，因?yàn)楣雀璨](méi)有在AI芯片商用市場(chǎng)與英偉達(dá)芯片進(jìn)行競(jìng)爭(zhēng)的野心，其TPU專門用于谷歌數(shù)據(jù)中心或其AI超級(jí)計(jì)算機(jī)。”

為什么谷歌之外的用戶很少會(huì)使用這項(xiàng)技術(shù)？Orme認(rèn)為是因?yàn)楣雀柙圃诠苍剖袌?chǎng)上的份額很小。根據(jù)Synergy Research Group發(fā)布的調(diào)查數(shù)據(jù)，谷歌云的市場(chǎng)份額為11%，落后于AWS和微軟Azure的34%及21%。

同時(shí)，谷歌還與英偉達(dá)達(dá)成協(xié)議，將向谷歌云客戶提供H100 GPU算力，這反映了英偉達(dá)在未來(lái)一段時(shí)間內(nèi)仍將保持市場(chǎng)領(lǐng)導(dǎo)者地位，連谷歌也離不開(kāi)。