全球最強GPU訂單曝光,TOP 1微軟一年買爆近50萬塊!xAI曬首批GB200提前過年
新智元報導
編輯:編輯部 HYZ
【新智元導讀】2024年英偉達GPU全球最大買家,竟是微軟?購買總量將近50萬塊,超所有競爭對手近兩倍。xAI已開心曬出首批發貨的GB200 NVL72,喜滋滋的像是提前過年了。囤的GPU越多,模型就會越好嗎?來不及解釋了,趕緊上車,車門焊死!
誰是今年英偉達GPU的最大買家?
就在剛剛,答案曝光——TOP 1竟是微軟。
今天,這張對比圖在網上被轉瘋了。
根據技術諮詢公司Omdia的分析師估計,微軟今年購買了48.5萬塊英偉達Hopper芯片,位列全球GPU買家的TOP 1。
這就使微軟遠遠領先於英偉達的第二大美國客戶——購買了22.4萬塊Hopper芯片的Meta。
在Meta之後的,就是xAI、亞馬遜(19.6萬塊)和Google(16.9萬塊)。
而且,Hopper的下一代GPU Blackwell馬上就要來了,英偉達還能大賺一波。
總之,隨著全球大科技公司瘋狂囤GPU,爭相組裝越來越大的GPU集群,英偉達的市值今年已經飆漲至3萬億美元。
這不,xAI已經開心曬出了首批發貨的英偉達GB200 NVL72,Colossus這個世界上最大的超算集群,會變成更大的龐然巨物。
可以看到,11月18日,戴亞創始人兼CEO Michael Dell就表示:世界上第一個英偉達GB200 NVL72服務器機架現已發貨。AI火箭要起飛了!
不過,只要有最好的芯片,就一定能構建最好的AI基礎設施呢?其實未必。
微軟Azure全球基礎設施高級總監Alistair Speirs表示,除此之外,還需要搭配合適的存儲組件、基礎設施、軟件層、主機管理層、錯誤糾正功能,以及構建完整系統所需的各項組件。
比如坐擁全球最強超算的Grok——雖然有不少測試指出它的表現十分出色,但依然經常被網民潑冷水說:擁有世界上數量最多的GPU,並不意味著你的模型就更好。
但是來不及解釋了,全世界的GPU購買潮已經到了最高峰,所有巨頭心裡想的只有一句話——快上車!
微軟,全球最大英偉達GPU買家
過去兩年里,英偉達最先進的GPU一直供不應求,而在CEO納迪拉維杜華的指示下,微軟可謂是卯足了全力!
從Omdia的數據中可以看出,微軟今年買了將近50萬塊GPU,數量是競爭對手的2倍之多。與此同時,也坐穩了投資金額榜一的位置。
為了擴建數據中心基礎設施,微軟已向OpenAI投資130億美元。這些設施既用於運行Copilot等自身的AI服務,也會通過Azure租給客戶。
OpenAI最新的o1模型,就是用微軟的Azure雲基礎設施訓練的。聯手的這兩方,正在和強勢回歸的Google、Anthropic、xAI等公司,激烈爭奪著下一代計算技術的製高點。
ChatGPT的成功,讓英偉達連夜加緊擴大Hopper芯片的生產。
而相比2023年購入的同代英偉達AI處理器,微軟這次訂購的數量增加了兩倍多。
根據微軟Azure全球基礎設施高級總監Alistair Speirs的說法,如今高質量的數據中心基礎設施,已經變成了極其複雜的「資本密集型項目」。
這需要多年規劃。因此,準確預測增長需求並保持適當的緩衝餘量至關重要。
的確,現在英偉達GPU已經成為矽谷最熱門的硬通貨,引發了前所未有的AI投資大暴增。
據Omdia預計,2024年服務器支出中,約有43%投向了英偉達。
其中,數據中心基礎設施的前十大買家(現包括新晉的xAI和CoreWeave在內),佔據了全球計算能力投資的60%。
而全球科技公司在服務器上的支出,則將達到2,290億美元這一驚人數字——微軟為310億美元,亞馬遜為260億美元。
Omdia雲計算和數據中心研究主管Vlad Galabov表示:「英偉達GPU在服務器資本支出中佔據了極高份額,已接近峰值水平。」
異軍突起,挑戰英偉達霸主
不過,英偉達也不能笑得太早。
雖然目前它仍主導著AI芯片市場,但它的老對手AMD也一直在對這塊市場虎視眈眈。
目前,AMD已取得了突破性進展。據Omdia統計,Meta今年採購了17.3萬塊AMD MI300芯片,微軟也購入了9.6萬塊。
更值得注意的是,各大科技巨頭紛紛極速佈局自研AI芯片,降低對英偉達的依賴程度。
作為先行者,Google潛心研發十年TPU;Meta在去年首次推出第一代訓推加速器芯片。
他們分別部署了約150塊自研芯片。
另有,全球最大雲計算服務巨頭亞馬遜,在AI芯片領域的動作引人注目。
目前,亞馬遜自研的Trainium和Inferentia芯片,今年已經部署約130萬塊。
幾週前,他們官宣將使用數十萬塊最新Trainium芯片搭建超算集群,主要是向投資了80億美金的Anthropic提供算力支持,用來訓練下一代模型。
相較之下,微軟在AI加速器研發方面,還處於起步階段。,一共部署了20萬塊Maia芯片。
在這之中,針對GoogleTPU芯片的需求,增長最快。甚至,強勁到足以撼動英偉達GPU的主導市場地位。
在Broadcom第三季度業績報告中,提供了一些重要的線索。
作為Google、Meta等多家科技巨頭的供應商,Broadcom為他們提供了半導體解決方案,其內部數據揭示了一些鮮為人知的採購趨勢和信息。
比如,Google購買了多少塊定製處理器等等。
Broadcom CEO陳福陽多次上調了半導體收入,並將今年目標設定在120億美金。
基於此,GoogleTPU帶來的收入預計在60億-90億美元之間,具體還得取決於計算設備和網絡設備的配比。
Omdia首席分析師Alexander Harrowell指出,「儘管計算設備和網絡設備的具體比例存在一些不確定性,但即使按照較低的60億美元估計,TPU出貨量的增長速度也足以首次從英偉達手中搶佔市場份額」。
他繼續道,「Google雲業務在總收入中佔比持續增長,盈利也在不斷提升」。
這背後,很可能就是TPU加速實例和基於TPU的AI產品在發揮作用。
除了Google,Broadcom還在為Meta、字節這三個主要客戶開發定製AI芯片(ASIC)。並且,它還與與另外兩個客戶合作開發下一代AIXPU。
從這點可以看出,許多雲服務提供商青睞ASIC,而非英偉達GPU,主要是因為前者在成本效益上更具優勢,能夠以更高性價比優化內部工作負載。
摩根士丹利估計,在雲服務提供商推動下,定製AI芯片市場規模將從2024年的1200億美元,增長到2027年的3000億美元,增速將超過GPU市場。
TPU、定製芯片的崛起,讓激烈的AI芯片市場的競爭格局正發生深刻變化。
參考資料:
https://www.ft.com/content/e85e43d1-5ce4-4531-94f1-9e9c1c5b4ff1
https://omdia.tech.informa.com/pr/2024/dec/omdia-demand-for-googles-tpu-chips-accelerates-challenging-nvidias-dominance