被GPU改變的芯片格局

生成式AI浪潮的興起,正在推動計算體系從傳統的CPU主導模式逐步向GPU主導的時代轉變。

AI熱潮造就GPU繁榮的同時,也讓扮演關鍵角色的HBM熱度高居不下,成為當前AI賽道的新興爆發風口和科技巨頭競相追逐的戰略高地。

三星、SK海力士、美光等存儲行業的領航者,紛紛將HBM納入其核心產品線,視其為推動技術革新與市場競爭的關鍵。

HBM的火熱,正在給存儲市場掀起巨大波瀾,甚至改變當前的芯片格局。據南韓券商報導,SK海力士今年芯片業務年度營業利潤可能首次超過三星電子。

一、存儲芯片,地位凸顯

HBM,產業地位飆升

眾所周知,AI系統性能高度依賴於內存容量、帶寬和延遲。因此,內存技術正成為選擇GPU和其他加速器等基礎設施組件時更為重要的設計標準。

據瞭解,數據中心收入重心已經向GPU轉移,而這些GPU需要在整個內存層次結構中擁有更快的內存。因此,內存和存儲及其供應商正在提供更多價值,並在數據中心價值鏈中佔據更重要的地位。

以集成到GPU和加速器上的HBM為例,HBM現已成為提升AI和高性能計算系統性能的關鍵因素。

例如,英偉達的H100到H200 GPU的轉變就體現了這種影響。配備6xHBM3E(六層堆疊的HBM)的H200為大型語言模型(LLM)提供了兩倍於使用5xHBM3的H100的性能。具體來說,H200擁有141GB內存和4.8TB/s帶寬,大大超過了H100的80GB和3.35TB/s。

此外,HBM也是AI芯片中佔比最高的部分。根據外媒拆解,英偉達H100成本接近3000美元,其中佔比最高的便是SK海力士的HBM,憑藉2000美元左右的成本直接超過製造和封裝。

由此可見,內存容量和帶寬的大幅提升表明HBM不再是一種普通商品,而是尖端計算應用性能的關鍵驅動因素。內存供應商現在可以顯著區分最終解決方案的優劣,而不像過去存儲芯片只是主要根據價格購買的標準化商品。

因此,內存公司已從商品供應商轉變為推動AI進步的關鍵合作夥伴,對產品開發、定價、競爭定位和供應鏈動態的影響力不斷增強。

隨著HBM容量不斷增加,以及新的12層高堆棧產品的推出,英偉達和AMD等公司將在一定程度上根據HBM功能定位其產品。由於HBM的需求不斷增長以及在AI加速中發揮的關鍵作用,主要內存製造商正在優先考慮HBM的產能和投資力度。

可以認為,內存供應商已成為AI硬件供應鏈中的重要合作夥伴。目前只有SK海力士、三星和美光三家公司生產HBM。

HBM,「缺」字當頭

與此同時,受生成式AI大模型等領域的驅動,HBM逐漸發展成為新興熱門產業之一,隨著上遊客戶不斷髮出新的需求,目前HBM市場正釋放出供不應求的信號。

根據TrendForce預估,2024年HBM需求比特數年增率將接近200%,2025年將再度翻倍。

搶了一年多的HBM產能,還是「缺」字當頭。

存儲原廠2024年、2025年的HBM產能已被預訂一空,訂單能見度甚至直達2026年一季度。

行業分析指出,短期內HBM市場存在供需缺口,預計今明兩年HBM缺口將分別達到產能的5.5%和3.5%。

針對當前行業現狀和趨勢,HBM產能緊張的問題日益凸顯,很多高性能GPU的產能上不來,很大程度上就是因為HBM不夠用了。

面對這一挑戰,廠商們紛紛加速產能擴張步伐。

SK海力士在這場HBM競逐中,至今仍保持著領先身位,同時也在規劃產能的大幅擴產。據瞭解,SK海力士正全力推進第5代1b DRAM的產能提升,計劃將月產能從年初的1萬片激增至年底的9萬片,到明年上半年進一步提升至14萬至15萬片,實現產能的飛躍式增長。

三星也不甘示弱,在其HBM3攻入英偉達供應鏈之後,HBM3e供應卻頗為坎坷,受限於散熱、功耗等方面,產品至今仍未敲開英偉達大門。但這家南韓公司早些時候曾表示,預計今年HBM產能將實現近三倍的擴張。

美光則在美國本土與海外雙線佈局,建設先進的HBM測試線,並考慮在馬來西亞增設生產基地,以捕捉AI時代帶來的巨大市場需求。美光目標是在2025年將HBM市佔率提高兩倍以上,達到20%左右。之前公司還計劃在日本廣島新建DRAM廠,預計2026年初動工、最快2027年底完工。

能看到,三大存儲芯片巨頭均展現出對HBM產能擴張的堅定決心。尤為值得注意的是,SK海力士宣佈,預計到2028年將投資748億美元,其中八成資金將傾注於HBM技術的研發與製造,並加速推進下一代HBM4芯片的量產至2025年。

市場調研機構TrendForce在近期的行業研討會上指出,隨著全球前三大HBM廠商持續擴大產能,預計2025年全球HBM產能將同比大漲117%。

供不應求的供需關係背後,HBM供應商們個個賺得盆滿缽滿。甚至在前幾年存儲市場數個季度持續低迷的態勢下,HBM業務仍表現亮眼,成為拉動存儲廠商需求提升的關鍵。

這也意味著,AI應用對HBM的不斷增長的需求為內存供應商帶來了更穩定、不斷增長的市場,有可能降低內存行業的歷史週期性。

目前TrendForce對DRAM產業展望維持不變,預估2025年HBM將貢獻10%的DRAM總位元產出,較2024年增長一倍。由於HBM平均單價高,估計對DRAM產業總產值的貢獻度將突破30%。

此外,在三星的規劃中,計劃從其DRAM產能中調撥約30%用於生產HBM,這可能導致全球DRAM供應量減少13%,從而推高市場價格。

而對於NAND Flash市場,TrendForce表示,NAND Flash供應商經歷2023年巨額虧損後,資本支出轉趨保守。AI應用對高速、大容量儲存的需求日益增加,也將推動Enterprise SSD(eSSD)市場的蓬勃發展。不過,DRAM和HBM等存儲產品需求受惠AI浪潮,將排擠2025年NAND Flash設備投資。

根據TrendForce集邦諮詢最新調查,NAND Flash產品受2024年下半年旺季不旺影響,wafer合同價於第三季率先下跌,預期第四季跌幅將擴大至10%以上。模組產品部分,除了Enterprise SSD因訂單動能支撐,有望於第四季小漲0%至5%;PC SSD及UFS因買家的終端產品銷售不如預期,採購策略更加保守。TrendForce集邦諮詢預估,第四季NAND Flash產品整體合同價將出現季減3%至8%的情況。

TrendForce集邦諮詢同時指出,在模組廠庫存過高和部分原廠削價競爭下,第四季NAND Flash wafer合同價將出現較大幅度衰退,預估季減10%至15%,且不排除擴大趨勢。

二、存儲芯片,格局生變

HBM,改變存儲芯片市場格局

HBM產能爭奪的背後,還存在更為激烈的技術競賽,影響著芯片格局的走向。

長期以來,三星都是存儲芯片領域的霸主。然而,如今在HBM熱潮下,三星遭前後夾擊,正在從此前的存儲芯片領導者變成追隨者。

三星電子正處於失去存儲芯片榜首頭銜的邊緣,一方面需要艱難地追趕競爭對手SK海力士,同時還需要抵禦快速追趕的中國企業。

儘管三星電子報告稱,2024年第三季度的營業利潤增長了274%,但該公司目前正處於危機狀態。迫在眉睫的危機導致三星芯片負責人全英賢(Jun Young-hyun)發表前所未有的道歉,承認未達到市場預期,並對組織進行徹底改革。

這些財務狀況的背後隱藏著一項正在瓦解的半導體戰略,以及報告的利潤掩蓋了更深層次的問題,包括錯失的市場機會、競爭挫折以及暗示內部動盪的領導層變動,給這家南韓科技巨頭帶來了嚴峻挑戰。

三星合規委員會在年度報告中也承認,三星目前處境艱難,必須應對世界各地不可預測的快速變化的經濟狀況、員工信心的喪失、招聘人才的困難以及技術挑戰,正在打一場硬仗。

三星困境的核心在於其半導體業務的一系列失誤。三星在AI芯片領域的表現不佳,導致其股價今年以來下跌超過20%。三星曾向投資者承諾在12層HBM3E芯片等技術上投入巨資,並希望其HBM3E芯片能獲得AI芯片巨頭英偉達的批準,但目前還沒有跡象顯示三星最新的HBM產品很快就會通過英偉達的資格測試。

據悉,由於散熱問題和功耗過高,三星12層HBM3E產品的驗證方面受到了阻礙。英偉達作為AI硬件領域的領先企業,以對供應商的嚴格要求而聞名。在幾個月內未能按時交貨和問題未得到解決之後,英偉達似乎已經從SK海力士購買了大量HBM3和HBM3E產品。

Nvidia在數據中心市場的份額飆升,HBM的價值也隨之飆升Nvidia在數據中心市場的份額飆升,HBM的價值也隨之飆升

可以預見,在由AI推動的快速增長的內存市場中,失去英偉達等關鍵客戶可能會是一個巨大的挫折。

在三星解決其技術問題的同時,SK海力士和美光抓住了這一機會,將自己打造為科技行業首選的12層HBM3E內存供應商。這種情況損害了三星作為內存芯片領導者的聲譽,並可能對其造成長期影響。

據悉,SK海力士目前是英偉達第四代和第五代HBM3和HBM3E的唯一供應商,而三星仍在進行資格測試。可見,三星這些努力並沒有達到預期,讓競爭對手獲得了優勢。

TrendForce表示,從HBM產品類型來看,由於英偉達自Blackwell GPU開始,新產品會逐步轉往12層HBM3e,2025年HBM3e將取代HBM3成主流產品,佔整體HBM市場需求的89%,其中12層堆疊產品將佔比過半,成為明年下半年各大AI廠商競相爭奪的主流產品,其次為8層HBM。

這意味著三星或將繼續被拉大差距。

不久前,英偉達創始人黃仁勳宣佈,將英偉達的AI芯片更新週期從兩年壓縮至一年。換言之,這一策略不僅意味著GPU需要適應這樣迅速的迭代,也敦促著包括存儲芯片在內的供應商提高技術演進的速度。

SK海力士近日已開始將混合鍵合應用於3D DRAM的量產。TSV+堆疊鍵合工藝為當前HBM理想方案;但隨著堆疊層數增加,散熱要求增加,混合鍵合有望成為下一代HBM4方案。

除了SK海力士之外,三星電子先進封裝團隊也已完成了採用16層混合鍵合HBM內存技術驗證,未來16層堆疊混合鍵合技術將用於HBM4內存量產。

然而,製造HBM芯片需要大量先進技術,但前提條件是DRAM的品質和成本,而這取決於其良率。DRAM的良率對於HBM來說至關重要,因為如果不符合標準,HBM的成本和處理時間將不可避免地惡化。

DRAM合格後,接下來就是公司將採用哪種封裝和鍵合技術來決定HBM的性能。三星電子和SK海力士都在採用1b納米製程技術(相當於12納米範圍)用於HBM3E的DRAM。良率通常是每家存儲廠商的保密數據,但據透露,三星電子的1b納米DRAM的良率明顯低於SK海力士。

另一方面,隨著中美競爭的升級,中國存儲芯片製造商多年來一直在努力實現芯片技術獨立,中國存儲芯片製造商擴大市場份額的速度也越來越快,三星電子也面臨著新的挑戰。

根據集邦諮詢發佈的數據,中國芯片製造商在DRAM市場的市佔率預計明年第3季將達到10.1%,高於今年的6%。摩根士丹利最近的一份報告預計,國內DRAM存儲大廠今年的DRAM產量將超過10%,並預測中國廠商對傳統DRAM市場的入侵將會更快。

三星,「寒冬將至」?

現代證券研究中心主管Noh Geun-chang表示,由於AI相關的半導體需求旺盛,半導體整體市場不會有寒冬,但唯獨對三星而言,寒冬已至,因其未能證明在HBM領域上的競爭力。

三星電子投資人也正經歷艱難時期。據悉,7月初三星電子股價上漲至8.7萬韓元,至10月11日已跌至5.93萬韓元。讓投資人不安的不僅是股價下跌,因為股價是根據市況而波動,股價走勢表明三星電子的競爭力已亮起紅燈。

不僅是HBM領域,三星的另外兩大業務智能手機與晶圓代工也全都面臨嚴峻競爭。

若以美元計算,這家芯片巨頭10年的銷售成長率每年平均僅1%。除了2017年收購汽車設備大廠Harman外,三星的業務沒有變化太大。對於一家10年來銷售相同產品,且銷售停滯的公司而言,股市幾乎沒有給予高度評價的空間。

為了應對這些挑戰,三星近期進行了重大的公司重組。內存、代工廠、系統LSI和製造部門的高管均被替換,新領導層被任命擔任關鍵職務。雖然三星將此舉作為一項戰略舉措,以表明其認真對待這些問題。然而,僅僅更換管理層可能不足以解決產品交付和質量方面的根本問題。

今年5月,在由台積電主導的晶圓代工領域,三星曾試圖通過承諾比台積電更出色的性能來吸引AMD、蘋果等客戶。然而,由於三星生產良率較低,現實情況並不樂觀,持續的產量問題已經擾亂了生產代工業務,導致AMD和Apple等潛在客戶轉而依賴台積電。

三星當前的目標是提高良率,重新贏得客戶信任,並證明三星的代工雄心是可信的。但鑒於台積電在先進節點製造領域的良好聲譽和穩定表現,這對三星來說將是一個挑戰。

在DRAM技術上三星也面臨著艱巨的任務,即糾正HBM3E問題並確保三星能夠提供符合Nvidia嚴格標準的產品。據報導,這一目標迄今為止難以實現,其首要任務包括解決熱量和功耗問題,並防止三星HBM在未來迭代中遭遇類似的挫折,保持領先於市場趨勢對於重新獲得競爭優勢至關重要。

總的來說,這些問題對三星的半導體部門來說都是重大障礙。

無論是英偉達決定與SK海力士合作,還是AMD、蘋果等公司的芯片轉投台積電,這不僅意味著三星失去了一次合作的機會;同時也是向業界表明,三星可能不再是曾經的可靠內存供應商和晶圓代工廠。

SK海力士和美光正在用HBM芯片滿足AI市場的旺盛需求,而三星仍在努力應對技術問題和延遲;台積電則在代工業務方面的表現優於三星,持續向客戶交付3nm芯片,而三星仍陷入良率的問題中焦頭爛額。

因此,要想改變現狀,三星必須解決影響其HBM內存的熱量和功耗問題、提高3nm生產良率等問題外,更重要的是要重建客戶信任:要重獲行業主要參與者的信任,就需要始終如一、可靠的表現。三星可能需要採取少承諾、多兌現的策略,專注於兌現承諾,而不是僅做出大膽的宣稱。

但三星最終能否克服這些挑戰?如今預測還為時尚早。

但其前進的道路一定充滿艱辛,競爭對手已經在關鍵市場佔據了強勢地位。然而,半導體行業瞬息萬變,只要製定正確的戰略並完美執行,三星就能努力重奪領導地位;如果不能有效解決當前的缺陷,三星可能會在其曾經佔據主導地位的市場中淪為次要位置。

三、寫在最後

如科創板日報所言:回望11年前,SK海力士就已首次製造出HBM,兩年後迎來第一位客戶AMD。但在此之後,HBM因價格高昂,再鮮見客戶買賬,沉寂多年以致一度被看作是「點錯了科技樹」。

如今,英偉達一片GPU終於為HBM「正名」,整個行業都在追趕HBM的進度。畢竟,在AI硬件軍備賽中,時間就是生命,落後就意味著淘汰。

在HBM技術的征途上,一場沒有硝煙的戰爭正在上演,也見證著芯片市場競爭格局的重塑。