AMD舉辦Advancing AI 2024大會:企業級CPU、GPU大更新 加速AI佈局

新浪數碼蘇航 發自美國舊金山

美國舊金山時間10月10日,半導體公司AMD舉辦“Advancing AI 2024”活動,發佈了一系列企業相關的產品,其中包括Instinct MI325X GPU加速器、第五代AMD EPYC服務器處理器,以及Ryzen AI PRO 300系列處理器等。

新品眾多,且大多是企業級數據中心相關的產品,不免讓人覺得有些眼花繚亂,但實際上他們都有一個共同的主題,那就是AI。Instinct MI325X加速器不必多說,這是AMD在AI加速器市場站穩腳跟的關鍵,它將直接與英偉達的H200芯片競爭;第五代AMD EPYC服務器處理器為雲、企業和AI提供強大算力;而Ryzen AI PRO 300系列處理器則將AI能力帶給企業商用筆記本產品。

“Advancing AI 2024”就如它的名字,是AMD推進人工智能、擴大其 AI 市場份額的重要一步。

Instinct MI325X GPU加速器

在AI加速器市場,面對英偉達這樣的對手,AMD需要拿出有足夠誠意的產品。去年發佈的Instinct MI300X取得了一定成功,而作為它的繼任者Instinct MI325X在內存和浮點運算上有了新突破。

由於配備了速度更快、密度更高的HBM3E內存,Instinct MI325X的內存帶寬提升到6TB/s,容量提升為256GB。另外,它的浮點運算的能力也提升了近30%。AMD在介紹這款產品時稱,在開源工作負載中,它相比競爭對手有1.2倍到1.4倍的性能提升。

這隻是一個Instinct MI325X,AMD將其嵌入到一個平台中,其中包含8個這樣的加速器,這意味著平台上所有的能力將翻8倍,而推理性能相比競爭對手提升最高1.4倍,訓練模型的性能也追平了對手。

除了Instinct MI325X GPU加速器,AMD還預告了Instinct MI350系列,它是前者的繼任者,採用3納米製程,全新的CDNA 4架構,內存容量提升至288GB,內存帶寬提升至8TB/s。平台級別的產品中,內存容量超過2.2TB,FP6和FP4下可實現74 PF的計算。

第五代AMD EPYC服務器處理器

對於AMD來說,服務器處理器市場至關重要。從2018年開始,AMD EPYC的市場份額就在不斷提升,如今這個系列的產品已經更新到了第五代。

第五代AMD EPYC服務器處理器有兩個版本,一個是基於Zen 5架構,擁有128顆核心,256線程;另一個基於Zen 5c架構,擁有192顆核心,384線程。製程工藝也不一樣,一個基於4nm,另一個基於3nm。

內存方面,第五代AMD EPYC服務器處理器擁有12個內存通道,支援6TB插槽容量,並配有兩個插槽。I/O啟動後不僅可以保護CPU,還可以保護平台中連接到CPU的全部設備。

第五代AMD EPYC服務器處理器在雲和企業工作負載中,IPC性能提升了17%;而HPC和AI的IPC性能提升了37%。這是相當大的提升了。

性能提升之外,AMD瞄準了那些4年未更新的數據中心。官方宣稱,現在客戶可以使用131個服務器代替上千個數年前的服務器,來實現後者所有功能。這樣做的直接好處就是,降低了68%的功耗,減少了87%的服務器數量,進而降低客戶的成本。並且AMD提供了一套完整的遷移工具,就怕客戶嫌麻煩不買賬。

那麼先進的服務器處理器對AI有什麼幫助呢?AMD展示了多項數據,如果單純用EPYC來完成所有AI工作,相比競爭對手,其有3倍的機器學習能力提升,3.8倍端到端人工智能和搜索能力的提升,還有1.9倍大語言模型能力提升。

如果你買了昂貴的GPU用來做AI,不管是AMD自家的Instinct MI300X系列,還是對面的H100系列,EPYC都可以最大化GPU的能力。而如果是CPU和GPU搭配處理AI任務,第五代AMD EPYC服務器處理器依然有優於競爭對手的表現。總之一句話就是,買了第五代AMD EPYC,你怎麼用都不吃虧。

銳龍Ryzen AI PRO 300商用移動系列處理器亮相

雖然是銳龍系列,雖然是AI PC,但這個系列的處理器不是面向消費級市場,而是面向企業級PC的。它的架構和不帶“PRO”的版本基本一致:CPU部分採用Zen 5架構,NPU採用XDNA 2架構,GPU則採用RDNA 3.5架構。其中NPU的算力提升到50TOPS以上,完全滿足微軟Copilot+PC的條件。所以AMD稱,這個系列處理器是世界首款專為企業Copilot+PC而設計的芯片。

與“非PRO”版不同的是,“PRO”版針對企業加入了AMD PRO技術。比如芯片內置了安全技術層,避免複雜攻擊;方便企業快速部署,並兼容已有的基礎設施;還與軟件供應商合作,確保軟件穩定性和可用性等等。

此外,AMD還討論了產品的續航,由於採用了領先的4nm製程工藝,搭載這款處理器的AI PC一般使用時間可達23小時;連續使用Microsoft Team,續航可超過9小時。雖然沒人想要連續使用Team超過9小時,但不可否認,銳龍AI PRO 300系列擁有這樣的能力。

將這樣一款AI PC處理器帶到企業級市場,AMD補全了在企業端AI市場的最後一塊拚圖。

寫在最後:

Advancing AI 2024整場活動都是面向企業市場的,這對於消費者來說似乎無關緊要,但對那些耳熟能祥的科技公司,比如Google、微軟、IBM、思科等等,卻顯得尤為重要。這些“巨頭”企業也派出了代表為AMD站台,足見這場活動在企業領域的影響。

而說回AI,與競爭對手相比,AMD更像是一個挑戰者,通過戰略收購、創新產品開發和強大的合作夥伴關係,來試圖撼動“霸主”的地位。“數據中心和人工智能(AI)為AMD帶來了巨大的增長機會”,AMD董事長兼首席執行官蘇姿豐 (Lisa Su) 博士表示。

“展望未來,我們看到,2028年,數據中心、人工智能、加速器市場將增長至5000億美元。通過我們擴展的芯片、軟件、網絡和集群級解決方案,我們致力於提供大量開放式創新。”