華為雲發佈AI原生雲基礎設施架構CloudMatrix,新一代昇騰AI雲服務將於年底上線

新浪科技訊 9月20日下午消息,在華為全聯接大會2024上,華為雲發佈AI原生雲基礎設施架構CloudMatrix,以滿足AI時代企業對於算力的大規模、高效穩定、彈性靈活的需求。

如今,AI算力需求高速增長,正在超越對通用算力的需求。構建彈性、高效的多元算力基礎設施是AI發展的關鍵。為了進一步提升AI原生基礎設施的效能,華為雲推出AI原生雲基礎設施CloudMatrix,將CPU、NPU、DPU、存儲和內存等資源全部互聯和池化,構建“一切可池化、一切皆對等、一切可組合”的分佈式對等全互聯架構,實現了單體算力向矩陣算力的演進,為客戶提供澎湃的AI算力。

一切可池化:華為通過CPU、NPU為客戶提供通用計算和智能計算。同時,華為雲分佈式QingTian技術幫助突破單服務器的能力邊界,將服務器內的CPU、NPU、DPU、存儲和內存等多樣資源的統一池化並靈活配置,以此形成大規模、緊耦合的多元算力池化架構,算力得到大幅提升。

一切皆對等:CloudMatrix通過超高帶寬ScaleUp網絡從“傳統以太網”向“共享總線以太網”演進,實現池化算力的高速互聯,同時通過自適應拓撲感知打破集群線性度瓶頸。能夠降大模型訓練集群的線性度提升至95%,網絡故障分鍾級恢復。

一切可組合:在統一多元算力邏輯池化、高速全對等互聯的基礎上,通過瑤光智能雲腦對雲上資源進行多元算力統一建模、靈活調度組合,按需提供給應用。覆蓋大模型和小模型的訓練和推理,同時,還能夠用在數據分析、媒體內容生成等更多應用場景。

華為雲宣佈,基於CloudMatrix的新一代昇騰AI雲服務將於年底上線。