火山引擎:未來十年計算範式從雲原生進入到AI雲原生的新時代

新浪科技訊 12月18日下午消息,今日舉辦的火山引擎Force大會上,字節跳動基礎框架負責人趙鵬偉表示,“更極致性價比、更深度創新、更可靠安全是AI行業的發展趨勢。”

雲原生是過去十年最重要的計算範式,大模型時代則推動著雲計算的變革。

火山引擎認為,下一個十年,計算範式應該從雲原生進入到AI雲原生的新時代。基於AI雲原生的理念,火山引擎推出了新一代計算、網絡、存儲和和安全產品。在計算層面,火山引擎GPU實例,通過vRDMA網絡,支持大規模並行計算和P/D分離推理架構,顯著提升訓練和推理效率,降低成本;存儲上,新推出的EIC彈性極速緩存,能夠實現GPU直連,使大模型推理時延降低至1/50、成本降低20%;在安全層面,火山將推出PCC私密雲服務,構建大模型的可信應用體系。基於PCC,企業能夠實現用戶數據在雲上推理的端到端加密,而且性能很好,推理時延比明文模式的差異在5%以內。(羅寧)