聯想攜手燧弘華創搭建萬全異構智算平台,DeepSeek極限吞吐超8000 tokens/s
新浪科技訊 3月27日下午消息,異構智算產業生態聯盟攜手生態合作夥伴走進燧弘華創慶陽綠色智算中心,共同見證了DeepSeek大模型落地新突破,並圍繞異構智算、DeepSeek大模型落地數據中心、超智融合等話題進行分享交流,共同探討了異構智算與AI大模型的深度融合。

據介紹,在燧弘華創慶陽綠色智算中心,聯想問天 WA5480 G3服務器搭載了第四代英特爾®至強®可擴展處理器。同時,聯想搭建了萬全異構智算平台。
聯想中國基礎設施業務群戰略總監黃山表示,燧弘華創慶陽綠色智算中心攜同聯想萬全異構智算平台突破算力瓶頸,通過訪存優化、顯存優化、PCIe 5.0全互聯架構創新以及精選SGLang框架中性能最優算子等創新方式,將單機服務器運行大模型的性能再創新高,3000併發下總吞吐量超8000 tokens/s,持續提升DeepSeek滿血版用戶體驗。