DeepSeek極限吞吐超8000 tokens/s 倒逼AI技術更高效和普惠

封面新聞記者 孟梅 歐陽宏宇

DeepSeek在全球爆火出圈幾個月後,最近不少用戶發現“服務器繁忙,請稍後再試”的提示越來越少了。這背後是何種技術發展提升了算力供給,進一步推高了AI熱潮?

3月26日,在甘肅慶陽舉行的異構智算產業生態聯盟大會上,多位來自AI產業的專家、業內人士就算力供給分享了觀點。專家表示,異構智算平台為智算中心輸出融合、穩定和高效的算力,加速各行業實現數字化、智能化轉型升級。其中,3000併發下,DeepSeek總吞吐量超8000 tokens/s,提升了用戶體驗。

DeepSeek掀起的AI應用革命與算力瓶頸突破,也讓AI算力供給受到了前所未有的關注。

全國政協委員,中科院計算所研究員張雲泉表示,“DeepSeek的誕生標誌著在AI領域出現了新的技術突破,尤其是在低算力訓練和高效率模型優化方面,這將推動AI技術向更高效和普惠的方向發展。”他認為這一突破,促使全球市場重新評估大模型發展的成本曲線,推動國內芯片、雲計算等基礎設施加速升級。

談及數據中心建設,燧弘華創執行總裁唐鋒表示,企業應圍繞東數西算戰略,聚焦人工智能與算力產業,打造綠色低碳算力基礎設施,構建高效能、可持續的綠色算力大底座。

AI大模型的熱潮催生了廣泛的AI算力需求,而算力的建設需政府引領與龍頭企業協同推進。

在新技術應用方面,據聯想中國基礎設施業務群戰略總監黃山介紹,AI基礎設施提供商已能憑藉異構智算平台應對智算挑戰,以液冷等技術持續解決能效和能耗難題,為千行萬業輸送真正 “好用” 的算力,從而有力推動智能化轉型和產業升級。除此之外,還涵蓋了服務器、存儲、數據網絡、軟件及超融合、支援運維服務等在內的全方位基礎設施解決方案。

英特爾高性能計算行業總監張東昇則表示:“超智融合技術作為近年來全球計算領域熱點話題,其核心思想是將超算與智算的能力相結合,以滿足在人工智能高速發展背景下的各行業多元算力需求。”