火山引擎CEO譚待談應用卡頓:不一定是算力不夠用
新浪科技訊 12月18日下午消息,火山引擎FORCE大會期間,火山引擎CEO譚待向新浪科技介紹了在算力相關層面的規劃。
譚待向新浪科技表示,“我們自己在(算力)儲備上還是很充足的。也正是因為這個原因,我們現在可以提供業界最大的TPM和RPM(注,TPM和RPM是衡量AI模型處理能力的兩個關鍵指標,分別代表每分鍾處理的Tokens數量和每分鍾的請求數)。包括今天發佈的新的模型之後,後面增速會更快。因為視覺理解會解鎖更多的場景,從火山引擎的角度,算力部分我們的儲備是足夠的。”
此外,他還表示,“一個新的功能上線,在用戶使用的時候出現了卡頓或者阻礙,不一定是算力不夠的原因。因為你畢竟用的是一個應用,用的是一套系統,可能比如說你的前端,接入端,包括中間,哪怕是用戶驗證或什麼環節出了問題也會影響到整個系統的流暢性,包括工程上面一些優化等方面。所以我覺得如果出現卡頓其實不只是簡單的算力問題。”(羅寧)