獵豹移動童寧:不用焦慮算力問題 很多場景不需要強算力

新浪科技訊 1月16日下午消息,“2024科技風雲榜”年度盛典在京舉行,今年活動主題為“新質科技 · 智向未來”。訊飛創投合夥人朱永、科銳國際CTO劉之、創新工場執行董事暨前沿科技基金總經理任博冰和獵豹移動副總裁童寧圍繞“大模型,還能火多久?”主題進行圓桌對話。

對話中,童寧表示,“大模型階段很像孩子上學,上完高中了,高中畢業了,剛出來什麼也不會,或者會的東西不多。但是可以自我學習,有學習能力了。這時候有的公司會選擇算了,讓他念醫科吧,於是就有行業大模型,有的偏醫科,有的偏金融,有的偏科學研究,就像一個人開始念大學然後念研究生。”

在童寧看來,理解數據與模型之間的關係是大家一直忽略的事。大模型本身是數學里的一個分支,主要還是概率論和運籌學,核心算法都是從幾十年前的算法演進過來的,它非常強調所謂的數據對最後結果的影響。

“我們給很多大客戶落地,最後贏不是贏在模型上,都是贏在我們知道怎麼去駕馭模型和提示詞和數據之間的關係,特別是私有數據之間的關係。”童寧說道。

童寧建議,不用對算力本身太過於焦慮,因為很多場景不需要那麼強的算力。“可能訓練模型需要,但是模型應用中是不需要那麼強的算力的,而且在實踐中,客戶在不同的場景里需要的模型尺寸是不一樣的,有的工作極簡單,需要一個特別小尺寸模型,這樣大量併發的時候,它的處理速度才快。但是一個複雜的模型,比如說要為領導去寫一個分析報告這種要持續20、30分鍾的推理,這種任務需要一個比較強勁的千億模型來做,本質就是看業務需求。”