英偉達的迷你超級計算機很炸裂,但你可能還不需要一台能跑 AI 的 PC

今年的 CES,要數黃仁勳帶來的一系列產品最振奮人心:RTX 5000 系列,DLSS 4,Project Digits。噢,還包括他又更閃亮了的皮衣。

有網民說 RTX 5000 就已經這麼亮了,那以後是不是得裝 LED。

現在,CES 落幕已經有一段時日了,再回顧展會上大大小小的產品——以 AI 為主的先進數碼科技——不禁讓人陷入沉思。

AI 和硬件設備結合,真的有那麼快到來嗎?

現狀:Copilot 廣發英雄帖

把 AI 移植到端側是許多廠商都在發力的方向,最為主動的是微軟,為自己旗下的 Copilot 招徠了許多合作夥伴。

在今年的 CES 上,宏□推出了 Acer Aspire S AI 一體機,配備了英特爾酷睿 Ultra 處理器(series 2),以及能夠完成 67 TOPS 的 Arc Graphics 芯片。除了支持微軟的 Copilot Plus 外,還配備了「智能空間」,這是一個能自動檢測的中台部件,提供適當的 AI 工具來優化性能、生成圖像和增強遊戲體驗。

Acer Aspire S AI 系列

同樣是支持 Copilot Plus,惠普也計劃推出一體機 OmniStudio X,搭載英特爾 Core Ultra 200V 系列處理器,另有搭載 AMD 新款 Ryzen AI Max 芯片的 Z2 Mini Gla。

惠普 OmniStudio X

Z2 Mini Gla

Z2 Mini Gla 體積很小,卻足夠強大,可以為 Windows 11 中的 AI 功能,比如編輯和生成圖像,提供支持。

類似的產品華碩也在做,在 CES 之前就官宣了 NUC 14 Pro AI,搭載英特爾酷睿 Ultra 9 處理器,是首款配備 Copilot Plus 的 AI 迷你電腦,提供五種 CPU 配置:從配備 16GB 集成 RAM 的 Core Ultra 5 226V 處理器到配備 32GB RAM 的 Core Ultra 9 288V 處理器。整合了 CPU,NPU 和 GPU,在圖形性能、應用兼容性、安全性和 AI 計算能力上都大有提升。

這些看上去很酷炫的產品,無一例外地,都沒有公佈具體的上市時間,暫時也沒有看到足夠多的樣機測評和上手體驗。

被寄予厚望的 AI PC 在實際使用中體驗如何,仍然是一個需要很長時間才能找到答案的問題。

AI——更確切的說是大語言模型——目前仍然依賴雲端部署,把 AI 移植到本地的難度或許不比實現 AGI 簡單,為了更好的作用在 PC 上,NPU 應運而生。

作為專門針對神經網絡等機器學習任務優化的處理單元,NPU 能夠以更高效的方式執行矩陣和向量運算,適合深度學習推理和訓練的需求,尤其是在移動設備和邊緣計算中,NPU 能大大提高 AI 處理能力。目前 NPU 的主要任務是用來降低能耗,能夠同時運行更大的模型,這讓它被認為是未來個人電腦中最不可或缺的構件。

無論是 GPT、Gemini 還是 Llama,都需要大量的算力和儲存空間。這導致在個人電腦本地上運行它們,非常困難。哪怕是一些小的功能——智能修圖、生成不同模態的內容,都需要大量的算力。

Copliot Plus 的要求是 40 TOPS,也就是每秒 40 萬億次操作(Tera Operations Per Second)。英偉達一直到 RTX 2000 系列才達到這個要求,AMD 直到 RX 7700 XT 及以上版本才得以實現。

AMD RX 7700 XT

所以,現階段不是隨隨便便在廣告上加上「智能」兩個字,就是真的人工智能,碰到硬吹自家產品是「AI 賦能」的,不如直接繞道走。

未來:端側 AI 功成不必在電腦

不過,這裏的問題是:賦能真的有必要嗎?

廠商自然會用力點頭:有必要,大有必要。連英偉達都在用力開發 AI PC。

一打眼看還以為是蘋果的 Studio Display,但這其實是英偉達的 Project Digits,一台實踐「AI 超級計算機」理念的個人電腦。

Project Digits 配備 Nvidia 的 Grace Blackwell GB10 超級芯片,旨在運行具有多達 2000 億個參數的大型語言模型,擁有 1 千萬億次浮點運算能力。借助預裝的 NVIDIA AI 軟件堆棧和 128GB 內存,開發人員可以在本地對多達 200B 個參數的大型 AI 模型進行原型設計、微調和推理,並無縫部署到數據中心或雲端。

同樣的,Project Digits 沒有樣機實測,計劃於今年五月面世,起價 3000 美元——顯然不是一個親民價格。

無論如何,英偉達透過 Project Digits 所展現出來的態度是很清晰的:個人電腦「應該」結合系統級 AI。Copilot 只是目前最顯眼的選項,但未來肯定不是唯一選項。

然而現狀是,現在即便是重度 AI 使用者,用 AI 廠商們提供的服務就已經夠了,至多買幾個高級會員。RTX 5000 系列的確比上一代提升不少,價格也公道,但始終無法和大型服務器集群相提並論。

拿一塊芯片和一個服務器群對比,或許有失公允,但它暗含的是一個底層問題:你真的需要一台 AI PC 嗎?

英偉達的 Project Digits 有明確的受眾對象,開發者、研究人員、高校學生,在這群人手上 Project Digits 更能施展得開。

但對於大多數普通消費者來說,能絲滑打 3A 遊戲足夠了,能把這個任務好好完成,做什麼都會成功的。

關注 AI 第一新媒體,率先獲取 AI 前沿資訊和洞察

如果你已經有 RTX 顯卡,那你都不需要一台強調自己配備 NPU 的 AI PC,因為 RTX 3080 的表現也比英特爾的 Core Ultra 要強得多。但如果答案是否定的,與其把電腦升級到 AI PC,還不如開一個 GPT 高級會員,可能性價比會更高。

更何況,RTX 5000 一經推出,原本的 4000 系列突然就不香了。數碼硬件就是在面臨一個很殘酷的競爭節奏:下一代永遠比上一代強,還更便宜,上一代的去向就只能是閑魚。

假設今天我們有一台搭載 RTX 40 系列的消費級 PC——別管它什麼樣子,反正夢裡什麼都有——RTX 5000 一出,這台機器原地就要打骨折。那麼可預見的是,當 RTX 6000 出現的時候,淘汰隊列里又會多添一部設備。

這當中因為更新設備而產生的差價,搞不好都夠我充 10 年的 GPT 會員了。

軟件的迭代屬於勻速前進,尤其是基於大語言模型的應用產品,即便新推出的功能一般,又或者是提升有限,好歹不會再額外收錢——會員費就包圓了。

當然,前提是 AI 軟件的服務,和系統層 AI 差不了多遠。目前還沒有系統層 AI 出現,還有待 Copliot Plus 和各個廠商之間的合作再進一步,來試試水溫。

眼下,AI 能發揮的場景相當有限,甚至可以說,手機系統級的 AI 或許會更早一步到來:我用手機修圖,用手機點外賣,用手機在小紅書上跟外國網民嘮嗑,而不是電腦。

如果未來的 AGI,非要我打開電腦才能幫我處理大小事情的話,要不然,還是我自己用手機修圖吧。