全程回顧黃仁勳GTC演講：Blackwell架構B200芯片登場

來源：財聯社

財聯社3月19日訊（編輯史正丞）香港時間3月19日4時-6時，英偉達創始人黃仁勳在美國加州聖荷西SAP中心登台，發表GTC 2024的主題演講《見證AI的變革時刻》。鑒於過去一年多時間里AI帶來的生產力變革，以及英偉達等一眾概念股的表現，老黃的演講已經變成全球資本市場翹首以待的熱門事件。

在這場兩個小時的演講中，黃仁勳公佈了搭載B200芯片的GB200 Grace Blackwell超級芯片系統，以及英偉達在AI軟件（NIM微服務）、Omiverse雲、具身智能方面的最新進展。

以下為演講內容回顧：

播放開場影片

黃仁勳登台，對觀眾們強調：我希望你們搞清楚今天這裏不是演唱會，而是一場開發者大會。

黃仁勳介紹了本屆GTC的一些參與者，並強調這些公司不只是來參會，而是有自己的東西要來展示。

黃仁勳展示英偉達發展史，又提了將首台DGX One送給OpenAI的故事。

黃仁勳：今天我們將討論這個新行業的許多問題。我們要談談如何進行計算、我們要談談你所構建的軟件類型，你將如何看待這個新軟件，新行業中的應用然後，也許（再談談）下一步是什麼，我們如何從今天開始做準備，下一步會發生什麼。

黃仁勳：我們使用仿真工具來創造產品，並不是為了降低計算成本，而是為了擴大計算規模。我們希望能夠以完全保真、完全數字化的方式模擬我們所做的整個產品。從本質上講，我們稱之為數字孿生。

老黃開始介紹一系列「新加速生態系統」合作夥伴，包括ANSYS、Synopsis、Cadence等。他也提及，台積電和Synopsys將突破性的英偉達計算光刻平台投入生產。

隨著transformer模型被發明，我們能以驚人的速度擴展大型語言模型，實際上每六個月就能翻一番。而為了訓練這些越來越大的模型，我們也需要更強的算力。

「非常強大」的Blackwell架構GPU登場

老黃現場對比Blackwell架構和Grace Hopper架構的GPU

老黃現場展示Grace-Blackwell系統（兩個Blackwell GPU、四個die與一個Grace Cpu連接在一起）。GB200將兩個B200 Blackwell GPU與一個基於Arm的Grace CPU進行配對。新芯片擁有2080億個晶體管，所有這些晶體管幾乎同時訪問與芯片連接的內存。

為了處理大規模數據中心的GPU交互問題，也需要更強的連接（NVlink）能力。

這個GB200新系統提升在哪裡呢？老黃舉例稱，如果要訓練一個1.8萬億參數量的GPT模型，需要8000張Hopper GPU，消耗15兆瓦的電力，連續跑上90天。但如果使用Blackwell GPU，只需要2000張，同樣跑90天只要消耗四分之一的電力。當然不只是訓練，生成Token的成本也會隨之降低。

把芯片做大的好處：單GPU每秒Token吞吐量翻了30倍

毫無疑問，微軟Azure、AWS、Google雲等一眾科技巨頭都是Blackwell架構的首批用戶。

接下來應該是應用側的部分，先展示的是生物醫藥的部分，包括NVIDIA DGX雲中的多項更新。

黃仁勳宣佈新的AI微服務，用於開發和部署企業級生成式AI應用。老黃表示，未來如何開發軟件？與現在寫一行行代碼不同，未來可能就要靠一堆NIMs（Nvidia inference micro service），用與AI聊天的形式調動一堆NIMS來完成訓練、應用的部署。英偉達的願景是成為AI軟件的「晶圓廠」。

英偉達的AI微服務NIM網站已經上線。

NIM微服務提供了最快、性能最高的AI生產容器，用於部署來自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型，以及來自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的開放模型。

NVIDIA AI Enterprise軟件平台更新，包括NIM、構建RAG應用程序的工具等。隨後老黃又分享了西門子科技、日產汽車等用如何在工作流中將Omiverse Cloud應用在工作流中。

黃仁勳宣佈，現在支持將Omniverse雲推流至Vision Pro。

可能是時間不太夠了，老黃開始加速官宣一系列合作。其中提到全球最大電動車公司比亞迪將採用英偉達下一代智能汽車芯片Thor。比亞迪同時將使用英偉達基礎設施進行自動駕駛模型訓練，以及英偉達Isaac來設計/模擬智能工廠機器人。

開始提機器人了。黃仁勳表示，在我們的世界里，類人機器人很有可能會發揮更大的作用，我們設置工作站、製造和物流的方式，並不是為人類設計的，而是為人類設計的。因此，這些人類或機器人的部署可能會更有成效。黃仁勳同時宣佈一項名為GR00T的項目，旨在進一步推動英偉達在機器人和具身智能的突破性工作。由GR00T驅動的機器人可以理解自然語言，並通過觀察人類動作來模擬運動。