【說明】CPU、GPU 與 TPU 之間的區別:AI 重中之重?

【說明】CPU、GPU 與 TPU 之間的區別:AI 重中之重?

在五月的 I/O 大會上,我們宣布了 Trillium,這是我們自家設計的第六代專用芯片,稱為張量處理單元(TPU)——今天,我們宣布它現在已經可以供 Google Cloud 客戶預覽使用。TPU 是驅動人工智能的核心,讓 Google 設備和應用程序變得更加有用,而 Trillium 是目前最強大和可持續的 TPU。

那麼,TPU 究竟是什麼?Trillium 有什麼“定制”的地方?要真正理解 Trillium 的特別之處,不僅需要了解 TPU,還需要了解其他類型的計算處理器——CPU 和 GPU,以及它們之間的區別。作為在 Google Cloud 從事人工智能基礎設施的產品經理,Chelsie Czop 知道如何將這一切分解清楚。“我與多個團隊合作,以確保我們的平台對於構建人工智能產品的客戶來說是盡可能高效的,”她說。而 Chelsie 表示,Google 的許多人工智能產品之所以能夠實現,正是因為有 Google 的 TPU。

CPU、GPU 和 TPU 是什麼?

這些都是作為計算任務處理器的芯片。可以將大腦視為一台可以進行閱讀或解決數學問題的計算機。每一項活動都類似於計算任務。因此,如果使用手機拍照、發送短信或打開應用程序,手機的大腦或處理器正在執行這些計算任務。

這些不同的縮寫代表什麼?

儘管 CPU、GPU 和 TPU 都是處理器,但它們的專業程度逐漸提高。CPU 代表中央處理單元。這些是通用芯片,可以處理各種不同的任務。類似於大腦,如果 CPU 在某個領域不夠專業,某些任務可能需要更長的時間。

然後是 GPU,或稱圖形處理單元。GPU 已經成為加速計算任務的主要驅動力,從圖形渲染到人工智能工作負載。它們被稱為一種 ASIC,或應用特定集成電路。集成電路通常是使用矽製造的,因此人們可能會稱芯片為“矽”——它們是同一回事(是的,這就是“矽谷”這個詞的由來!)。簡而言之,ASIC 是為單一特定目的而設計的。

TPU,或稱張量處理單元,是 Google 自家的 ASIC。我們從零開始設計 TPU,以運行基於人工智能的計算任務,使其比 CPU 和 GPU 更加專業。TPU 一直是 Google 一些最受歡迎的人工智能服務的核心,包括搜索、YouTube 和 DeepMind 的大型語言模型。

哪裡可以找到 CPU、GPU 和 TPU?

CPU 和 GPU 在您每天可能使用的非常熟悉的物品內部:幾乎每部智能手機中都有 CPU,還有筆記本電腦等個人計算設備中也有。高端遊戲系統或某些桌面設備中可以找到 GPU。TPU 只會在 Google 數據中心找到:這些是充滿架子和 TPU 的倉庫式建築,24 小時運行,以保持 Google 及其雲客戶的人工智能服務在全球運行。

什麼讓 Google 開始考慮創建 TPU?

CPU 是在 1950 年代末發明的,GPU 則是在 90 年代末出現的。然後在 Google,我們大約在十年前開始考慮 TPU。我們的語音識別服務的質量大幅提升,我們意識到如果每位用戶每天開始“對 Google 說話”三分鐘,我們將需要將數據中心中的計算機數量翻倍。我們知道我們需要比當時可用的現成硬件更高效的東西——而且我們知道每個芯片需要更多的處理能力。因此,我們自己建造了!

那個“T”代表張量,是吧?為什麼?

沒錯——“張量”是用於機器學習的數據結構的通用名稱。基本上,為了使人工智能任務成為可能,底層有很多數學運算。通過我們最新的 TPU Trillium,我們增加了可以進行的計算量:Trillium 的每個芯片的峰值計算性能比前一代 TPU v5e 高出 4.7 倍。

這意味著什麼?

這基本上意味著 Trillium 能夠以比上一版本快 4.7 倍的速度進行所有運行複雜數學所需的計算。Trillium 不僅運行速度更快,還能處理更大、更複雜的工作負載。

還有什麼其他方面使其比我們的上一代 TPU 更具改進?

Trillium 的另一個優點是它是我們迄今為止最可持續的 TPU——事實上,它的能效比我們的上一個 TPU 高出 67%。隨著對人工智能的需求不斷上升,行業需要可持續地擴展基礎設施。Trillium 本質上使用更少的電力來完成相同的工作。

我們已經看到了一些由 Trillium 驅動的令人難以置信的發展!我們有客戶在使用它的技術中分析 RNA 以診斷各種疾病,將書面文本轉換為視頻,速度驚人等等。這只是來自我們非常初步的用戶——現在 Trillium 已經在預覽中,我們迫不及待想看看人們能用它做什麼。

日本上網卡| 此文章《【說明】CPU、GPU 與 TPU 之間的區別:AI 重中之重?》發佈於Techritual Hong Kong