最強AI芯片升級！英偉達H200登場：推理速度翻倍，明年二季度交付

AI芯片H100的熱度還沒過，芯片巨頭英偉達（Nasdaq：NVDA）又打出一張新王牌——H100的升級版。

當地時間11月13日，英偉達正式宣佈，在目前最強AI（人工智能）芯片H100的基礎上進行一次大升級，發佈新一代H200芯片。H200擁有141GB的內存、4.8TB/秒的帶寬，並將與H100相互兼容，在推理速度上幾乎達到了H100的兩倍。H200預計將於明年二季度開始交付，英偉達尚未公佈其價格。

英偉達還透露，下一代Blackwell B100 GPU也將在2024年推出，性能已經“望不到頭”。

與作為前輩的A100和H100相比，H200最大的變化就是內存。搭載“世界上最快的內存”HBM3e技術的H200在性能上得到了直接提升，141GB的內存幾乎是A100和H100最高80GB內存的2倍，4.8TB每秒的帶寬則達到了A100的2.4倍，也顯著高於H100 3.35TB每秒的帶寬。

英偉達表示，根據使用Meta的70B大模型Llama 2進行的測試，H200的輸出速度幾乎是H100的兩倍。基於與H100相同的Hopper架構，H200將具有H100的一切功能，例如可以用來加速基於Transformer架構搭建的深度學習模型的Transformer Engine功能。

根據官方發佈的圖片，H200在大模型Llama 2、GPT-3.5的輸出速度上分別是H100的1.9倍和1.6倍，在高性能計算HPC方面的速度更是達到了雙核x86 CPU的110倍。

英偉達加速計算總經理兼副總裁伊恩·巴克 （Ian Buck）表示：“要利用生成式AI和高性能計算HPC來構建智能，需要利用大容量、超高速的GPU內存來高速快速地處理大量數據。英偉達H200將為業界領先的端到端AI超級計算平台進一步加速，以解決一些世界上最重要的挑戰。”

從今年年初起，英偉達股價已經上漲了超230%，截至11月14日，公司總市值達到1.2萬億美元。當天，英偉達股價在H200發佈後一度漲超490美元，全日收於486.2美元，漲0.59%，盤後漲0.3%，股價實現九連漲。

美國知名經濟評論員吉姆·克雷默（Jim Cramer）表示，英偉達最新的高端芯片可能會為其股價提供推動力，幫助其在生成式AI熱潮中進一步上漲。

此前，根據瑞傑金融（Raymond James）統計的數據，H100芯片的價格已經到達了25000美元到40000美元之間，而一個AI訓練過程需要數千個這樣的芯片協同工作。在當下的AI熱潮中，這也使得H100成為了矽谷最搶手的“硬通貨”。

科技網站The Verge表示，最關鍵的問題在於英偉達能否為市場提供足夠的H200，或者它們是否會像H100一樣在供應量上受到限制。而對於這點，英偉達並沒有給出明確的答案，只表示公司正在與“全球系統製造商和雲服務提供商”合作來供應這些芯片，亞馬遜、Google、微軟和甲骨文等雲服務商將是明年二季度首批使用H200的公司之一。

另外，英偉達競爭對手AMD已經在英偉達之前搶先推出了最新AI芯片MI300X，高達192GB的HBM3內存，5.2TB/秒帶寬。此前，AMD表示，公司正在今年第三季度向客戶提供樣品，產量將在第四季增加。預計AMD將在北京時間12月7日淩晨舉辦的“Advancing AI”特別活動上正式發佈MI300X GPU。

值得一提的是，此前有消息稱，英偉達已開發出針對中國市場的最新改良版系列芯片——HGX H20、L20 PCle和L2 PCle。知情人士稱這三款芯片由H100改良而來，英偉達最快或將於本月16號之後公佈。澎湃新聞記者採訪了多位產業鏈人士，均證實英偉達改良版芯片屬實。英偉達官方尚未對此作出評論。

今年10月17日， 美國商務部工業和安全局（BIS）發佈了針對芯片的出口管製新規，尤其是對高算力的AI芯片進行了更嚴格的管控。其中一個很重要的新規定就是調整了先進計算芯片受限的標準，設置了新的“性能密度閾值”來作為參數。

10月31日，中國貿促會新聞發言人張鑫表示，美方新發佈的對華半導體出口管製規則，進一步加嚴了人工智能相關芯片、半導體制造設備對華出口的限制，並將多家中國實體列入出口管製“實體清單”。美國這些措施嚴重違反了市場經濟原則和國際經貿規則，加劇了全球半導體供應鏈撕裂與碎片化風險。美國自2022年下半年開始實施的對華芯片出口禁令正在深刻改變全球供需，造成2023年芯片供應失衡，影響了世界芯片產業格局，損害了包括中國企業在內的各國企業的利益。

英偉達將於美國時間11月21日盤後發佈2023財年第三財季財報。根據美國投資研究公司Zacks Investment Research的數據，預計調整後的每股收益（EPS）將達到3.01美元，去年同期為0.34美元。