NVIDIA H100
NVIDIA

NVIDIA 是在去年差不多這時候,發表了其首款資料中心處理器「Grace」,不過當時除了知道它會以 ARM 為核心,並使用 NVIDIA 自家的 NVLink 技術之外,並沒有太多的細節。今天在 2022 年的 GTC 上,CEO 黃仁勳終於公開了更多 Grace 的內容,包括以其為基礎的 Grace CPU 超級晶片(Superchip)。

Grace CPU 以 ARM 的 v9 架構打造,而 Grace 超級晶片更是將 Grace CPU 與 Hopper GPU(後面會詳述)或是兩顆 Grace CPU 透過 NVLink 連接在一起,和蘋果近期發表的 M1 Ultra 頗有異曲同工之妙。兩顆 Grace CPU 整合後的處理器有著 144 顆 ARM 核心,但能耗卻控制在了相對合理的 500W。

與 Grace 同時登場的,是名為 Hopper 的新世代 GPU 架構。Grace 和 Hopper 兩個代號其實來源相同,都是美國知名的電腦科學家與程式設計師 Grace Hopper,由此可以看出 Grace CPU 與 Hopper GPU 架構的緊密關聯。Hopper 將接替 Ampere 成為新一代的高性能架構,但初期將僅供資料中心和 AI 訓練等高強度的應用使用。其核心的 H100 GPU 將以台積電的 4nm 製程打造,並擁有高達 800 億個電晶體。Hopper 架構並將特別專精於一種名為 Transformer Engine 的特殊 Tensor core,來迎合機器學習市場在這方面的高度需求。相對於 Ampere 的 A100,在一般使用下 H100 可以快上 6 倍之多,而如果是 Transfomer 運算的話,則可是能達到 16x 至 30x 的速度提升呢。

NVIDIA 預計在 2023 年上半起將 Grace Superchip 出貨給美國能源署等單位,屆時可以單購 CPU 系統,或是與最多 8 個 Hopper 搭配為一個伺服器整體。至於 H100 的話,則會出現在 NVIDIA 自家的 DGX 和 DGX SuperPod 伺服器中,也會透過 OEM 伙伴銷售 PCIe 卡等產品。不過無論是哪種形態,它們應該都是高度客製化的系統,決非一般消費者會用得到的,因此也就沒有標價了。