以英業達為例,他們展示整櫃式的GB200 NVL72之餘,旁邊擺設代號為Artemis的1U伺服器與2U伺服器,當中均配備2張GB200 Grace Blackwell Superchip、ConnectX-7 400Gb/s InfiniBand網路卡,以及BlueField-3 400Gb/s資料處理器。

其他廠商提供延伸搭配方式,像是雲達、華碩、鴻佰展出的產品,是一座伺服器機櫃搭配一座稱為側車(Side Car)的冷卻機櫃(編按:所謂的側車是一種液態冷卻機櫃搭配伺服器機櫃的部署形式,應該是借用兩輪機車側邊加裝附有單輪乘坐設備的比喻)。

以雲達為例,他們與光寶科技(LiteOn)展示搭載Nvidia GB200 NVL72的AI伺服器機櫃,在伺服器方面,雲達揭露當中搭配的伺服器有兩款機型,它們均配備雲達的直達晶片水冷技術(direct-to-chip liquid cooling)。
其中一款伺服器,是2U機型QuantaGrid D75B-2U,在Nvidia GB200 NVL72的系統建置框架之下,可透過兩座機櫃容納72臺這樣的設備。另一款是現場展示的1U機型QuantaGrid D75B-1U,在Nvidia GB200 NVL72的系統建置框架之下,可透過單座機櫃容納72臺這樣的設備。D75B-1U本身搭載2張GB200 Grace Blackwell Superchip,雲達在此標明CPU可存取480 GB容量的LPDDR5X記憶體,GPU本身配備144GB容量HBM3e高頻寬記憶體,均搭配冷水板(Cold Plate)形式的液態冷卻配件;儲存裝置方面,這臺1U伺服器可容納8臺E1.S厚度15公釐外形的PCIe固態硬碟,以及1張M.2 2280外形的PCIe固態硬碟;在PCIe裝置擴充方面,D75B-1U可容納2張雙寬全高全長尺寸的介面卡,以及2張半高半長尺寸的介面卡,均支援PCIe 5.0 x16。

至於機櫃與電源供應的部分,是由光寶自主設計與製造,並且是遵循Nvidia最新提出的MGX機櫃規範的產品,而在Computex現場展示的Nvidia GB200 NVL72機櫃頂端,也特別標示QoolRack作為獨立解決方案時,可供應120 KW電力。
華碩則展出配備Nvidia GB200 NVL72系統的Asus ESC AI POD,以及矗立在旁的液體至氣體熱交換器機櫃(Liquid-to-Air Heat Exchanger),其中,Asus ESC AI POD搭配的伺服器機型為ESC NM2N721-E1,特別的是,他們在這個展示用的機櫃套件側邊掛上一整面LED看板,持續播放動畫影片介紹Asus ESC AI POD的內部構造、電力供應配置與流經的元件,以及18臺運算槽的統合,Grace CPU、Blackwell GPU與NVLink Switch的互連關係。

針對Nvidia GB200 NVL72系統的運算槽,華碩也在Computex現場展示機箱內部設計。我們可看到裡面配備2張GB200 Grace Blackwell Superchip,上面均覆蓋冷水板,而在機箱中間有個他們設計的電源配送板(Power Distribution Board,PDB),可將48伏特直流電轉換為12伏特直流電,供應Blackwell GPU使用;除此之外,這個運算槽還搭配可安裝E1.S外形固態硬碟的儲存模組,以及兩張BlueField-3資料處理器系列的雙寬全高半長款式B3240。




2024-06-12
