Supermicro基于NVIDIA GH200 Grace Hopper超級芯片的服務器開始出貨

Supermicro基于NVIDIA GH200超級芯片的服務器平臺借助緊密集成的CPU和GPU提高了AI工作負載的性能，并納入了最新的DPU網絡和通信技術

Supermicro，Inc. （納斯達克股票代碼：SMCI）為AI、云端、存儲和 5G/邊緣領域的全方位IT解決方案制造商，近日宣布推出業(yè)內目前最廣泛的新型GPU系統(tǒng)組合之一。這些產品均基于英偉達（NVIDIA）參考架構，搭載了最新的NVIDIA GH200 Grace Hopper和NVIDIA Grace CPU超級芯片。這種新的模塊化架構旨在通過緊湊的1U和2U規(guī)格將AI基礎設施和加速計算標準化，同時面向當前及未來的GPU、DPU和CPU提供高靈活性和擴展度。Supermicro先進的液冷技術有助于實現非常高密度的硬件配置，例如搭載2顆NVIDIA GH200 Grace Hopper超級芯片的1U 2節(jié)點配置，兩者借助高速互連技術整合在一起。Supermicro每月可通過全球的工廠交付數以千計的機架級AI服務器，并確保即插即用兼容性。

Supermicro總裁兼首席執(zhí)行官梁見后（Charles Liang）表示：“Supermicro是推動當前AI革命的公認領先企業(yè)。我們助力數據中心轉型，助力將AI用于各種工作負載內。對于我們來說，為快速發(fā)展的AI技術帶來高度模塊化、可擴展性和通用性的服務器系統(tǒng)至關重要。Supermicro基于NVIDIA MGX的解決方案不但證明我們的Building Block伺服器解決方案能使我們迅速將最新系統(tǒng)引進市場，也是產業(yè)中工作負載最佳化性能非常高的解決方案。通過攜手英偉達，我們正助力加速合作企業(yè)產品上市時間，并助其在開發(fā)新AI應用程式的同時簡化部署程序，降低對環(huán)境的影響。我們新推出的一系列服務器採用了針對AI最佳化的最新產業(yè)技術，包括NVIDIA GH200 Grace Hopper超級芯片、BlueField和PCIe 5.0 EDSFF插槽。”

英偉達超大規(guī)模和高性能計算副總裁Ian Buck表示："英偉達和Supermicro長期以來一直在合作開發(fā)一些高性能的人工智能系統(tǒng)。NVIDIA MGX模塊化參考設計與Supermicro的服務器專業(yè)技術相結合，將創(chuàng)造出採用我們Grace和Grace Hopper超級芯片的新一代人工智能系統(tǒng)，使全球客戶和行業(yè)受益?！?/p>

Supermicro NVIDIA MGX平臺總覽

Supermicro的NVIDIA MGX平臺旨在提供面向未來AI技術需求的一系列服務器。這條新產品線可以應對AI服務器獨特的散熱、功耗和硬件挑戰(zhàn)。

新的Supermicro MGX系列服務器包括：

• ARS-111GL-NHR —— 1顆NVIDIA GH200 Grace Hopper超級芯片，風冷
• ARS-111GL-NHR-LCC —— 1顆NVIDIA GH200 Grace Hopper超級芯片，液冷
• ARS-111GL-DHNR-LCC —— 2顆NVIDIA GH200 Grace Hopper超級芯片，2個節(jié)點，液冷
• ARS-121L-DNR —— 2個節(jié)點，每個節(jié)點2顆NVIDIA Grace超級芯片，共288個內核
• ARS-221GL-NR —— 2U，1顆NVIDIA Grace CPU超級芯片
• SYS-221GE-NR —— 搭載雙插槽的第4代Intel Xeon可擴展處理器，并可搭配最多4個NVIDIA H100 Tensor Core或4個NVIDIA PCIe GPU

每個 MGX 平臺都可通過 NVIDIA BlueField?-3 DPU 和/或 NVIDIA ConnectX?-7 互連實現高性能 InfiniBand 或以太網聯(lián)網。

硬件規(guī)格

Supermicro的1U NVIDIA MGX系統(tǒng)最多搭載2顆NVIDIA GH200 Grace Hopper超級芯片，共包含2個NVIDIA H100 GPU和2個NVIDIA Grace CPU。每個系統(tǒng)為CPU配備480GB的LPDDR5X內存，而為GPU配備96GB的HBM3內存或144GB的HBM3e內存。內存一致、高帶寬、低時延的NVIDIA-C2C以900GB/s的速度將CPU、GPU和內存互連，是PCIe 5.0的7倍。該系統(tǒng)的模塊化架構提供多個PCIe 5.0 x16 FHFL插槽，以連接用于云端和數據管理的DPU，并可進行額外的GPU、網絡和存儲硬件擴展。

具備2個NVIDIA GH200 Grace Hopper 超級芯片的1U 2節(jié)點設計及Supermicro成熟的Direct-to-Chip液冷解決方案可將運營成本降低40%以上，同時提高計算密度，并簡化大型語言模型（LLM）集群和HPC應用的機架級部署。

2U機箱設計的Supermicro NVIDIA MGX平臺支持NVIDIA Grace和x86架構的CPU，以及最多4個全尺寸數據中心GPU，如NVIDIA H100 PCIe、H100 NVL或L40S，并同時提供3個用于I/O連接的額外PCIe 5.0 x16插槽和8個熱插拔EDSFF硬盤托架。

Supermicro提供NVIDIA網絡技術，能保護并加速其 MGX 平臺上的人工智能工作運行。這包括NVIDIA BlueField-3 DPU（提供 2x 200Gb/s 連接，用于加速用戶到云和數據存儲訪問）和ConnectX-7 適配器（在 GPU 服務器之間提供最高 400Gb/s 的 InfiniBand 或以太網連接）的組合。

開發(fā)者可以快速透過這些新系統(tǒng)與NVIDIA軟件服務來處理各種不同產業(yè)的工作負載。該軟件服務包含NVIDIA AI Enterprise——一款的企業(yè)級軟件，能夠驅動NVIDIA AI平臺并簡化生產就緒的生成式人工智能、計算機視覺、語音人工智能等的開發(fā)和部署。此外，NVIDIA HPC 軟件開發(fā)工具包提供了推動科學計算發(fā)展所需的基本工具。

從智能散熱設計到組件選擇，Supermicro NVIDIA MGX系統(tǒng)的方方面面均旨在提高效率。NVIDIA Grace超級芯片的CPU具有144個內核，每瓦性能高達當前行業(yè)標準x86 CPU的2倍。特定的Supermicro NVIDIA MGX系統(tǒng)可在1U機箱中配置2個節(jié)點，能夠搭載具有最高共288個內核的2組Grace CPU超級芯片，可以在超大規(guī)模和邊緣數據中心提供突破性的計算密度和能效。