QCT和Supermicro率先使用這項支持100多種系統(tǒng)配置的服務器規(guī)范來加速AI、HPC、元宇宙工作負載
為了滿足全球數(shù)據中心多樣化的加速計算需求,NVIDIA今天在COMPUTEX發(fā)布了NVIDIA MGX?服務器規(guī)范。該規(guī)范為系統(tǒng)制造商提供了一個模塊化參考架構,以快速、經濟高效地制造100多種服務器機型,適用于廣泛的AI、高性能計算和元宇宙應用。
ASRock Rack、ASUS、GIGABYTE、Pegatron、QCT和Supermicro將采用MGX,它可將開發(fā)成本削減四分之三,并將開發(fā)時間縮短三分之二至僅6個月。
NVIDIA GPU產品副總裁Kaustubh Sanghani表示:“在構建滿足特定業(yè)務和應用需求的數(shù)據中心時,企業(yè)正在尋求更多的加速計算選項。我們設計MGX是為了幫助各個機構可以自行開發(fā)企業(yè)AI,同時節(jié)省他們大量時間和金錢?!?/p>
通過MGX,制造商以一個為加速計算優(yōu)化的服務器機箱作為基礎系統(tǒng)架構入手,然后選擇適合自己的GPU、DPU和CPU。不同的設計可以滿足特定的工作負載,如HPC、數(shù)據科學、大型語言模型、邊緣計算、圖形和視頻、企業(yè)AI以及設計與模擬。AI訓練和5G等多種任務可以在一臺機器上處理,而且可以輕松地升級到未來多代硬件。MGX還可以輕松集成到云和企業(yè)數(shù)據中心。
與行業(yè)領導廠商合作
QCT和Supermicro將率先在8月份上市采用MGX設計的機型。Supermicro今天發(fā)布的ARS-221GL-NR系統(tǒng)將采用NVIDIA Grace? CPU超級芯片,而QCT今天宣布的S74G-2U系統(tǒng)將采用NVIDIA GH200 Grace Hopper超級芯片。
此外,SoftBank Corp計劃在日本各地推出多個超大規(guī)模數(shù)據中心,并使用MGX在生成式AI和5G應用之間動態(tài)分配GPU資源。
SoftBank Corp總裁兼首席執(zhí)行官Junichi Miyakawa表示:“隨著生成式AI日益進入商業(yè)和消費者的生活方式中,以合適的成本構建合適的基礎設施是網絡運營商面臨的最大挑戰(zhàn)之
一。我們期待NVIDIA MGX能夠應對這些挑戰(zhàn),以滿足多用途AI、5G以及更多依賴實時工作負載的需求?!?/p>
不同的設計滿足不同的需求
數(shù)據中心越來越需要滿足不斷增長的算力需求并降低碳排放,以應對氣候變化,同時還要降低成本。
由NVIDIA加速計算加速的服務器長期以來一直提供卓越的計算性能和能效?,F(xiàn)在,MGX模塊化的設計使系統(tǒng)制造商能夠更有效地滿足每個客戶獨特的預算、供電、散熱設計和機械要求。
多種規(guī)格尺寸提供最大的靈活性
MGX提供不同的規(guī)格尺寸,并兼容當前和未來多代NVIDIA硬件,包括:
- 機箱:1U、2U、4U(風冷或液冷)
- GPU: 完整的NVIDIA GPU產品組合,包括最新的H100、L40、L4
- CPU:NVIDIA Grace CPU超級芯片、GH200 Grace Hopper超級芯片、X86 CPU
- 網絡產品:NVIDIA BlueField?-3 DPU、ConnectX?-7網卡
MGX與NVIDIA HGX?的不同之處在于,它能夠靈活地兼容多代NVIDIA產品,確保系統(tǒng)制造商能夠重新利用現(xiàn)有設計,并輕松地采用下一代產品,而無需代價高昂的重新設計。相比之下,HGX基于一個通過NVLink? 連接的多GPU基板,為打造極致的AI和HPC系統(tǒng)而量身定制。
軟件進一步驅動加速
除硬件外,MGX還得到NVIDIA完整軟件棧的支持,使開發(fā)人員和企業(yè)能夠開發(fā)并加速AI、HPC和其他應用。其中包括NVIDIA AI Enterprise,即NVIDIA AI平臺的軟件層,它涵蓋100多個框架、預訓練模型和開發(fā)工具,可為AI和數(shù)據科學加速,從而全面支持企業(yè)AI的開發(fā)和部署。
MGX兼容開放計算項目(Open Compute Project)和電子工業(yè)聯(lián)盟(Electronic Industries Alliance)的服務器機架,可快速集成到企業(yè)和云數(shù)據中心。
觀看NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在2023年COMPUTEX主題演講中介紹MGX服務器規(guī)范。