• 正文
    • 光電一體化網(wǎng)絡(luò)交換機,助力AI工廠擴展到數(shù)百萬GPU級別
    • 攜手存儲企業(yè)推出新型AI基礎(chǔ)設(shè)施
    • 寫在最后
  • 相關(guān)推薦
申請入駐 產(chǎn)業(yè)圖譜

英偉達的AI布局,最新秘笈藏在數(shù)據(jù)管道的毛細血管里

原創(chuàng)
03/21 10:18
1059
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

當全球聚焦于AI大模型的激烈角逐、AI Agent的驚人表現(xiàn)時,英偉達數(shù)據(jù)傳輸賽道完成了一次新升級。GTC25期間,兩項“基礎(chǔ)設(shè)施革命”——硅光網(wǎng)絡(luò)交換機與AI數(shù)據(jù)平臺傳來重磅消息。

光電一體化網(wǎng)絡(luò)交換機,助力AI工廠擴展到數(shù)百萬GPU級別

最新推出的NVIDIA Spectrum-X和NVIDIA Quantum-X硅光網(wǎng)絡(luò)交換機,使AI工廠能夠跨區(qū)域連接數(shù)百萬GPU,同時大幅降低能耗和運營成本,這也意味著英偉達在大規(guī)模平臺上實現(xiàn)了電子電路光通信的融合。

隨著AI工廠發(fā)展到前所未有的規(guī)模,網(wǎng)絡(luò)必須不斷發(fā)展以跟上步伐。英偉達最新推出的硅光交換機,創(chuàng)新地集成了光器件,減少了4倍的激光器數(shù)量,與傳統(tǒng)方法相比,能源效率提高到3.5倍,信號完整性提高到63倍,大規(guī)模組網(wǎng)可靠性提高到10倍,部署速度提高到1.3倍。

“AI工廠是一種超大規(guī)模的新型數(shù)據(jù)中心,必須采用全新的網(wǎng)絡(luò)基礎(chǔ)設(shè)施才能跟上它的發(fā)展步伐”,黃仁勛表示,“英偉達將硅光直接集成到交換機中,打破了超大規(guī)模和企業(yè)網(wǎng)絡(luò)的舊有限制,為百萬GPU AI 工廠打開大門?!?/p>

據(jù)了解,最新的硅光網(wǎng)絡(luò)交換機會被用于NVIDIA Spectrum-X Photonics 以太網(wǎng)平臺和 NVIDIA Quantum-X Photonics InfiniBand平臺。

與傳統(tǒng)以太網(wǎng)相比,Spectrum-X以太網(wǎng)網(wǎng)絡(luò)平臺可為多租戶、超大規(guī)模AI工廠(包括目前全球最大的超級計算機)提供卓越的性能和1.6倍的帶寬密度。

NVIDIA Spectrum-X Photonics 交換機具有多種配置,包括128個800 Gb/s端口或512個 200 Gb/s 端口,總帶寬可達到100 Tb/s,以及512個800 Gb/s或2,048個200 Gb/s端口,總吞吐量可達400Tb/s。

NVIDIA Quantum-X Photonics 交換機提供144個基于200Gb/s SerDes的800Gb/s InfiniBand 端口,并采用液冷設(shè)計對板載硅光器件進行高效散熱。值得一提的是,NVIDIA Quantum-X Photonics 交換機AI計算網(wǎng)的速度是上一代產(chǎn)品的2倍,擴展性是上一代產(chǎn)品的5倍。

英偉達的網(wǎng)絡(luò)生態(tài)這些年在不斷壯大,目前,其硅光生態(tài)系統(tǒng)伙伴包括 TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries和TFC Communication。

最新的photonics技術(shù)將推動新一代先進AI工廠的大規(guī)模增長,并和Coherent、Eoptolink、Fabrinet和Innolight等企業(yè)的可插拔光模塊技術(shù)等,共同推動該領(lǐng)域的前進。

攜手存儲企業(yè)推出新型AI基礎(chǔ)設(shè)施

最新推出的還有NVIDIA AI 數(shù)據(jù)平臺,這是一項可自定義的參考設(shè)計,存儲提供商可用來構(gòu)建全新的AI基礎(chǔ)設(shè)施,以滿足AI推理工作負載的嚴苛要求。這意味著,企業(yè)存儲平臺可以搭載英偉達加速計算、網(wǎng)絡(luò)和軟件驅(qū)動的AI查詢智能體。

具體而言,經(jīng)英偉達認證的存儲提供商,能夠通過NVIDIA AI數(shù)據(jù)平臺構(gòu)建基礎(chǔ)設(shè)施,例如:NVIDIA Blackwell GPU、NVIDIA BlueField DPU、NVIDIA Spectrum-X網(wǎng)絡(luò)以及NVIDIA Dynamo開源推理庫,可以通過專用AI查詢智能體,加速AI推理工作負載。

Blackwell GPU、BlueField DPU和Spectrum-X網(wǎng)絡(luò)組合在一起提供了一款加速引擎,可加快AI查詢智能體訪問存儲在企業(yè)系統(tǒng)中的數(shù)據(jù)。其中,BlueField DPU的性能比基于CPU的存儲性能提升最高可達1.6倍,而功耗又可降低50%,每瓦性能提高3倍以上。與傳統(tǒng)以太網(wǎng)相比,Spectrum-X 通過采用動態(tài)路由和優(yōu)化的擁塞控制,可將AI存儲流量提速最高達48%。

正如黃仁勛所言,“數(shù)據(jù)是AI時代各行各業(yè)發(fā)展的原材料”,但若存儲系統(tǒng)無法高效供給數(shù)據(jù),萬億參數(shù)模型的訓練與實時推理將成為空中樓閣。通過創(chuàng)新的AI數(shù)據(jù)平臺,英偉達為數(shù)以百萬計的企業(yè)帶來加速計算和AI能力,使其應(yīng)用企業(yè)存儲系統(tǒng)來處理推動公司發(fā)展的數(shù)據(jù)。這些智能體可助力企業(yè)應(yīng)用NVIDIA AI Enterprise軟件平臺(包括全新NVIDIA Llama Nemotron推理模型的NVIDIA NIM微服務(wù))以及全新的NVIDIA AI-Q Blueprint,接近實時地生成數(shù)據(jù)洞察。

將AI 查詢智能體搭載AI-Q Blueprint,可在推理過程中連接數(shù)據(jù),提供更準確、更貼合情景的響應(yīng)。它可以快速訪問海量數(shù)據(jù),并處理各類數(shù)據(jù),包括有多個來源的結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),包括文本、PDF、圖像和視頻。

黃仁勛表示:“我們正在與全球領(lǐng)先的存儲企業(yè)合作,打造在混合數(shù)據(jù)中心部署和擴展代理式AI(Agentic AI)所需的新型企業(yè)基礎(chǔ)設(shè)施?!蹦壳?,DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data和WEKA等領(lǐng)先數(shù)據(jù)平臺和存儲提供商均選擇與英偉達合作,打造可定制化的AI數(shù)據(jù)平臺,充分運用企業(yè)數(shù)據(jù)進行推理并響應(yīng)復(fù)雜查詢。

寫在最后

AI算力規(guī)模已突破百萬GPU,但過去幾年來,數(shù)據(jù)供給的滯后讓這些“超級大腦”常常陷入饑餓狀態(tài)。傳統(tǒng)存儲系統(tǒng)在處理多模態(tài)數(shù)據(jù)時難免掣肘,而基于電信號的網(wǎng)絡(luò)架構(gòu)則像擁堵的高速公路。

面對這些挑戰(zhàn),英偉達的答案是將加速計算植入數(shù)據(jù)管道,讓數(shù)據(jù)流動速度匹配GPU的處理能力。這場變革的本質(zhì),是為“數(shù)據(jù)流動”和“算力協(xié)同”構(gòu)建高速公路,將分散的企業(yè)數(shù)據(jù)轉(zhuǎn)化為可驅(qū)動Agentic AI的“燃料”,同時通過光電融合技術(shù)突破傳統(tǒng)網(wǎng)絡(luò)的物理限制,讓AI走向超大規(guī)模落地應(yīng)用中。

英偉達

英偉達

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學研究、制造業(yè)、汽車等領(lǐng)域的計算解決方案提供支持。

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學研究、制造業(yè)、汽車等領(lǐng)域的計算解決方案提供支持。收起

查看更多

相關(guān)推薦

登錄即可解鎖
  • 海量技術(shù)文章
  • 設(shè)計資源下載
  • 產(chǎn)業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄