• 正文
    • CXL 高速互聯(lián)應(yīng)運(yùn)而生,提高內(nèi)存利用效率
    • CXL 內(nèi)存池化和共享
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

CXL 高速互聯(lián):破解 AI 時(shí)代“內(nèi)存墻”新途徑,你知道多少!

02/07 11:08
1609
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

緊跟技術(shù)熱點(diǎn)和行業(yè)方向,很多芯片設(shè)計(jì)大廠都在招聘高速互聯(lián),Link,片間互聯(lián)等技術(shù)人才,這篇文章簡(jiǎn)單介紹一下CXL技術(shù)。

AI 大模型的快速發(fā)展推動(dòng)“算力”和“存力”需求快速增長(zhǎng),與此同時(shí),對(duì)“運(yùn)力”也提出了更高的需求,系統(tǒng)需要更高的帶寬、更快的傳輸。但內(nèi)存的性能提升速度遠(yuǎn)低于處理器的性能提升速度,導(dǎo)致處理器無(wú)法充分發(fā)揮其計(jì)算能力。

“內(nèi)存墻”問(wèn)題由來(lái)已久,在 AI 時(shí)代表現(xiàn)的愈發(fā)明顯,“算力”和“運(yùn)力”之間的差距越來(lái)越大。Transformer 類的模型參數(shù)的數(shù)量呈現(xiàn)指數(shù)增長(zhǎng),每?jī)赡暝黾?410 倍,而 GPU 內(nèi)存僅以每?jī)赡?2 倍的速度擴(kuò)展。

大模型參數(shù)量增長(zhǎng)速度遠(yuǎn)超硬件迭代速度

帶寬增長(zhǎng)與算力增長(zhǎng)差距明顯

CXL 高速互聯(lián)應(yīng)運(yùn)而生,提高內(nèi)存利用效率

CXL(Compute Express Link)技術(shù)是一種新型的高速互聯(lián)技術(shù),旨在提供更高的數(shù)據(jù)吞吐量和更低的延遲,同時(shí)實(shí)現(xiàn)內(nèi)存共享、提高內(nèi)存利用效率,為化解“內(nèi)存墻”問(wèn)題提出新的解決方案。

它最初由英特爾、AMD 和其他公司聯(lián)合推出,并得到了包括谷歌、微軟等公司在內(nèi)的大量支持。CXL 的目標(biāo)主要是為了解決 CPU 和設(shè)備、設(shè)備和設(shè)備之間的內(nèi)存鴻溝,解決內(nèi)存分割造成的較大浪費(fèi)、不便和性能下降。CXL 通過(guò)將計(jì)算和存儲(chǔ)分離,形成內(nèi)存池,從而能動(dòng)態(tài)按需配置內(nèi)存資源,提升效率。

CXL 內(nèi)存池化和共享

CXL 提高內(nèi)存利用效率,技術(shù)優(yōu)勢(shì)明顯

CXL 通過(guò)將計(jì)算和存儲(chǔ)分離,形成內(nèi)存池,從而能動(dòng)態(tài)按需配置內(nèi)存資源,提升效率。CXL 技術(shù)具有優(yōu)勢(shì):

1)CXL 延遲較低,通常為 10ns,而 PCIe 的延遲為 100ns。

2)CXL 支持內(nèi)存一致性,一致性的缺乏限制了 PCIe 應(yīng)用程序。

3)CXL 地址空間可按定義緩存,PCIe 則不可以。

CXL 版本持續(xù)升級(jí)迭代,國(guó)際巨頭紛紛加入 CXL 聯(lián)盟

CXL 歷經(jīng) 5 個(gè)版本的升級(jí)發(fā)展。CXL1.0 于 2019 年 3 月發(fā)布,后歷經(jīng) 1.1、2.0、3.0 版本,2023 年 11 月,CXL 聯(lián)盟發(fā)布了最新的 CXL3.1 版本。隨著CXL 技術(shù)的不斷演進(jìn),未來(lái)數(shù)據(jù)中心各個(gè)計(jì)算節(jié)點(diǎn)和內(nèi)存節(jié)點(diǎn)的互聯(lián)將更加快速、高效和靈活。

CXL 聯(lián)盟由英特爾牽頭成立,目前成員已經(jīng)超過(guò) 255個(gè),涵蓋了主要的 CPU、內(nèi)存、存儲(chǔ)和網(wǎng)絡(luò)設(shè)備制造商。國(guó)際巨頭加入 CXL聯(lián)盟,積極布局 CXL 技術(shù),推出支持 CXL 技術(shù)的產(chǎn)品,助力 CXL 的發(fā)展。

CXL 市場(chǎng)空間廣闊,DRAM 占據(jù)主要份額

CXL 高速互聯(lián)目前處于市場(chǎng)應(yīng)用的早期階段,未來(lái)采用 CXL 協(xié)議服務(wù)器的占比持續(xù)提升。Yole 預(yù)測(cè)到 2028 年,CXL 市場(chǎng)總收入將超過(guò) 150 億美元,DRAM 將占據(jù) CXL 市場(chǎng)的主要份額,Yole 預(yù)計(jì)到 2028 年,DRAM 占到 CXL 市場(chǎng)規(guī)模的 79%。

三星和海力士相繼推出了采用 CXL 內(nèi)存控制器的 CXL 內(nèi)存模組,三星推出其首款支持 CXL2.0 的 128GB DRAM,加速下一代存儲(chǔ)器解決方案的商用化進(jìn)程。

更多關(guān)于CXL的技術(shù)文檔,可以私信我獲取。

新的一年開(kāi)始了,想看市場(chǎng)機(jī)會(huì),及時(shí)聯(lián)系我,我羅列了超過(guò)10家頭部企業(yè)和行業(yè)獨(dú)角獸企業(yè)招聘。都能內(nèi)推或輔導(dǎo)推薦?。?!

相關(guān)推薦

登錄即可解鎖
  • 海量技術(shù)文章
  • 設(shè)計(jì)資源下載
  • 產(chǎn)業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄