2698
作者：李寧遠(yuǎn)物聯(lián)網(wǎng)智庫 原創(chuàng)
目前AI技術(shù)正與終端產(chǎn)品快速融合，推動(dòng)了以消費(fèi)電子代表的諸多終端硬件產(chǎn)品的創(chuàng)新。2024年極具代表性的AI Phone、AI PC等創(chuàng)新端側(cè)AI產(chǎn)品也的確激發(fā)了新的市場(chǎng)，以更智能的功能刺激了消費(fèi)需求，給我們?nèi)粘Ｉ顜?a class="article-link" target="_blank" href="/tag/%E6%99%BA%E8%83%BD%E5%8C%96/">智能化改變的同時(shí)，也帶動(dòng)了上下游產(chǎn)業(yè)鏈加速創(chuàng)新。
蘋果在2024年將Apple Intelligence引入iPhone ，雖然近期交易平臺(tái)SellCell的一份報(bào)告顯示絕大多數(shù)用戶認(rèn)為Apple Intelligence功能目前并未帶來明顯的價(jià)值提升，但這并不影響智能設(shè)備的未來方向——減少云端依賴，重點(diǎn)發(fā)展端側(cè)AI。
為了提升端側(cè)AI競(jìng)爭(zhēng)力，強(qiáng)大的硬件性能支持是前提，對(duì)于芯片側(cè)的要求會(huì)聚焦在算力、內(nèi)存、功耗、工藝、面積、散熱等方面，其中存儲(chǔ)芯片是極為關(guān)鍵的一環(huán)。
為了進(jìn)一步提高iPhone的端側(cè)AI性能，根據(jù)韓媒報(bào)道，三星應(yīng)蘋果公司的要求，開始研究新的低功耗雙倍數(shù)據(jù)速率LPDDR DRAM封裝方式。
此前蘋果的LPDDR DRAM堆疊在整個(gè)SoC上，體積緊湊，便于降低功耗與延遲，是板上空間受限的消費(fèi)電子設(shè)備常用的封裝方式。蘋果希望通過分開封裝DRAM和SoC，增加I/O引腳數(shù)量提高數(shù)據(jù)傳輸速率和并行數(shù)據(jù)通道，提高內(nèi)存帶寬以增強(qiáng) iPhone的端側(cè)AI能力。
此前亦有報(bào)道稱三星還可能嘗試為iPhone DRAM 應(yīng)用專為設(shè)備端AI設(shè)計(jì)的LPDDR6-PIM（內(nèi)存內(nèi)置處理器）技術(shù)。
AI技術(shù)應(yīng)用場(chǎng)景從云端擴(kuò)展到端側(cè)設(shè)備，給存儲(chǔ)市場(chǎng)帶來了新市場(chǎng)需求，同時(shí)也推動(dòng)了存儲(chǔ)芯片在端側(cè)的持續(xù)創(chuàng)新。
從云到端，AI催生存儲(chǔ)“芯”需求
在云端，AI依賴于大規(guī)模的數(shù)據(jù)中心和高效龐大的存儲(chǔ)系統(tǒng)來存儲(chǔ)、傳輸并處理數(shù)據(jù)。數(shù)據(jù)中心有著大規(guī)模集群式的存儲(chǔ)硬件來應(yīng)對(duì)海量數(shù)據(jù)，而在端側(cè)，AI需要在計(jì)算資源、存儲(chǔ)資源受限的設(shè)備上實(shí)現(xiàn)實(shí)時(shí)、低功耗的數(shù)據(jù)處理，這對(duì)存儲(chǔ)芯片的容量、速度和能效提出了全新的要求，也推動(dòng)了存儲(chǔ)技術(shù)革新。
根據(jù)國(guó)際知名調(diào)研機(jī)構(gòu)TechInsights發(fā)布的《2025存儲(chǔ)器市場(chǎng)展望》，存儲(chǔ)器市場(chǎng)包括DRAM和NAND，預(yù)計(jì)在2025年將實(shí)現(xiàn)顯著增長(zhǎng)，這主要得益于人工智能（AI）及相關(guān)技術(shù)的加速采用。報(bào)告中同樣表示隨著邊緣AI變得更加普及，將推動(dòng)對(duì)適合這些新功能的內(nèi)存解決方案的需求。
從今年的幾個(gè)市場(chǎng)來看，CFM閃存市場(chǎng)數(shù)據(jù)，2024年手機(jī)存儲(chǔ)需求同比去年增長(zhǎng)4%，PC市場(chǎng)存儲(chǔ)需求同比增長(zhǎng)8%，而且端側(cè)AI已經(jīng)開始推動(dòng)這些領(lǐng)域的終端設(shè)備內(nèi)存儲(chǔ)芯片的更新?lián)Q代。
AI手機(jī)領(lǐng)域，16G的DRAM可以說已經(jīng)是AI手機(jī)最低的基本配置，AI PC領(lǐng)域同樣，更快的數(shù)據(jù)傳輸速度、更大的存儲(chǔ)容量和帶寬需求也帶動(dòng)了主流LPDDR5x和LPDDR5T產(chǎn)品的需求。如微軟發(fā)布的AI PC求內(nèi)存容量最低為16GB，搭載新處理器的AI PC已普遍將內(nèi)存提升至了32GB，為AI模型的部署升級(jí)留下充足空間。
AI智能眼鏡、AI TWS耳機(jī)今年也是紛紛上新，AI TWS耳機(jī)中功能更多，為了存儲(chǔ)更多固件和代碼程序，就需要外擴(kuò)串行NOR Flash。當(dāng)前幾款已發(fā)布的AI耳機(jī)中NOR Flash容量較之普通TWS耳機(jī)也有了比較大的提升，基本上實(shí)現(xiàn)了翻倍來支持內(nèi)置的AI新功能。
對(duì)端側(cè)AI設(shè)備來說，算力和數(shù)據(jù)的加持實(shí)現(xiàn)了各種智能功能，而這些數(shù)據(jù)存放在哪里，如何高效讀寫這些數(shù)據(jù)，需要更強(qiáng)大的存儲(chǔ)芯片為其提供助力。
科技產(chǎn)品的創(chuàng)新往往是牽一發(fā)而動(dòng)全身，為實(shí)現(xiàn)某一功能，需要整個(gè)終端配置協(xié)同更新。最終體現(xiàn)在消費(fèi)者面前的可能僅僅是某一個(gè)具體的簡(jiǎn)單好用的功能點(diǎn)，而在其背后是軟硬件先進(jìn)技術(shù)數(shù)年不斷迭代。端側(cè)AI設(shè)備功能實(shí)現(xiàn)背后存儲(chǔ)器技術(shù)革新是貼切的寫照，存儲(chǔ)器更大容量更高讀寫速度更低功耗背后亦是整個(gè)半導(dǎo)體產(chǎn)業(yè)鏈制程技術(shù)迭代的體現(xiàn)。
存儲(chǔ)芯片與端側(cè)AI設(shè)備協(xié)同演變
存儲(chǔ)產(chǎn)品在我們?nèi)粘Ｉ钪须S處可見，其主要功能包括數(shù)據(jù)的存儲(chǔ)、讀取、寫入和擦除，而其分類則根據(jù)存儲(chǔ)介質(zhì)的不同，又有隨機(jī)存取存儲(chǔ)器（RAM）、只讀存儲(chǔ)器（ROM）、閃存（Flash Memory）等多種類型。目前各類智能終端中應(yīng)用的存儲(chǔ)芯片主要有如下幾種。
DRAM
動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器，是最常見的系統(tǒng)內(nèi)存類型，用于存儲(chǔ)臨時(shí)數(shù)據(jù)和正在處理的數(shù)據(jù)，是最大規(guī)模的單品市場(chǎng)。在AI智能手機(jī)、AI PC等智能終端中，DRAM用于提供快速的數(shù)據(jù)訪問和處理能力，前文已提到AI終端已經(jīng)開始換上更大容量更高讀寫速度的DRAM，隨著AI應(yīng)用的發(fā)展，對(duì)高性能DRAM的需求仍在不斷增長(zhǎng)。
NAND Flash閃存是一種非易失性存儲(chǔ)器，用于長(zhǎng)期數(shù)據(jù)存儲(chǔ)。在智能終端如AI手機(jī)、AI PC、AI Pad中，NAND Flash用作內(nèi)部存儲(chǔ)，存儲(chǔ)操作系統(tǒng)、應(yīng)用程序和用戶數(shù)據(jù)。未來端側(cè)設(shè)備操作系統(tǒng)肯定會(huì)搭載大模型以及其他AI應(yīng)用程序，端側(cè)設(shè)備會(huì)需要更高的NAND Flash容量用于長(zhǎng)期存儲(chǔ)。
NOR Flash
NOR Flash也是一種非易失性存儲(chǔ)器，常用于存儲(chǔ)啟動(dòng)代碼和固件。它在需要快速啟動(dòng)和執(zhí)行的設(shè)備中尤為重要，上文提到的AI TWS耳機(jī)就是典型的應(yīng)用。市場(chǎng)上各類AI硬件對(duì)NOR Flash容量需求增加已經(jīng)是確定性的趨勢(shì)，尤其是中大容量NOR Flash。
UFS
高性能的通用閃存存儲(chǔ)方案，在高端移動(dòng)設(shè)備中應(yīng)用。UFS4.0版本，其最高讀取速度已經(jīng)達(dá)到了4200MB/s，寫入速度也能達(dá)到2800MB/s。端側(cè)AI性能的發(fā)揮離不開高效的數(shù)據(jù)流轉(zhuǎn)，UFS 4.0存儲(chǔ)技術(shù)正好能夠?yàn)橹峁┲С?。隨著端側(cè)AI軟件層面的持續(xù)優(yōu)化以及UFS 技術(shù)向更多端側(cè)設(shè)備普及，端側(cè)AI設(shè)備將擁有更強(qiáng)大的學(xué)習(xí)能力和更快的響應(yīng)速度。引用鎧俠對(duì)UFS前景描述的原話，“現(xiàn)代手機(jī)正進(jìn)入一個(gè)由端側(cè)AI（On-Device AI）與先進(jìn)存儲(chǔ)技術(shù)協(xié)同發(fā)展的新時(shí)代”。
LPDDR
一種低功耗版本的DRAM，即低功耗雙倍數(shù)據(jù)速率，是為移動(dòng)設(shè)備設(shè)計(jì)以減少能耗的方案。LPDDR5和LPDDR5x提供了更高的數(shù)據(jù)傳輸速率和更低的功耗，LPDDR6也敲定在即，將全面適配AI計(jì)算需求，用更高頻率更高帶寬支持端側(cè)AI設(shè)備。
HBM
HBM的火熱程度想必都有所耳聞，它本質(zhì)上是一種高性能的3D堆疊DRAM，擁有極高的帶寬和存儲(chǔ)密度，適用于需要處理大量數(shù)據(jù)的AI和高性能計(jì)算應(yīng)用，主要用于服務(wù)器和數(shù)據(jù)中心等高性能計(jì)算領(lǐng)域。
為什么在端側(cè)設(shè)備存儲(chǔ)中仍舊將其列了出來呢？因?yàn)槎藗?cè)設(shè)備開始搭載HBM已經(jīng)在內(nèi)存大廠的推進(jìn)日程中。此前就有報(bào)道SK海力士正在將HBM導(dǎo)入汽車領(lǐng)域，在移動(dòng)端側(cè)設(shè)備領(lǐng)域，三星與海力士同樣在做端側(cè)HBM產(chǎn)品研發(fā)，初步估計(jì)2026年能實(shí)現(xiàn)商業(yè)化。
大大小小各類存儲(chǔ)芯片在端側(cè)AI設(shè)備紛紛落地的推動(dòng)下，迎來了新的市場(chǎng)需求，同時(shí)也在不斷升級(jí)以適配端側(cè)AI設(shè)備對(duì)存儲(chǔ)的新要求。目前看來存儲(chǔ)產(chǎn)品在端側(cè)AI設(shè)備的協(xié)同演進(jìn)上主要在這幾方面做了提升。
數(shù)據(jù)處理速度與內(nèi)存帶寬
端側(cè)AI應(yīng)用對(duì)即時(shí)數(shù)據(jù)處理和快速響應(yīng)的需求是明確的，這依賴于存儲(chǔ)芯片有著極高的數(shù)據(jù)讀寫速度，這樣才能體驗(yàn)端側(cè)AI實(shí)時(shí)的特點(diǎn)。同樣，隨著端側(cè)大模型引入，對(duì)內(nèi)存帶寬的需求也隨之增長(zhǎng)，要求存儲(chǔ)芯片能夠在短時(shí)間內(nèi)完成大量數(shù)據(jù)的讀寫操作，并支持高并發(fā)的數(shù)據(jù)訪問請(qǐng)求，解決內(nèi)存墻問題實(shí)現(xiàn)在受限的資源下釋放端側(cè)大模型性能。還需要通過優(yōu)化存儲(chǔ)結(jié)構(gòu)和算法，提高存儲(chǔ)空間的利用率和數(shù)據(jù)的讀寫效率。
能效管理與小型化
在端側(cè)AI與存儲(chǔ)芯片的協(xié)同優(yōu)化中，能效管理與芯片小型化是匹配端側(cè)智能設(shè)備高效運(yùn)行的關(guān)鍵。端側(cè)AI設(shè)備存儲(chǔ)目標(biāo)是以最高效的方式將AI模型從存儲(chǔ)加載到內(nèi)存中。為此，需要在不增加功耗的前提下，獲得盡可能高的吞吐量。如何降低功耗、節(jié)省空間是每家原廠都在琢磨的。如美光科技針對(duì)AI PC開發(fā)的LPDDR5X與傳統(tǒng)SODIMM產(chǎn)品相比就將功耗降低了58%，空間節(jié)省了64%。
落地端側(cè)，存儲(chǔ)探索更多可能
端側(cè)AI設(shè)備的快速發(fā)展，倒逼了存儲(chǔ)芯片整體性能的革新，新型存儲(chǔ)技術(shù)也在新趨勢(shì)下加速發(fā)展。
如MRAM磁阻隨機(jī)存取存儲(chǔ)器，它是一種基于隧穿磁阻效應(yīng)的存儲(chǔ)器，具有讀寫次數(shù)無限、寫入速度快、功耗低特點(diǎn)，兼具非易失性和高速讀寫的特性，非常契合需要快速響應(yīng)和持久保存數(shù)據(jù)的端側(cè)本地存儲(chǔ)。
MRAM與邏輯芯片集成度高的特點(diǎn)也能在設(shè)備小型化上提供助力，在端側(cè)設(shè)備深入應(yīng)用的未來，MRAM有望能匹配傳統(tǒng)存儲(chǔ)器的應(yīng)用需求，與其他存儲(chǔ)器結(jié)合，為端側(cè)AI設(shè)備存儲(chǔ)上性能、容量和成本的平衡。
另一個(gè)隨著AI應(yīng)用普及開始被重視的方向，則是存算一體化，根據(jù)不同側(cè)重還能細(xì)分到近存計(jì)算、存內(nèi)處理和存內(nèi)計(jì)算。對(duì)數(shù)據(jù)處理速度和存儲(chǔ)效率的要求不斷提高，傳統(tǒng)與計(jì)算分離的存儲(chǔ)解決方案日后或許承載不了端側(cè)AI對(duì)實(shí)時(shí)性和能效的需求。
在內(nèi)存內(nèi)核中集成NPU等AI引擎來處理一些計(jì)算、處理功能，避免了傳統(tǒng)架構(gòu)中數(shù)據(jù)在存儲(chǔ)器和處理器之間頻繁傳輸所產(chǎn)生的延遲，可以實(shí)現(xiàn)更快的數(shù)據(jù)訪問速度和更低的能耗，這對(duì)于需要本地實(shí)時(shí)響應(yīng)的端側(cè)應(yīng)用場(chǎng)景尤為重要。對(duì)算力、功耗和實(shí)時(shí)性有較高要求的眾多移動(dòng)端側(cè)AI設(shè)備，如AI手機(jī)、AI PC、AI可穿戴設(shè)備、AI智能家居日后都可能選擇該技術(shù)路線。
寫在最后
端側(cè)AI給存儲(chǔ)芯片市場(chǎng)帶來了新的發(fā)展機(jī)遇和挑戰(zhàn)，端側(cè)AI功能不斷擴(kuò)展和深化，對(duì)存儲(chǔ)的性能和功耗要求將越來越高，整個(gè)產(chǎn)業(yè)鏈上下游全力推進(jìn)技術(shù)革新保持競(jìng)爭(zhēng)力；另一方面，隨著新型存儲(chǔ)技術(shù)的不斷涌現(xiàn)以及端側(cè)AI設(shè)備存儲(chǔ)芯片需求打開，市場(chǎng)競(jìng)爭(zhēng)將更加激烈，這對(duì)于國(guó)內(nèi)存儲(chǔ)芯片廠商也是一個(gè)崛起機(jī)會(huì)。
回到文章開頭的故事，雖然目前端側(cè)AI設(shè)備還并沒有做到真正的智能，但有一句話是這樣說的，“人們總是高估短期，而低估長(zhǎng)期科技能力”，未來具有真正意義上設(shè)備端AI功能的產(chǎn)品功能會(huì)讓人意想不到。而隨著端側(cè)AI設(shè)備功能的不斷成熟和應(yīng)用場(chǎng)景的拓展，存儲(chǔ)芯片將迎來新的前景和機(jī)遇。
