• 正文
    • ?01端側(cè)AI芯片的“黃金拐點(diǎn)”
    • ?02賽道主力玩家
    • ?03結(jié)語(yǔ)
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

AI端側(cè)的芯片革命

02/25 09:24
2904
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

作者:九林

2025年,中國(guó)開了一個(gè)好年。

文化市場(chǎng),哪吒2爆火,票房已經(jīng)突破了百億,闖入全球電影TOP榜,向世界展示了中國(guó)市場(chǎng)“恐怖的”消費(fèi)能力。AI市場(chǎng),DeepSeek的橫空出世,更低的算力達(dá)到Chat GPT的效果,直接刷屏全球熱搜榜。

如果說Chat GPT的出現(xiàn),讓生成式AI走向了云,那么DeepSeek則是讓生成式AI走向了端。

?01端側(cè)AI芯片的“黃金拐點(diǎn)”

科技行業(yè)一直在探索AI硬件產(chǎn)品。

從今年“消費(fèi)電子屆春晚”CES上來看非常明確。今年CES上的各大公司推出的產(chǎn)品都與AI強(qiáng)相關(guān),無(wú)論是通用的PC,還是手機(jī)終端,再到機(jī)器人、眼鏡、耳機(jī)、手表等等,幾乎每種產(chǎn)品只要存在人機(jī)交互的硬件終端,都有廠商嘗試將其與AI大模型結(jié)合。

但這些探索似乎都不太成功。大模型推出了成百上千種,硬件產(chǎn)品更是成千上萬(wàn)種,但效果不甚了了。究其原因,還是本地SoC提供的算力和大模型需要的算力無(wú)法匹配。ChatGPT時(shí)代,大模型的蒸餾是很大的問題。

如果采用云端調(diào)用算力完成AI推理,就存在三個(gè)問題:

第一,成本。云端的任何操作都是有成本的,可能不多,幾分人民幣,但總之是要花錢的。有手機(jī)廠商透露,調(diào)用一次云端大模型的平均成本在1.2分到1.5分人民幣,假設(shè)每個(gè)品牌都有上億的用戶量,每人每天調(diào)用10次,這其中的算力成本非常驚人。但是如果按次數(shù)或月租向用戶進(jìn)行收費(fèi),在功能同質(zhì)化的情況下,用戶的使用意愿也會(huì)很難保證。

第二,速度。既然是云端完成,那么必然需要進(jìn)行網(wǎng)絡(luò)傳輸,這就導(dǎo)致AI在終端的響應(yīng)速度慢。如果是自動(dòng)駕駛中的汽車,對(duì)于當(dāng)前環(huán)境需要在10毫秒內(nèi)決策,靠著云端未免過于危險(xiǎn)。在自動(dòng)駕駛、工業(yè)質(zhì)檢等場(chǎng)景,端側(cè)推理延遲能夠降至毫秒級(jí),較云端方案提升5倍。

第三,隱私。這是最重要的部分,涉及到醫(yī)療和金融等內(nèi)容,對(duì)于用戶來說,端側(cè)模型才是最優(yōu)解。所有人內(nèi)心都有一個(gè)答案:端側(cè)AI才是AI硬件落地的關(guān)鍵。小尺寸模型落地端側(cè)已經(jīng)開始了。

華為宣布“小藝智能體”接入DeepSeek-R1算起,在一周多的時(shí)間里,包括星紀(jì)魅族、榮耀、OPPO、努比亞、vivo在內(nèi)的6家手機(jī)廠商宣布接入DeepSeek。需要解釋的是,滿血版DeepSeek-R1模型參數(shù)達(dá)到671B,僅模型文件就需要404GB存儲(chǔ)空間,任何一種移動(dòng)設(shè)備都無(wú)法滿足這樣的硬件配置需要。但DeepSeek蒸餾版本(1.5B、7B)適合手機(jī)等端側(cè)使用。為了讓這些小尺寸模型在端側(cè)流暢運(yùn)行并充分發(fā)揮其智能優(yōu)勢(shì),就需要性能強(qiáng)勁的端側(cè) AI 芯片來提供算力支持。市場(chǎng)對(duì)于能適配小尺寸模型運(yùn)行的端側(cè) AI 芯片需求開始水漲船高。

?02賽道主力玩家

端側(cè)的應(yīng)用市場(chǎng)非常大,前文我們提到,只要存在人機(jī)交互的硬件終端,都有廠商嘗試將其與AI大模型結(jié)合。我們可以在這里具體看一下:

AI PC領(lǐng)域,2027年AI PC在中國(guó)PC市場(chǎng)占比能夠達(dá)到85%;AI手機(jī)領(lǐng)域,2026年,AI 手機(jī)的出貨量預(yù)計(jì)將突破4.7億部,滲透率增至38%;在AI可穿戴設(shè)備領(lǐng)域,市場(chǎng)規(guī)模預(yù)計(jì)將從2024年的419億美元增長(zhǎng)至2028年的1207億美元,CAGR達(dá)到30.3%。

2023年中國(guó)端側(cè)AI市場(chǎng)規(guī)模為1,939億元,從2018至2023年,其年均復(fù)合增長(zhǎng)率為116.3%。DeepSeek首先帶動(dòng)是AI端側(cè)的SoC芯片需求。SOC芯片是各類型硬件設(shè)備的主控單元,承載著運(yùn)算控制等核心功能,是硬件的“大腦”。隨著AI在邊緣側(cè)的應(yīng)用越來越廣泛,SOC將更加變成集成人工智能邊緣計(jì)算能力的系統(tǒng)級(jí)芯片,成為AI SOC,算力達(dá)到幾十甚至數(shù)百TOPS。

在這次端側(cè)AI熱潮中,瑞芯微頻頻漲停。目前,瑞芯微能夠提供從 0.2TOPs 到 6TOPs 的不同算力水平的 AIoT 芯片,其中?RK3588、RK3576 帶有 6TOPs NPU 處理單元,能夠支持端側(cè)主流的 0.5B~3B 參數(shù)級(jí)別的模型部署。可通過大語(yǔ)言模型實(shí)現(xiàn)翻譯、總結(jié)、問答等功能,并可實(shí)現(xiàn)多模態(tài)搜索、識(shí)別,有效解決不同 AIoT 場(chǎng)景的痛點(diǎn),提升產(chǎn)品使用體驗(yàn)。

其中,公司SOC芯片拳頭產(chǎn)品RK3588M是國(guó)內(nèi)少數(shù)能媲美國(guó)外一線產(chǎn)品的智能座艙SoC芯片。據(jù)瑞芯微透露,該產(chǎn)品性能優(yōu)異,一芯帶多屏、端側(cè)AI等能力突出,已落地應(yīng)用于眾多頭部車廠,量產(chǎn)車型10余款,超20款定點(diǎn)車型項(xiàng)目在同步開發(fā)中。此外,新產(chǎn)品RK3576M也正在進(jìn)行客戶導(dǎo)入。這還僅是瑞芯微端側(cè)AI產(chǎn)品應(yīng)用的一個(gè)方面。事實(shí)上,當(dāng)前已有多個(gè)領(lǐng)域的客戶基于瑞芯微主控芯片研發(fā)在端側(cè)支持AI大模型的新硬件,例如教育平板、AI玩具、桌面機(jī)器人、算力終端、會(huì)議主機(jī)等產(chǎn)品。

全志科技也是一家備受關(guān)注的SoC企業(yè)。去年公司全年實(shí)現(xiàn)屬于上市公司股東的凈利潤(rùn)為1.53億元–1.9億元,同比增長(zhǎng)566.29%~727.42%。業(yè)績(jī)暴增的原因,則是以掃地機(jī)器人、智能投影等業(yè)務(wù)線為代表的產(chǎn)品出貨量顯著提升,致使?fàn)I業(yè)收入同比增長(zhǎng)約35%。在記者問詢?nèi)究萍籍a(chǎn)品是否能適配DeepSeek,是否針對(duì)DeepSeek進(jìn)行布局時(shí),全志科技表示:“公司產(chǎn)品可以為端側(cè)多種形態(tài)的智能終端產(chǎn)品提供算力支持?!?/p>

樂鑫科技SoC長(zhǎng)期應(yīng)用于泛IoT領(lǐng)域。從應(yīng)用端看,樂鑫科技在智能家居、智能照明和消費(fèi)電子等核心應(yīng)用市場(chǎng)合計(jì)達(dá)到了30%以上的增長(zhǎng)。樂鑫科技ESP32-S3 和 ESP32-P4 產(chǎn)品線都有添加邊緣 AI 的功能,主要體現(xiàn)為設(shè)備端語(yǔ)音喚醒與控制,以及圖像處理的功能。這兩個(gè)系列的芯片在硬件設(shè)計(jì)上增加了 AI 加速指令;而在軟件層面,也提供圖像識(shí)別和語(yǔ)音喚醒、控制等方案。樂鑫科技副總經(jīng)理王玨表示:“公司帶端側(cè)AI功能的AIoT芯片ESP32-S3目前增長(zhǎng)非常迅速,也是當(dāng)前主推的旗艦產(chǎn)品?!弊止?jié)跳動(dòng)的AI玩具“顯眼包”中用的也是樂鑫的芯片 ESP32。

晶晨股份已有超15款商用芯片搭載其自研的端側(cè)AI算力單元,2024年攜帶自研端側(cè)AI算力單元的芯片出貨量超過800萬(wàn)顆。2024年年度實(shí)現(xiàn)營(yíng)業(yè)收入59.21億元左右;歸母凈利潤(rùn)約8.2億元左右,同比增長(zhǎng)64.65%左右。該公司表示,其6nm芯片S905X5系列可利用端側(cè)AI能力,實(shí)現(xiàn)本地同聲翻譯、同聲字幕等功能,商用半年以來取得多個(gè)國(guó)際Top級(jí)運(yùn)營(yíng)商的訂單,預(yù)計(jì)6nm芯片有望在2025年達(dá)成千萬(wàn)顆以上的銷量。端側(cè)的AI音頻處理器應(yīng)用場(chǎng)景多是在智能物聯(lián)網(wǎng)領(lǐng)域。比如,在智能音響中,端側(cè) AI 音頻處理器能夠支持語(yǔ)音喚醒、語(yǔ)音識(shí)別、語(yǔ)音合成等功能,實(shí)現(xiàn)用戶與音箱的自然語(yǔ)言交互。

在智能家居系統(tǒng)中,它可用于聲音控制家電設(shè)備,如通過語(yǔ)音指令調(diào)節(jié)燈光、空調(diào)、電視等。

恒玄科技的端側(cè)SoC已經(jīng)成功搭載在多家主流品牌產(chǎn)品里,包括百度、字節(jié)跳動(dòng)、谷歌、哈曼、安克創(chuàng)新、漫步者、韶音等。今年,字節(jié)跳動(dòng)推出的首款搭載豆包大模型的智能耳機(jī)Ola Friend,搭載的就是恒玄科技2700芯片。恒玄科技的最新芯片BES2800還被應(yīng)用于三星2024年最新發(fā)布的Galaxy Buds3 Pro耳機(jī)中。多款耳機(jī)的應(yīng)用,能夠看出恒玄科技在智能終端SoC芯片領(lǐng)域處于領(lǐng)先地位。對(duì)于端側(cè) AI對(duì)于芯片要求的變化,恒玄科技認(rèn)為:“云端大模型的興起除了對(duì) AI 手機(jī)、PC 帶動(dòng)外,可穿戴也是會(huì)受益于端側(cè) AI 的發(fā)展,它對(duì)芯片會(huì)提出新的需求,比如可穿戴的環(huán)境感知能力要變得更強(qiáng),所以主控芯片的算力需要相應(yīng)提升,同時(shí)可穿戴產(chǎn)品長(zhǎng)續(xù)航是剛需,所以芯片在算力提升的基礎(chǔ)上還要保持較低的功耗水平。”

值得一提的還有AI眼鏡芯片。行業(yè)普遍認(rèn)為眼鏡是目前最火的AI、大模型的落地載體,今年行業(yè)將會(huì)完成0到1的突破。之前在2017年,Meta就開始自研AI眼鏡,最開始是和三星合作,但是三年都沒出什么結(jié)果,然后告吹了。之后Meta放棄了自研芯片,Ray-Ban眼鏡使用了高通的AR1 Gen 1芯片。可以說,在ARVR芯片這個(gè)領(lǐng)域,高通還是處于絕對(duì)的控制地位。在市面上,AI眼鏡能用上的芯片,除了高通芯片,那就是紫光展銳的TW517。

紫光展銳TW517采用12nm工藝,GPU 型號(hào)為 IMG8300,運(yùn)行頻率 800MHz。主要客戶是閃極 AI 拍拍鏡、影目科技。同時(shí),恒玄科技此前透露,該公司芯片已在魅族等智能眼鏡產(chǎn)品中應(yīng)用發(fā)布,同時(shí)有一些客戶項(xiàng)目正在導(dǎo)入階段。

?03結(jié)語(yǔ)

哪吒2突破百億票房,向世界展示了中國(guó)市場(chǎng)“恐怖的”消費(fèi)能力。這意味著:?jiǎn)螒{中國(guó)市場(chǎng)的規(guī)模和消費(fèi)能力就抵得上全球其他發(fā)達(dá)國(guó)家的總和。

這背后傳遞的信號(hào)非常積極。

如果只看電影市場(chǎng),可能還不太理解。但如果放到科技和制造業(yè)中來看就會(huì)明白其中的巨大價(jià)值。接下來不管歐美再怎么對(duì)我們進(jìn)行貿(mào)易和科技壁壘,都不可能阻止我們產(chǎn)業(yè)升級(jí)。對(duì)于科技和制造的最大障礙,并不是“卡脖子”,而是前期沒有足夠大的消費(fèi)市場(chǎng)買單,就無(wú)法形成相關(guān)產(chǎn)業(yè)鏈的建立。舉個(gè)例子,某企業(yè)研發(fā)一款芯片,從設(shè)計(jì)到量產(chǎn)累計(jì)成本要2個(gè)億,如果只賣出十萬(wàn)片那每個(gè)芯片的成本等于是2000塊,這個(gè)價(jià)格太高了,企業(yè)肯定無(wú)法盈利。

只能陷入長(zhǎng)期虧損,最終倒閉出局。但是如果能夠賣出1億片,那每片成本只需要2塊錢。這個(gè)成本的大幅度攤薄就會(huì)讓企業(yè)有利潤(rùn)繼續(xù)投入研發(fā)。因?yàn)槭袌?chǎng)體量足夠大,有足夠多的買家?guī)椭杀?,公司就能賺錢、行業(yè)就能發(fā)展,這就是中國(guó)市場(chǎng)的魔力。國(guó)信證券研報(bào)觀點(diǎn)稱,2024年電子行情由“周期復(fù)蘇”向“成長(zhǎng)創(chuàng)新”切換,2025年行業(yè)有望邁入估值擴(kuò)張大年。

應(yīng)用端AI革新人機(jī)交互,以語(yǔ)音交互為核心的AI端側(cè)應(yīng)用正處在大規(guī)模商業(yè)化的臨界點(diǎn),創(chuàng)新催化頻繁。相比AI云側(cè),國(guó)內(nèi)半導(dǎo)體企業(yè)將在AI端側(cè)創(chuàng)新中實(shí)現(xiàn)更高的市場(chǎng)參與度,同時(shí)國(guó)產(chǎn)半導(dǎo)體自給率仍偏低,兩者共振奠定了行業(yè)成長(zhǎng)的確定性和空間。

相關(guān)推薦

登錄即可解鎖
  • 海量技術(shù)文章
  • 設(shè)計(jì)資源下載
  • 產(chǎn)業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄

公眾號(hào):半導(dǎo)體產(chǎn)業(yè)縱橫。立足產(chǎn)業(yè)視角,提供及時(shí)、專業(yè)、深度的前沿洞見、技術(shù)速遞、趨勢(shì)解析,鏈接產(chǎn)業(yè)資源,構(gòu)建IC生態(tài)圈,賦能中國(guó)半導(dǎo)體產(chǎn)業(yè),我們一直在路上。