作者:彭昭(智次方創(chuàng)始人、云和資本聯(lián)合創(chuàng)始合伙人)
這是我的第360篇專欄文章。
80塊打造個(gè)人語音助手,358元能搭建接入大模型且具備手勢(shì)識(shí)別、觸摸交互的機(jī)器人…DeepSeek的開源、輕量級(jí)和低成本特征,讓生成式AI進(jìn)入了普惠階段。
在這一背景下,企業(yè)再也沒有不采用人工智能技術(shù)進(jìn)行創(chuàng)新的理由。
而且DeepSeek引發(fā)的新一波生成式AI浪潮,本質(zhì)上是端側(cè)AI的紅利。
正是因?yàn)镈eepSeek的出現(xiàn),迫使我們重新評(píng)估AI投資回報(bào)率ROI,并認(rèn)識(shí)到端側(cè)AI將成為提升ROI的新路徑。
過去,生成式AI大模型一直面臨著成本與價(jià)值之間的ROI困境。盡管DeepSeek等大模型的能力不斷提升,但它們的訓(xùn)練和推理成本極高,限制了商業(yè)化落地的ROI。目前,AI的投資邏輯仍然圍繞算力規(guī)模和模型能力,但這種模式的可持續(xù)性正受到挑戰(zhàn)。
AI落地的核心問題在于如何降低計(jì)算成本。
傳統(tǒng)云端AI計(jì)算的高昂投入,讓許多企業(yè),尤其是中小企業(yè)難以承受。如果AI模型不能在更低成本、更低功耗的環(huán)境下運(yùn)行,那么它的商業(yè)應(yīng)用將受限,投資回報(bào)率也難以提升。
而DeepSeek等大模型的出現(xiàn),為解決這一問題提供了新的思路。
從企業(yè)參與度來看,過去只有大型企業(yè)能負(fù)擔(dān)端側(cè)AI研發(fā),而如今,借助DeepSeek低成本推理技術(shù),中小企業(yè)也能在AI玩具、AI眼鏡等產(chǎn)品中融入強(qiáng)大的AI功能,推動(dòng)端側(cè)硬件智能化的普及。
通過端側(cè)AI應(yīng)用,DeepSeek等大模型正在以更低的計(jì)算成本,在本地部署輕量化版本,提高推理效率。結(jié)合AIoT專用芯片,可以優(yōu)化推理過程,減少云端算力消耗,提高整體ROI。
這種模式特別適用于智能制造、智能硬件、自動(dòng)駕駛等應(yīng)用場(chǎng)景,有望推動(dòng)AI的大規(guī)模商業(yè)落地。
因此,本文將圍繞這一波由DeepSeek引發(fā)的端側(cè)AI紅利展開討論:
AI的投資回報(bào)率正處于重新評(píng)估期:大規(guī)模的AI投資是否真正帶來了生產(chǎn)力提升?DeepSeek等新一代AI模型又將如何影響ROI的計(jì)算方式?
從“模型能力”到“實(shí)現(xiàn)效率”:AI投資的重點(diǎn)正從“構(gòu)建更強(qiáng)大的模型”轉(zhuǎn)向“打造更高效的通感智值一體化架構(gòu)”。
我們將看到,DeepSeek等大模型的投資回報(bào)率ROI評(píng)估方式亟需改變,不應(yīng)再單純依賴更大規(guī)模的算力投入,而應(yīng)更加關(guān)注計(jì)算架構(gòu)的優(yōu)化。
端側(cè)AI的興起,為AI模型的商業(yè)化落地帶來了全新的可能性,有望顯著提升AI投資的長期價(jià)值。
既要AI創(chuàng)新,也要投資回報(bào)
過去一段時(shí)間,資本市場(chǎng)對(duì)AI的投資狂熱,但實(shí)際商業(yè)落地的投資回報(bào)率ROI仍存在爭(zhēng)議。根據(jù)波士頓咨詢集團(tuán)(Boston Consulting Group,BCG)的調(diào)研,75%的企業(yè)尚未從AI中看到投資回報(bào)。這背后的原因令人深思。
在2025年的最新研究中,BCG調(diào)研了全球1803名企業(yè)高管,發(fā)現(xiàn)三分之一的公司計(jì)劃今年在升級(jí)技術(shù)方面投資至少2500萬美元。
然而,只有約25%的公司看到了投資回報(bào)。BCG發(fā)現(xiàn),那些成功獲得出色ROI的企業(yè),將80%以上的AI投資集中在重塑關(guān)鍵業(yè)務(wù)功能和開發(fā)新產(chǎn)品與服務(wù)上。
而DeepSeek為我們開啟了以較低的試錯(cuò)成本,創(chuàng)建新產(chǎn)品、新服務(wù)、新業(yè)態(tài)的大門。
大量的企業(yè)或個(gè)人開發(fā)者將DeepSeek下載到任何筆記本電腦上,這意味著模型可以在端側(cè)、邊緣側(cè)運(yùn)行,而無需專門的硬件,這將大大加速邊緣計(jì)算的發(fā)展。
端側(cè)和邊緣在更靠近數(shù)據(jù)來源的地方處理數(shù)據(jù),從而減少延遲和帶寬使用。這有助于物聯(lián)網(wǎng)企業(yè)預(yù)測(cè)客戶需求、代表客戶采取行動(dòng),并在本地化環(huán)境中高效運(yùn)營業(yè)務(wù)。
根據(jù)我們對(duì)DeepSeek-R1的了解,它可以實(shí)時(shí)處理和分析大量數(shù)據(jù),從而實(shí)現(xiàn)響應(yīng)更快、更智能的終端和邊緣設(shè)備。
這種能力在實(shí)時(shí)決策至關(guān)重要的場(chǎng)景中尤其有價(jià)值,例如自動(dòng)駕駛汽車、工業(yè)自動(dòng)化和智慧城市。通過利用邊緣的LLM,企業(yè)可以實(shí)現(xiàn)更快的數(shù)據(jù)處理、更高的預(yù)測(cè)準(zhǔn)確性和增強(qiáng)的用戶體驗(yàn)。
DeepSeek不僅僅是“中國ChatGPT”,它代表著全球人工智能創(chuàng)新的一大飛躍。通過減少構(gòu)建模型的成本、時(shí)間和精力,更多的研究人員和開發(fā)人員可以進(jìn)行實(shí)驗(yàn)、創(chuàng)新和嘗試新模型。
DeepSeek等新模型的出現(xiàn),推動(dòng)了AI應(yīng)用的廣泛性,突破算力成本、推理效率、數(shù)據(jù)壟斷等問題,化解制約ROI實(shí)際兌現(xiàn)的枷鎖。DeepSeek在算法層面的推理成本優(yōu)化,為國產(chǎn)算力芯片和計(jì)算集群網(wǎng)絡(luò)等硬件端的發(fā)展?fàn)幦×烁嗫臻g,而軟硬件成本的減少,也將相應(yīng)為國內(nèi)AI應(yīng)用帶來機(jī)會(huì),由此形成產(chǎn)業(yè)發(fā)展正向循環(huán)。
端側(cè)AI的三角定律:算力x通信x存儲(chǔ)的協(xié)同優(yōu)化決定商業(yè)價(jià)值
我們看到,AI的投資邏輯正在從“單純追求更強(qiáng)大模型”轉(zhuǎn)向“如何更高效地使用AI”。
正如《美格/廣和通/移遠(yuǎn)/日?!R布局,Deepseek催化“端側(cè)AI元年”?》文章所述,當(dāng)AI大模型從云端下沉至邊側(cè),一場(chǎng)“端側(cè)AI革命”正悄然展開。在這場(chǎng)革命中,通信模組作為連接物理世界與數(shù)字世界的核心紐帶,發(fā)揮著至關(guān)重要的作用,成為產(chǎn)業(yè)關(guān)注的焦點(diǎn)。2025年,在DeepSeek浪潮的引領(lǐng)下,AIoT產(chǎn)業(yè)或?qū)⒂瓉怼岸藗?cè)AI元年”。
為什么通信模組企業(yè)或存儲(chǔ)硬件企業(yè),將成為重要角色,共同參與到端側(cè)AI的核心角逐?
因?yàn)槎藗?cè)AI的計(jì)算架構(gòu)正在重塑AI投資邏輯:從“更強(qiáng)”到“更高效”,算力、通信和存儲(chǔ)的協(xié)同優(yōu)化,決定了商業(yè)價(jià)值。
過去AI投資的核心指標(biāo)是“更大參數(shù)規(guī)模+更強(qiáng)泛化能力”,但未來關(guān)鍵指標(biāo)將是“更低功耗+更快推理速度”,即如何在有限算力下實(shí)現(xiàn)更高效的AI推理和應(yīng)用落地。
未來AI領(lǐng)域的ROI評(píng)估,不僅要關(guān)注模型能力,還要衡量“計(jì)算成本vs商業(yè)收益”的平衡點(diǎn)。通信和算力的結(jié)合,或者算力與存儲(chǔ)的結(jié)合,將成為端側(cè)AI區(qū)別于云端AI的特征之一。
根據(jù)東吳證券的測(cè)算,端側(cè)算力需求在 2024-2027 年間基本維持翻倍以上的增速,2027-2030 年間增速依然在高雙位數(shù)水平。
在這一趨勢(shì)下,端側(cè)AI正在成為AI計(jì)算架構(gòu)創(chuàng)新的前沿戰(zhàn)場(chǎng),它不僅代表了AI應(yīng)用的下一個(gè)增長點(diǎn),更是重新定義大模型商業(yè)價(jià)值的核心要素。
未來,通算一體或存算一體的方案有望成為主流。相比于多芯片方案,這種集成化的架構(gòu)具備以下優(yōu)勢(shì):架構(gòu)簡(jiǎn)化,降低成本、更優(yōu)的功耗管理、更強(qiáng)的集成度。新型方案減少了系統(tǒng)切換的延遲,使AI計(jì)算更加流暢,更適用于智能家居、可穿戴設(shè)備、工業(yè)物聯(lián)網(wǎng)等領(lǐng)域。
這種架構(gòu)的升級(jí),不僅優(yōu)化了端側(cè)設(shè)備的計(jì)算能力,也進(jìn)一步推動(dòng)了端側(cè)AI的普及,為AI計(jì)算的商業(yè)化提供了更優(yōu)的方案。
端側(cè)AI的商業(yè)價(jià)值重估矩陣
對(duì)于端側(cè)AI,傳統(tǒng)的AI商業(yè)價(jià)值評(píng)估模型已不再適用,新的評(píng)估維度和指標(biāo)正在形成。
以下是一個(gè)端側(cè)AI的商業(yè)價(jià)值重估矩陣,對(duì)比了傳統(tǒng)模型和新一代端側(cè)AI在不同維度上的差異:
讓我們深入解析這個(gè)商業(yè)價(jià)值重估矩陣:
核心指標(biāo):從“絕對(duì)性能”到“效能密度”
傳統(tǒng)AI模型追求絕對(duì)性能,如準(zhǔn)確率,但端側(cè)AI更關(guān)注效能密度,即在有限功耗下實(shí)現(xiàn)更高的性能。每瓦準(zhǔn)確率成為衡量端側(cè)AI商業(yè)價(jià)值的新指標(biāo)。
價(jià)值錨點(diǎn):從“規(guī)模崇拜”到“效率革命”
過去,AI模型的價(jià)值錨定在參數(shù)量上,認(rèn)為更大的模型必然帶來更強(qiáng)的性能。但端側(cè)AI時(shí)代,推理能效比成為新的價(jià)值錨點(diǎn),即在有限算力下實(shí)現(xiàn)更高效的推理。
競(jìng)爭(zhēng)壁壘:從“數(shù)據(jù)壟斷”到“架構(gòu)創(chuàng)新”
傳統(tǒng)AI競(jìng)爭(zhēng)的壁壘在于數(shù)據(jù)規(guī)模,掌握更多數(shù)據(jù)的企業(yè)往往占據(jù)優(yōu)勢(shì)。但在端側(cè)AI領(lǐng)域,架構(gòu)創(chuàng)新成為新的競(jìng)爭(zhēng)壁壘,更高效、更智能的計(jì)算架構(gòu)將決定企業(yè)的市場(chǎng)地位。
商業(yè)模式:從“軟件服務(wù)”到“硬軟融合”
傳統(tǒng)AI商業(yè)模式以云端API調(diào)用為主,用戶按使用量付費(fèi)。但端側(cè)AI時(shí)代,硬件和服務(wù)的融合成為新的商業(yè)模式。企業(yè)通過銷售智能硬件,并提供訂閱服務(wù),實(shí)現(xiàn)持續(xù)的收入。
端側(cè)AI的ROI優(yōu)化路徑包括:利用低成本邊緣計(jì)算芯片,減少對(duì)昂貴數(shù)據(jù)中心資源的依賴;優(yōu)化推理效率,提高能效比,降低AI計(jì)算在終端設(shè)備上的成本;結(jié)合智能存儲(chǔ)、通信技術(shù),提升數(shù)據(jù)利用率,減少冗余計(jì)算。
過去,AI投資主要圍繞提升模型能力展開,追求更大的參數(shù)規(guī)模、更復(fù)雜的神經(jīng)網(wǎng)絡(luò)架構(gòu)。然而,計(jì)算成本與商業(yè)收益的平衡正在成為新時(shí)期AI投資的核心考量因素。
未來,AI投資的關(guān)鍵,將會(huì)從“更強(qiáng)的AI”,到“更高效的AI”;從“單純軟件創(chuàng)新”,到“軟硬結(jié)合”。AIoT芯片、邊緣設(shè)備、優(yōu)化算法的發(fā)展,將重新定義大模型的商業(yè)價(jià)值。
因此AI的商業(yè)價(jià)值將不再由單純的模型能力決定,而是由計(jì)算成本與商業(yè)收益的平衡來定義。只有那些能夠在算力、功耗、存儲(chǔ)、通信等多個(gè)維度平衡商業(yè)價(jià)值的AI架構(gòu),才能真正實(shí)現(xiàn)可持續(xù)增長。端側(cè)AI的崛起,將推動(dòng)整個(gè)產(chǎn)業(yè)走向更加務(wù)實(shí)、可持續(xù)的發(fā)展之路。
寫在最后
端側(cè)AI正在重塑AI的投資邏輯和價(jià)值評(píng)估體系。企業(yè)需要從單純追求模型性能,轉(zhuǎn)向更加全面、平衡的AI效能評(píng)估。算力、通信、存儲(chǔ)的協(xié)同優(yōu)化,將成為決定AI商業(yè)價(jià)值的關(guān)鍵因素。
DeepSeek為我們展現(xiàn)了端側(cè)AI的巨大潛力,它有望顯著降低AI應(yīng)用的門檻,讓更多中小企業(yè)和創(chuàng)新者參與到AI浪潮中來。與此同時(shí),端側(cè)AI也對(duì)芯片、通信、存儲(chǔ)等產(chǎn)業(yè)鏈環(huán)節(jié)提出了新的要求,驅(qū)動(dòng)產(chǎn)業(yè)鏈的協(xié)同升級(jí)。
目前我們正在征集和編寫《中國端側(cè)AI全景圖譜報(bào)告》,歡迎感興趣的朋友掃描下方二維碼參與合作。
參考資料:
1. 美格/廣和通/移遠(yuǎn)/日?!R布局,Deepseek催化“端側(cè)AI元年”?來源:物聯(lián)網(wǎng)智庫
2. Why 75% Of Businesses Aren’t Seeing ROI From AI Yet,作者:Megan Poinski,來源:Forbes
3. “80元部署個(gè)人語音助手”!DeepSeek開啟AI普惠時(shí)代 端側(cè)應(yīng)用打開想象空間,來源:財(cái)聯(lián)社