549
作者 |??云鵬，編輯?|??漠影
端側(cè)AI變革加速，模型進化正顛覆行業(yè)認知。
DeepSeek的出現(xiàn)可以說引爆了整個科技產(chǎn)業(yè)，在科技賽道的各個領(lǐng)域掀起波瀾。成本更低、性能更高、規(guī)模更小，“不可能三角”被徹底打破。這樣的表現(xiàn)可以說顛覆了AI大模型行業(yè)的傳統(tǒng)認知。
隨之而來的，是各行各業(yè)迅速接入DeepSeek，由DeepSeek蒸餾而來的各類小模型也開始在端側(cè)設(shè)備中廣泛落地。Meta首席AI科學(xué)家楊立昆就提到過，蒸餾技術(shù)可以讓模型快速應(yīng)用到產(chǎn)品中，這也是開源的優(yōu)勢所在，每個人都能從技術(shù)進步中獲益。
模型訓(xùn)練成本不斷下降、邊緣AI推理變得越來越普遍，單純以比拼模型規(guī)模為核心的競爭已經(jīng)成為過去式，根據(jù)權(quán)威市研機構(gòu)Epoch AI數(shù)據(jù)，2024年AI大模型中75%以上規(guī)模都在千億參數(shù)以下。
如今行業(yè)聚焦的是如何在邊緣和端側(cè)高效地落地AI、如何在實際的生產(chǎn)中去部署AI，進而帶來實質(zhì)性的效益提升。高質(zhì)量的小規(guī)模模型愈發(fā)受到熱捧。與此同時，端側(cè)AI的加速發(fā)展，也帶動著相關(guān)芯片的規(guī)模化擴展，芯片需求顯著增長。
端側(cè)AI低時延、高實時性、高隱私性、高安全性，可以更好地實現(xiàn)本地個性化AI體驗的諸多優(yōu)勢特性都愈發(fā)凸顯。在這樣的產(chǎn)業(yè)背景下，移動芯片巨頭高通公司儼然已成為加速端側(cè)AI發(fā)展的核心推手，從硬件、軟件到生態(tài)，高通技術(shù)生態(tài)版圖正加速擴展。高通是行業(yè)內(nèi)最早一批聚焦端側(cè)AI、強調(diào)端側(cè)AI重要性的廠商，其很早就提出了混合AI架構(gòu)。
近期，作為端側(cè)AI核心玩家的高通發(fā)布了最新AI白皮書，深入分析了AI大模型的激增和演進如何給AI格局帶來改變并釋放新的價值。與此同時，高通在今年的MWC上亮出一系列端側(cè)AI相關(guān)產(chǎn)品，與榮耀、小米、OPPO等國內(nèi)頭部手機廠商合作展示了不少亮眼的端側(cè)AI技術(shù)和AI智能體新應(yīng)用。
可以說，隨著高通AI產(chǎn)品技術(shù)生態(tài)在手機、PC、汽車、工業(yè)IoT、網(wǎng)絡(luò)等終端和邊緣加速賦能、廣泛落地，高通已成為后DeepSeek時代AI產(chǎn)業(yè)的核心變量。
01.“小模型”爆發(fā)大能量智能硬件端側(cè)AI或迎井噴
今天，在AI技術(shù)快速迭代發(fā)展之下，AI產(chǎn)業(yè)格局正迎來轉(zhuǎn)變。AI模型的訓(xùn)練方式正在發(fā)生顛覆性變革，大規(guī)模推理浪潮來勢洶洶，新的邊緣側(cè)推理計算創(chuàng)新和升級周期已經(jīng)到來。基于蒸餾和一系列優(yōu)化技術(shù)而生的更小型、更高效的模型正在快速落地行業(yè)，并加速在終端側(cè)的規(guī)模化集成。
從手機、PC、智能穿戴、智能家居到汽車，端側(cè)和邊緣運行的AI模型在質(zhì)量、性能和效率方面都有顯著提升。終端側(cè)可以運行越來越多高質(zhì)量的AI模型、高質(zhì)量小語言模型和多模態(tài)推理模型數(shù)量激增，隨之而來的是越來越多AI應(yīng)用和用例的涌現(xiàn)。與此同時，AI也在重新定義終端的用戶界面，AI正在成為終端側(cè)新的UI。諸多手機、PC巨頭都已經(jīng)發(fā)布AI OS相關(guān)技術(shù)，AI深度融入的操作系統(tǒng)成為終端行業(yè)的關(guān)鍵技術(shù)發(fā)展方向之一。
而實現(xiàn)這一切，加速端側(cè)AI落地，離不開底層一系列模型優(yōu)化相關(guān)技術(shù)的支撐。比如蒸餾（Distillation）技術(shù)能讓大模型“教學(xué)”小模型，在保持準確性的同時遷移知識，這也催生了諸多面向垂直行業(yè)特定領(lǐng)域調(diào)優(yōu)的專用小模型。
基于這樣的技術(shù)，DeepSeek作為教師模型，已經(jīng)幫助不少“學(xué)生”模型在性能表現(xiàn)上得到顯著提升。此外，量化、壓縮和剪枝等模型優(yōu)化技術(shù)，同樣有助于縮小模型規(guī)模，尤其是有助于降低運行模型的功耗，算力、功耗的節(jié)省對于端側(cè)AI的發(fā)展可以說是關(guān)鍵因素之一。
得益于這些技術(shù)，小模型的實際表現(xiàn)已經(jīng)逐漸接近前沿大模型。比如使用DeepSeek蒸餾后的Qwen-7B模型，已經(jīng)能夠在性能上與去年推出的GPT-4o云端模型持平，而蒸餾后的Llama 700億模型在推理、編程、數(shù)學(xué)、數(shù)據(jù)分析等多方面的表現(xiàn)都已經(jīng)超越了原始模型。
在一系列技術(shù)的加持下，大型基礎(chǔ)模型縮減為更小、更高效的版本，具備更快的推理速度、更少的內(nèi)存占用和更低的功耗，這無疑顯著加速了AI模型在智能手機、PC和汽車等智能終端上的部署落地，大幅降低了設(shè)備的算力門檻。
02.提前押寶端側(cè)AI領(lǐng)跑行業(yè)，從硬件、軟件到生態(tài)全鏈路布局
在這樣的行業(yè)趨勢下，高通已經(jīng)走到了端側(cè)AI落地核心推手的位置。從ChatGPT火爆之初，高通就已經(jīng)開始重點聚焦端側(cè)AI，并在諸多產(chǎn)品和技術(shù)發(fā)布中強調(diào)端側(cè)AI的優(yōu)勢。近年，高通連續(xù)發(fā)布AI技術(shù)白皮書，其提出的混合AI架構(gòu)點明了端云結(jié)合將是未來行業(yè)發(fā)展到主流趨勢，而端側(cè)AI是高通作為全球移動芯片技術(shù)生態(tài)巨頭所核心專注的領(lǐng)域。
如今DeepSeek的火爆，恰恰驗證了高通對AI發(fā)展的趨勢判斷，端側(cè)AI的未來已經(jīng)十分明確。從NPU的持續(xù)迭代、硬件和算法層面的創(chuàng)新到對大模型的深度優(yōu)化適配，高通在端側(cè)AI領(lǐng)域有著長期深耕，其產(chǎn)品、技術(shù)和解決方案布局涵蓋了數(shù)十億臺智 能手機、汽車、XR頭顯和眼鏡、PC以及工業(yè)物聯(lián)網(wǎng)終端，這是高通的核心優(yōu)勢所在。
底層芯片方面，高通在CPU、NPU、GPU和低功耗子系統(tǒng)領(lǐng)域已經(jīng)陸續(xù)發(fā)布了諸多產(chǎn)品，尤其在系統(tǒng)級芯片（SoC）產(chǎn)品領(lǐng)域有著扎實的基礎(chǔ)。芯片的高性能、高能效、低功耗特性可以說是端側(cè)設(shè)備能夠高效處理復(fù)雜AI任務(wù)，同時兼顧續(xù)航、能效的根本保障。打好硬件基礎(chǔ)后，高通進一步構(gòu)建了AI軟件棧來賦能開發(fā)者，讓各類智能終端更高效地得到硬件加速，進而提升端側(cè)AI體驗。
簡單來說，高通AI軟件棧包括庫、SDK和優(yōu)化工具，可簡化模型部署并提升性能、縮短AI應(yīng)用開發(fā)的時間。此外，高通還在與全球AI模型廠商積極合作、提供高通AI Hub等服務(wù)，推動終端側(cè)AI應(yīng)用的開發(fā)和規(guī)?；瘮U展。
在高通AI Hub上，開發(fā)者只需要簡單的三步就可以基于大模型開發(fā)AI應(yīng)用并最終完成商業(yè)化部署。最近，高通正式宣布IBM watsonx.governance和Granite LLM大語言模型可以在搭載驍龍8至尊版的終端以及搭載高通躍龍AI的本地設(shè)備上運行。同時高通Cloud AI系列推理加速器已通過OpenShift認證，支持IBM的軟件應(yīng)用程序套件在高通Cloud AI平臺進行部署。可以說，從硬件、軟件到生態(tài)，高通端側(cè)AI優(yōu)勢凸顯，高通毫無疑問已經(jīng)成為后DeepSeek AI推理時代的領(lǐng)跑者之一。
03.從手機、PC、汽車到工業(yè)IoT，高通端側(cè)AI生態(tài)無處不在
基于端側(cè)AI領(lǐng)域過硬的產(chǎn)品性能、完善的軟件生態(tài)，高通正在多個賽道賦能行業(yè)，與廠商一起實現(xiàn)用戶體驗的革新，進而釋放新的商業(yè)價值。
比如在PC領(lǐng)域，我們能看到基于驍龍X系列平臺的筆記本電腦產(chǎn)品支持了諸多Windows 11 AI+ PC新特性，生成式AI推理真正落地在了端側(cè)，實現(xiàn)了本地運行。剪映、達芬奇、Zoom等各類流行三方應(yīng)用都可以基于高通驍龍X平臺，本地化實現(xiàn)一些特定的AI功能。
在智能手機領(lǐng)域，三星、華碩、小米、OPPO、vivo和榮耀等頭部廠商的最新旗艦智能手機均搭載了最新驍龍旗艦移動芯片平臺。就在最近火爆科技圈的世界移動通信大會（MWC）上，高通亮出了一系列端側(cè)AI新進展，這些產(chǎn)品和技術(shù)也令人感受到端側(cè)AI加速發(fā)展帶來的巨大變革潛力。現(xiàn)場我們能看到多種先進多模態(tài)生成式模型和智能體AI在智能手機上原生運行，AI助手能在不同溝通模式間切換，并生成多模態(tài)輸出。
與此同時，AI與系統(tǒng)的深度融合，也讓手機在通信、圖像編輯、個性化和無障礙方面有了進一步提升。比如高通最新發(fā)布的X85 5G調(diào)制解調(diào)器及射頻就內(nèi)置搭載了第四代專用AI處理器，AI在信號增強方面作用顯著。
隨著AI與系統(tǒng)的融合加深，AI已逐漸成為智能設(shè)備新的UI，通過自然語言和基于圖像、視頻與手勢的交互，極大簡化了我們與智能設(shè)備交互、使用應(yīng)用、享受服務(wù)的方式。值得一提的是，在當(dāng)下最為火爆的AI眼鏡領(lǐng)域，我們看到搭載高通芯片的智能手機可以與TCL雷鳥的智能眼鏡連接，AI眼鏡會根據(jù)眼前的健身器械來給用戶推薦具體的健身方式，AI提供的建議和回復(fù)都是個性化的。
此外，在汽車領(lǐng)域，高通驍龍數(shù)字底盤已經(jīng)使用端側(cè)AI來增強汽車安全和駕駛體驗，而對于工業(yè)物聯(lián)網(wǎng)和企業(yè)應(yīng)用，高通推出了AI本地設(shè)備解決案和AI推理套件，增強隱私性、可控性，提高能效并降低時延?？梢钥吹?，從手機、PC、汽車到工業(yè)物聯(lián)網(wǎng)及網(wǎng)絡(luò)，終端和邊緣側(cè)AI推理正在快速落地、智能體等AI應(yīng)用快速普應(yīng)用，AI正加速融入我們生活的方方面面。在后DeepSeek時代，高通端側(cè)AI技術(shù)和產(chǎn)品對智能終端行業(yè)賦能起著關(guān)鍵作用。
04.結(jié)語：端側(cè)AI激變，高通已跑在前面
在端側(cè)AI高速發(fā)展的今天，高通的高能效芯片、AI軟件棧和各類開發(fā)層面的技術(shù)支持，都讓高通成為端側(cè)AI變革中的領(lǐng)跑者，有其獨有優(yōu)勢。
從手機、PC、汽車到工業(yè)IoT，從CPU、GPU到NPU，從硬件軟件到生態(tài)，高通正用AI全家桶幫行業(yè)武裝到牙齒。展望未來，AI在邊緣側(cè)和端側(cè)的爆發(fā)仍將繼續(xù)，各領(lǐng)域與AI的融合必將進一步加深，各類智能終端對芯片層的需求仍將繼續(xù)提高，高通端側(cè)AI無疑將成為智能終端行業(yè)變革的關(guān)鍵技術(shù)底座。
（本文系網(wǎng)易新聞?網(wǎng)易號特色內(nèi)容激勵計劃簽約賬號【智東西】原創(chuàng)內(nèi)容，未經(jīng)賬號授權(quán)，禁止隨意轉(zhuǎn)載。）
