智東西(公眾號:zhidxcom)
作者 | 云鵬
編輯 | 漠影

DeepSeek的出現可以說引爆了整個科技產業,在科技賽道的各個領域掀起波瀾。

成本更低、性能更高、規模更小,“不可能三角”被徹底打破。這樣的表現可以說顛覆了AI大模型行業的傳統認知。隨之而來的,是各行各業迅速接入DeepSeek,由DeepSeek蒸餾而來的各類小模型也開始在端側設備中廣泛落地。

Meta首席AI科學家楊立昆就提到過,蒸餾技術可以讓模型快速應用到產品中,這也是開源的優勢所在,每個人都能從技術進步中獲益。

模型訓練成本不斷下降、邊緣AI推理變得越來越普遍,單純以比拼模型規模為核心的競爭已經成為過去式,根據權威市研機構Epoch AI數據,2024年AI大模型中75%以上規模都在千億參數以下。

從手機PC到汽車AIoT,DeepSeek卷爆端側AI

▲每年發布的大規模AI模型數量(按參數量分類),來源:Epoch AI,2025年1月

如今行業聚焦的是如何在邊緣和端側高效地落地AI、如何在實際的生產中去部署AI,進而帶來實質性的效益提升。高質量的小規模模型愈發受到熱捧。

與此同時,端側AI的加速發展,也帶動著相關芯片的規模化擴展,芯片需求顯著增長。端側AI低時延、高實時性、高隱私性、高安全性,可以更好地實現本地個性化AI體驗的諸多優勢特性都愈發凸顯。

在這樣的產業背景下,移動芯片巨頭高通公司儼然已成為加速端側AI發展的核心推手,從硬件、軟件到生態,高通技術生態版圖正加速擴展。

高通是行業內最早一批聚焦端側AI、強調端側AI重要性的廠商,其很早就提出了混合AI架構。近期,作為端側AI核心玩家的高通發布了最新AI白皮書,深入分析了AI大模型的激增和演進如何給AI格局帶來改變并釋放新的價值。

與此同時,高通在今年的MWC上亮出一系列端側AI相關產品,與榮耀、小米、OPPO等國內頭部手機廠商合作展示了不少亮眼的端側AI技術和AI智能體新應用。

從手機PC到汽車AIoT,DeepSeek卷爆端側AI

▲高通MWC展臺

可以說,隨著高通AI產品技術生態在手機、PC、汽車、工業IoT、網絡等終端和邊緣加速賦能、廣泛落地,高通已成為后DeepSeek時代AI產業的核心變量。

一、“小模型”爆發大能量,智能硬件端側AI或迎井噴

今天,在AI技術快速迭代發展之下,AI產業格局正迎來轉變。AI模型的訓練方式正在發生顛覆性變革,大規模推理浪潮來勢洶洶,新的邊緣側推理計算創新和升級周期已經到來。

基于蒸餾和一系列優化技術而生的更小型、更高效的模型正在快速落地行業,并加速在終端側的規模化集成。

從手機、PC、智能穿戴、智能家居到汽車,端側和邊緣運行的AI模型在質量、性能和效率方面都有顯著提升。

終端側可以運行越來越多高質量的AI模型、高質量小語言模型和多模態推理模型數量激增,隨之而來的是越來越多AI應用和用例的涌現。

與此同時,AI也在重新定義終端的用戶界面,AI正在成為終端側新的UI。諸多手機、PC巨頭都已經發布AI OS相關技術,AI深度融入的操作系統成為終端行業的關鍵技術發展方向之一。

而實現這一切,加速端側AI落地,離不開底層一系列模型優化相關技術的支撐。

比如蒸餾(Distillation)技術能讓大模型“教學”小模型,在保持準確性的同時遷移知識,這也催生了諸多面向垂直行業特定領域調優的專用小模型。

基于這樣的技術,DeepSeek作為教師模型,已經幫助不少“學生”模型在性能表現上得到顯著提升。

此外,量化、壓縮和剪枝等模型優化技術,同樣有助于縮小模型規模,尤其是有助于降低運行模型的功耗,算力、功耗的節省對于端側AI的發展可以說是關鍵因素之一。

得益于這些技術,小模型的實際表現已經逐漸接近前沿大模型。

比如使用DeepSeek蒸餾后的Qwen-7B模型,已經能夠在性能上與去年推出的GPT-4o云端模型持平,而蒸餾后的Llama 700億模型在推理、編程、數學、數據分析等多方面的表現都已經超越了原始模型。

從手機PC到汽車AIoT,DeepSeek卷爆端側AI

▲Meta Llama 700億參數模型和DeepSeek對應蒸餾模型的LiveBench AI基準測試平均結果對比

在一系列技術的加持下,大型基礎模型縮減為更小、更高效的版本,具備更快的推理速度、更少的內存占用和更低的功耗,這無疑顯著加速了AI模型在智能手機、PC和汽車等智能終端上的部署落地,大幅降低了設備的算力門檻。

二、提前押寶端側AI領跑行業,從硬件、軟件到生態全鏈路布局

在這樣的行業趨勢下,高通已經走到了端側AI落地核心推手的位置。從ChatGPT火爆之初,高通就已經開始重點聚焦端側AI,并在諸多產品和技術發布中強調端側AI的優勢。

近年,高通連續發布AI技術白皮書,其提出的混合AI架構點明了端云結合將是未來行業發展到主流趨勢,而端側AI是高通作為全球移動芯片技術生態巨頭所核心專注的領域。

如今DeepSeek的火爆,恰恰驗證了高通對AI發展的趨勢判斷,端側AI的未來已經十分明確。

從NPU的持續迭代、硬件和算法層面的創新到對大模型的深度優化適配,高通在端側AI領域有著長期深耕,其產品、技術和解決方案布局涵蓋了數十億臺智 能手機、汽車、XR頭顯和眼鏡、PC以及工業物聯網終端,這是高通的核心優勢所在。

從手機PC到汽車AIoT,DeepSeek卷爆端側AI

底層芯片方面,高通在CPU、NPU、GPU和低功耗子系統領域已經陸續發布了諸多產品,尤其在系統級芯片(SoC)產品領域有著扎實的基礎。

芯片的高性能、高能效、低功耗特性可以說是端側設備能夠高效處理復雜AI任務,同時兼顧續航、能效的根本保障。

打好硬件基礎后,高通進一步構建了AI軟件棧來賦能開發者,讓各類智能終端更高效地得到硬件加速,進而提升端側AI體驗。

簡單來說,高通AI軟件棧包括庫、SDK和優化工具,可簡化模型部署并提升性能、縮短AI應用開發的時間。

此外,高通還在與全球AI模型廠商積極合作、提供高通AI Hub等服務,推動終端側AI應用的開發和規模化擴展。在高通AI Hub上,開發者只需要簡單的三步就可以基于大模型開發AI應用并最終完成商業化部署。

最近,高通正式宣布IBM watsonx.governance和Granite LLM大語言模型可以在搭載驍龍8至尊版的終端以及搭載高通躍龍AI的本地設備上運行。同時高通Cloud AI系列推理加速器已通過OpenShift認證,支持IBM的軟件應用程序套件在高通Cloud AI平臺進行部署。

可以說,從硬件、軟件到生態,高通端側AI優勢凸顯,高通毫無疑問已經成為后DeepSeek AI推理時代的領跑者之一。

三、從手機、PC、汽車到工業IoT,高通端側AI生態無處不在

基于端側AI領域過硬的產品性能、完善的軟件生態,高通正在多個賽道賦能行業,與廠商一起實現用戶體驗的革新,進而釋放新的商業價值。

比如在PC領域,我們能看到基于驍龍X系列平臺的筆記本電腦產品支持了諸多Windows 11 AI+ PC新特性,生成式AI推理真正落地在了端側,實現了本地運行。

剪映、達芬奇、Zoom等各類流行三方應用都可以基于高通驍龍X平臺,本地化實現一些特定的AI功能。

在智能手機領域,三星、華碩、小米、OPPO、vivo和榮耀等頭部廠商的最新旗艦智能手機均搭載了最新驍龍旗艦移動芯片平臺。

就在最近火爆科技圈的世界移動通信大會(MWC)上,高通亮出了一系列端側AI新進展,這些產品和技術也令人感受到端側AI加速發展帶來的巨大變革潛力。

現場我們能看到多種先進多模態生成式模型和智能體AI在智能手機上原生運行,AI助手能在不同溝通模式間切換,并生成多模態輸出。

從手機PC到汽車AIoT,DeepSeek卷爆端側AI

▲AI助手多模態交互

與此同時,AI與系統的深度融合,也讓手機在通信、圖像編輯、個性化和無障礙方面有了進一步提升。比如高通最新發布的X85 5G調制解調器及射頻就內置搭載了第四代專用AI處理器,AI在信號增強方面作用顯著。

隨著AI與系統的融合加深,AI已逐漸成為智能設備新的UI,通過自然語言和基于圖像、視頻與手勢的交互,極大簡化了我們與智能設備交互、使用應用、享受服務的方式。

值得一提的是,在當下最為火爆的AI眼鏡領域,我們看到搭載高通芯片的智能手機可以與TCL雷鳥的智能眼鏡連接,AI眼鏡會根據眼前的健身器械來給用戶推薦具體的健身方式,AI提供的建議和回復都是個性化的。

從手機PC到汽車AIoT,DeepSeek卷爆端側AI

▲AI健身建議

此外,在汽車領域,高通驍龍數字底盤已經使用端側AI來增強汽車安全和駕駛體驗,而對于工業物聯網和企業應用,高通推出了AI本地設備解決案和AI推理套件,增強隱私性、可控性,提高能效并降低時延。

可以看到,從手機、PC、汽車到工業物聯網及網絡,終端和邊緣側AI推理正在快速落地、智能體等AI應用快速普應用,AI正加速融入我們生活的方方面面。在后DeepSeek時代,高通端側AI技術和產品對智能終端行業賦能起著關鍵作用。

結語:端側AI激變,高通已跑在前面

在端側AI高速發展的今天,高通的高能效芯片、AI軟件棧和各類開發層面的技術支持,都讓高通成為端側AI變革中的領跑者,有其獨有優勢。從手機、PC、汽車到工業IoT,從CPU、GPU到NPU,從硬件軟件到生態,高通正用AI全家桶幫行業武裝到牙齒。

展望未來,AI在邊緣側和端側的爆發仍將繼續,各領域與AI的融合必將進一步加深,各類智能終端對芯片層的需求仍將繼續提高,高通端側AI無疑將成為智能終端行業變革的關鍵技術底座。