智東西(公眾號:zhidxcom)
作者 | 云鵬
編輯 | 漠影
智東西9月25日消息,今天凌晨,高通三芯齊發,亮出了其面向手機、PC領域的重磅旗艦芯片,縱觀這些產品,性能和能效的大幅提升、AI能力的顯著改善是共同特點。
智東西在發布會前夕與高通產品市場高級總監馬曉民、高通高級副總裁兼手機業務總經理Chris Patrick進行了面對面深入交流,重點對高通在手機芯片端側AI領域的思考和AI升級背后的關鍵技術點進行了深入探討。
今天,模型越來越復雜、模型的多模態趨勢越來越明顯,同時模型迭代速度也非常快,這些變化給手機端側AI芯片帶來了哪些挑戰、高通又是如何應對的?
對此Patrick談道,如今模型技術和模型類別不斷迭代變化,高通在AI方面研究了20多年,長期跟學界保持密切聯系,緊跟最新技術趨勢。高通每一代的NPU都會面向未來的模型和AI技術去設計、去更好的適應。
與此同時,高通希望實現的是分布式的AI,各類智能設備都能基于驍龍平臺廣泛的使用AI能力。高通自己的AI引擎包括不同組成部分,異構計算的架構模式可以滿足不同的需求,合作伙伴可以自由選擇利用哪些模塊的AI能力去加速自身的AI應用。
應對AI的快速變化,手機芯片圈的各路玩家都在積極調整,比如蘋果在GPU里塞神經網絡處理器、Arm給CPU加入SME2技術,高通和聯發科的芯片迭代也圍繞AI。
對于業內圍繞AI做出的改變,馬曉民談道,近年手機端側AI呈現出一些大的變化趨勢,比如從過去單一的大語言模型到如今更多的多模態大模型,而不論是模型的變化還是芯片內部模塊的變化,對于端側AI體驗來說,圍繞的核心點都是相同的:
第一,生成tokens的速度要高,輸出夠快,體驗才能更好;
第二,保證功耗足夠低,讓AI功能可以常用而不會影響整機體驗;
第三,保證足夠的安全,實現個人數據的完全端側處理;
第四,內存開銷要足夠小,保證成本是可控的;
第五,要足夠準確,AI提供的幫助、AI生成的內容要足夠準確、真正具有很強的可用性,才能讓用戶形成使用習慣;
歸根結底,所有技術的升級都是為了AI體驗更快、更省、更安全。
今年各家芯片廠商都比較重視芯片端側AI能力的提升,但時至今日,手機端側AI,尤其是對于大火的AI智能體,普通消費者似乎并沒有真正廣泛的用起來,豆包、ChatGPT、Gemini這些云端模型和應用仍然占據主流。
對此Patrick提到,實際上在AI體驗方面,消費者的期待是越來越高的,從過去生成一張簡單的圖像到現在要求畫質更高、速度更快。
云端有云端的優勢,新的推理模型往往會率先應用在云側,但需要注意的是,模型在規模和質量的優化進展上是非常快的,今天很多小模型都有很好的效果,模型量化技術上取得很大進展,MoE模型模式也取得很大進展。
未來,AI更多是一種混合模式,邊緣小模型做快速響應,云端大模型處理復雜任務,而高通今年的重點就是讓邊緣側設備可以更好的使用這些模型。邊緣側的優勢在于有大量可以即時獲取的端側數據,AI可以更好地規劃日程安排、更好地通過語境做出判斷提供主動服務。
在馬曉民看來,在智能體AI方面,大多數消費者更希望看到私人化AI助理這樣的AI應用,而不是簡單的AI生圖、生文。AI可以學習手機數據,提供更主動的AI服務,提供低功耗的“Always on”體驗,這是更重要的。
結語:端側AI迭代提速,高通一手用戶需求一面緊跟技術趨勢
可以看到,在芯片較為出色的端側AI能力提升背后,高通對端側AI的發展有著清晰的認知和規劃。一方面,用戶到底在手機上需要什么樣的AI體驗,從用戶需求出發去尋找解決方案;另一方面,在日新月異的AI技術迭代中,高通必須時刻緊跟最新技術,保證AI能力的擴展是靈活、AI技術是前沿的。
今天,所有手機芯片玩家可以說都呈現出“All in AI”的架勢,AI在手機性能、影像、通信、游戲等各個方面的融合愈發深入。AI手機之戰正來到比拼體驗的階段,而手機芯片無疑是底層最核心的技術支撐。