芯東西(公眾號:aichip001)
作者 | ?ZeR0
編輯 | ?漠影

芯東西3月29日報道,AI PC到底能干啥?跟傳統PC差別有多大?跑大模型真的能重塑PC體驗嗎?這些問題從去年AI PC概念誕生起一直被問到現在,就在本周二,全球最大PC處理器供應商英特爾,拉著智譜AI、百川智能、星環科技、面壁智能、中科創達、無問芯穹等國內AIGC獨立軟件開發商(ISV)們,集中展示了商用AI PC的新應用和新功能。

現場,英特爾與超過35家ISV和10家OEM合作伙伴展出了各種PC版本AIGC工具的花式用法。在斷網狀態下,一個筆記本電腦就能運行AI聊天回答、智能生成PPT、AI文生圖、會議總結、視頻總結及問答等常見的辦公和創作應用。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗▲無問芯穹研發的端側專屬Agent在英特爾AI PC上完成文件操作

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

▲面壁智能演示基于MiniCPM-V多模態模型的圖片理解和問答

其中一些功能相當戳中人心,比如你忘記了具體文件名,輸入一些偏模糊的描述,如“打開昨天沒看完的研究案例文件”,AI工具能準確找到對應文件;再比如操作Excel表格,不用記住復雜的各種函數和指令,只要文字描述你的要求,AI助手就會告訴你怎么完成相應的操作。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗▲歐菲思研發的Office擴展工具Kutools AI演示

國內AI繪畫社區愛好者開發的一款免費AI繪畫啟動軟件繪事啟動器,已支持用酷睿Ultra核顯進行AI繪畫創作,打開開源Stable Diffusion WebUI項目本地運行ControlNet,過程很流暢。

可以看到,在芯片企業與ISV廠商、模型廠商、系統廠商的合力下,AI PC生態正逐漸變得豐富起來。

英特爾客戶端事業部副總裁、細分市場部總經理馮大為宣布,全球有近100款商用筆記本產品會陸續上市,包括90多款基于酷睿Ultra處理器的vPro平臺商用PC以及10多款工作站設計,其中有超過30款同時滿足vPro和Evo的要求。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

英特爾酷睿Ultra處理器還把AI計算能力帶進了掌機游戲,為掌機跑大語言模型打好算力基礎,并與騰訊合作在英特爾平臺上做了編解碼優化,以提供極低延遲的串流體驗。通過局域網或公網,玩家就能將游戲電腦或游戲主機中的頂級3A游戲無縫串流到掌機。

會后,英特爾客戶端事業部副總裁兼細分市場部總經理馮大為、英特爾中國區技術部總經理高宇、智譜AI首席運營官張帆、星環科技副總裁楊一帆、當虹科技CTO黃進接受芯東西等媒體的采訪,進一步分享AI PC的商用進展和未來構想,解答把大模型塞進PC所面臨的技術挑戰。

一、AI PC能干啥?六大創新玩法,滿足辦公娛樂需求,還能提效電腦管理

在中國,英特爾聯手生態伙伴面向AI PC領域打造創新解決方案,率先錨定了六大關鍵應用——AI Chatbot、AI PC助理、AI Office助手、AI本地知識庫、AI多媒體處理、AI PC管理這些應用均能在離線環境下本地運行。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

1、AI PC助理:簡化PC操作,智能管理PC上的數據和個人文檔,可根據用戶指令自動操作電腦,能做到一次性接受復雜的多指令并執行。

國內AI大模型獨角獸智譜AI的首席運營官張帆進行現場演示:發語音要求智譜AI PC智能助手“把電腦靜音+切換至最佳性能模式+打開昨天沒看完的研究案例文件”,智能助手隨即一氣呵成地完成這一連串任務。整個操作過程自然流暢。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

注意前面并沒有指明文件名,智能助手能根據關鍵詞描述,準確找到對應的文件。這個搜索功能如果能做好,對快速查找文件非常有幫助,因為很多人都會碰到一時想不起來文件名的情景。

打開文件后,你還可以進一步要求它做文檔內容提煉、生成觀點等任務。文件批量重命名、自動寫郵件并發送等更是不在話下。智能助手能針對用戶的習慣進行優化,就像給用戶配備了一個隨時聽指示而且很懂你的個性化需求的貼身助理。

2、AI Office助手:以AI插件形式提高日常辦公中處理文檔、表格、幻燈片的工作效率。

歐菲思(Extend Office)開發了基于本地AI的Office擴展工具,除了自動回復郵件、在Word生成指定文案等相對常見的功能外,一個很有用的工具是針對Excel表格設計的,用戶只用提要求,比如“把XXX類別的金額都從美元轉換成人民幣”、“把XXX范圍內的單元格加密”,AI工具就能理解并執行復雜的指令,自動調用相應功能,甚至學習用戶的工作習慣。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

3、AI Chatbot:除了陪聊,還能對特定行業領域提供專業問答。

比如中科創達開發了經過大量專業法律案例訓練的法務智能助手,不僅能解答各種法律基礎問題,而且能對法律案例快速地進行分析、做出判斷并生成結論,而且跑在離線端非常安全,不會出現文件泄密的情況。

在展區,中科創達還演示了基于13B基礎大語言模型開發的魔方智能編程助手。現場講解人員告訴芯東西,PC版本的編程助手跟在線版本使用的是相同模型,通過量化技術塞進PC,并已針對英特爾芯片進行性能優化,能以離線服務方式提供代碼補全、代碼生成、技術問答等功能,支持C++、Java、Python等主流編程語言。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

4、AI本地知識庫:可將本地文件和資料轉化成一個運行在AI PC上的知識庫,進行快速文檔處理和知識檢索。

星環科技在現場展示了RAG產品無涯·問知,這是一個在AI PC本地運行的多模態向量數據庫,能夠針對不同格式,不限長度地將知識和文檔入庫,并提供準確的數據分析。

比如你可以上傳一個幾十頁的文檔,然后向它提問。通過RAG技術對文檔進行切分、存儲、本地化檢索,它能給出非常精準的答案,還能生成配套的圖譜。無涯·問知支持文本檢索、圖像查詢、視頻總結和摘要等功能。星環科技副總裁楊一帆預告這款產品將在4月份上線。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

5、AI多媒體處理能力:輸入提示詞即可生成多媒體內容,并進行靈活的后期處理。

例如,當虹科技推出了一個在AI PC上本地運行的視頻慢動作解決方案,任何機位、任何片段,上傳后均可通過用AIGC插入更多視頻幀的方式生成流暢、高質量的慢動作,滿足專業級后期制作需求。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

對于普通人來說,這個工具也能用到很多有趣的場景,比如用來生成變魔術的慢動作,逐幀分解查找魔術師的手法漏洞。

“有了英特爾AI PC的配合,原來我們只在專業服務器和大型工作站才具備的能力,現在可以普惠給普通的UGC、PGC用戶,可以使得更多2C的用戶可以享受到相應的技術。”當虹科技CTO黃進分享說。

6、AI PC管理:幫助企業智能高效地管理設備資產,增強安全性。

很多軟件商正在發力這個賽道,比如火絨安全用AI做威脅檢測,降低CPU利用率,避免系統卡頓;貝銳向日葵將酷睿Ultra的NPU與OCR技術結合,遠程控制圖像識別與分析,生成遠程控制工作的回溯報告;VMware集成端側AI算法來做安全漏洞管理。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

英特爾AI PC解鎖AI應用的初衷是打通行業落地“最后一英里”,其創新應用方案主要覆蓋了6個垂直行業,包括教育、醫療、康復養老、政務、零售(2D數字人)、制造

2D數字人為例,以前做數字人需要用到專業設備,現在用一臺AI PC,只需上傳一段簡單的視頻、讀一段話,在大模型和RAG的加持下,就能創造個人專屬分身。

再比如在教育領域,用AI大幅提升教師備課效率,自動生成教學大綱,基于視頻生成知識圖譜和解答問題,針對編程教育提供代碼糾錯等輔助功能,實現優質教育資源共享。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗▲華東師范大學教育大模型一體機演示

醫療領域,英矽智能將AI藥物研發平臺PandaOmics適配到AI PC上,結合AI PC本地算力和平臺自身的科研數據庫、AI算法、大語言模型及多層次安全機制的保護,為用戶構造一個既能保護用戶又能平穩運行的一體化方案。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

面向康復養老,騰宇智遠和英特爾開展深度合作,打造在AI PC上運行的跌倒風險評估與康復產品,可通過智能運動分析技術實時評估老人健康,并進行康復指導。該產品支持平衡能力評估、中醫健身功八段錦的智能指導,現處于小范圍用戶測試階段,將于下半年推向市場。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

面向政務領域,實在智能把大模型引入AI PC,讓它代替人去思考和推理,自動生成代碼,調用RPA(機器人流程自動化)的能力去自動拆解并完成任務,同時通過本地化兼顧到隱私問題。

面向制造領域,科東軟件研發了工業AI機器人,用大模型將用戶的指令轉換成機器人的運動命令,能同時處理復雜的AI任務和高要求的實時運動控制任務,并保障了在嚴苛工業環境下的系統穩定性和可靠性。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

二、解讀AI PC八大靈魂問題:從定義、硬件配置到商用挑戰

從概念誕生至今,AI PC的發展只有短短數月,還處于早期發展階段。英特爾與多家ISV代表企業的高管圍繞AI PC的定義、算力需求、芯片分工、硬件配置、合作方式、商用盈利、落地挑戰、發展方向等問題與芯東西等媒體進行交流。

1、怎么定義AI PC?

英特爾中國區技術部高宇總結說,將要推出的商用AI PC有三大特點:1)生產力性能大幅提升;2)可管理性增強;3)內置強大的GPU而NPU,AI性能跨越式提升。

在聯想集團副總裁、中國區首席市場官王傳東看來,AI PC應具備強大的混合算力、安全和存儲能力。戴爾科技集團全球副總裁、大中華區商用市場部總經理石峰認為,要讓AI PC真正幫助客戶提高工作效率,首先應該運行在一個可靠、安全、先進的技術平臺上。

2、AI PC需要多大算力?

英特爾客戶端事業部副總裁、細分市場部總經理馮大為回顧道,過去一年與全球ISV開發者溝通時,很多人對“英特爾未來PC客戶端的AI算力到底會有多少”的問題非常感興趣。

“我們就反問他們,你們需要多少?他們說你有多少我就能用多少,因為我們有很多的模型,我會把模型更多部署在工地,降低用戶成本,提高用戶體驗,并且幫助用戶保護數據的隱私和安全。”馮大為說。

智譜AI首席運營官張帆和星環科技副總裁楊一帆都強調“算力需求永無上限”,硬件能力是客觀條件,應回歸到如何盡可能將端側算力發揮到極致,來為用戶提供更好的體驗,然后與云側做無縫結合,讓用戶在保障高可用、穩定性的同時享受更高性能、更便捷安全的環境。

馮大為補充了功耗管理的重要性,不能因為狂堆算力把電池續航從15個小時縮短到1.5小時,這需要一個平衡的平臺設計。

3、CPU、GPU、NPU如何分工?

馮大為堅信AI要完成對計算的重構,僅有CPU、GPU是不完整的,CPU通用性強、GPU吞吐能力強,這兩個計算單元完成任務的功耗都很高,而NPU的特性是節能。

他還拿游戲舉例,很多用戶邊玩游戲邊聽直播,NPU本身對游戲性能的提升沒有直接貢獻,但它通過把一部分功能卸載,讓GPU和CPU釋放出來,間接讓游戲性能提升30%。

高宇補充說,NPU特別適合做計算機視覺類應用,比如捕捉骨骼點,另外一些持續性的、后臺性的、對功耗敏感的任務跑在NPU上收益最多;但大語言模型更適合跑在GPU上,因為吞吐量高,處理速度快。

4、AI PC對硬件配置會有什么需求?

高宇提到幾個基本要素:1)CPU整體散熱能力增強,因為在AI峰值運算時,GPU功耗沖得高;2)內存速度要快,因為大語言模型的下一個token生成速度與內存帶寬成正相關,內存速度越快,吐字速度速度越快;3)未來可能出現容量更大的內存配置;4)SSD容量越大,吞吐約稿,跑大模型的用戶體驗就會越好。

5、如何滿足不同行業對AI的差異化需求?

以智譜AI與芯片企業英特爾的合作為例,張帆解釋說,雙方會針對芯片把模型優化到極致,讓其發揮出最大算力價值。智譜AI展示的AI PC智能助手是一個最佳實踐,不是一個完整的終端產品,也不會由智譜對外推出。

他坦言目前還沒有成熟的盈利模式,后續需繼續探索一個用戶體驗、用戶價值和盈利的平衡點。

6、PC版AIGC軟件以什么形式落地?

高宇說,當前AI PC處于早期階段,產業演化不到半年,未來商業模式有待全行業探索。OEM PC預裝捆綁會是一種模式,也應該是早期一種較快的方式,但不會是唯一路徑,未來一定會出現客戶在應用商店或網站里通過個人付費自主下載AI PC應用軟件的情景。他預估兩三年后,自主下載的方式會越來越多。

7、AIGC產品商業化落地面臨哪些挑戰?

當虹科技CTO黃進認為AIGC最大的瓶頸是成本,ChatGPT每天在云上燒錢近百萬,對很多中小企業來說是沉重負擔。AI PC帶來一種可能賺錢的商業模式,把基礎功能放到AI PC上運行,把高價值的應用放到云上運行,這樣就能通過高價值用戶去覆蓋云上的運營成本,刺激很多AI公司做應用創新,也使得更多用戶先在AI PC上試用,再到云上使用更高級的功能。

張帆堅信商業價值的前提是用戶價值,過去6個月,智譜的付費API每日消耗漲了30多倍,在成百上千個應用中用大模型產生價值,現在要做的是如何把一部分能力從云側下沉到端側,覆蓋更多場景,已經得到不錯收入的WPS AI就是一個典型例子。

楊一帆從To B的角度來看,發現AI PC下沉過程中有兩大難點:一是在AI PC的有限算力上提供什么,二是在AI PC上如何不斷提供殺手級應用,讓大模型真正能夠帶來實際增值。

8、未來AI PC怎么發展?

張帆判斷AI PC未來發展要經過從專項助理、全能助理到更加自主的智能伙伴的進階。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

黃進很看好AI PC的升級需求,認為AI PC快速帶動整個AIGC生態終端成本降低,比以前要花五年甚至更長時間去消化一個生態快多了,可能只要花兩年時間就能走完原來要走五年的路。

三、酷睿Ultra+vPro平臺:開啟商業AI PC元年

“酷睿Ultra處理器是我們40年來架構上的最大變革,極大降低了功耗,提高了性能,也開啟了AI PC時代。”馮大為說,基于酷睿Ultra和vPro平臺,能夠為商業用戶提高生產力、可管理性、安全性、穩定性,并助力全面節能減排,提高可持續性。

總體而言,AI應用對端側設備本地算力提出了前所未有的需求,需要更強的CPU和GPU,還要重構整個計算機架構,引入高性能和低功耗的推理引擎,以滿足終端用戶對更長待機的需求。

從企業IT角度,系統的安全性和可管理性需求不斷提高。而每個PC終端的安全性都與企業的信息安全息息相關,提高PC終端的可管理性有助于提高企業生產力,同時環保要求從產品的全生命周期來嚴格把控節能減排,降低污染。

在硬件設計上,英特爾酷睿Ultra處理器通過CPU+GPU+NPU三大引擎來有的放矢,其架構更新體現在三個方面:

1)低功耗管理:首次引入2顆低功耗核心,加上Intel 4制程的提高,極大提升了能效。

2)顯卡:首次集成獨顯架構,性能達到前代產品的2倍。內置的Arc顯卡已經達到移動工作站的性能需求,英特爾第一次在內置顯卡深提供了PRO級別的ISV軟件認證。

3)NPU:提高AI推理性能,降低功耗。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

與三年前的PC相比,酷睿Ultra性能提升最高可達47%,在運行視頻會議時功耗可降低36%,在運行視頻編輯應用時AI性能可以達到上一代產品的2.2倍,在3D渲染評分上性能可達到上一代產品的12倍,在運行Adobe光線追蹤時通過軟硬件優化能將性能提高到上一代產品的8倍。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

基于酷睿Ultra處理器有兩類平臺產品,一類是優化個人用戶體驗的Evo平臺,另一類是針對企業級需求優化的vPro平臺。馮大為說,基于酷睿Ultra和vPro平臺開啟了商業用戶的AI PC元年。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

vPro平臺集成了硬件、軟件和系統級部件,注重生產力、穩定性、安全性、可管理性四大特性。

高宇和黃進都談道,面向消費者和面向商用的產品測試流程、軟件設計等都會有所不同。張帆和楊一帆則強調穩定性的差別,商業信任比個人信任建立周期會更長,今天推出的產品都要經過充分的測試和試水,才敢放到ToB市場上擴張。

在可管理性上,通過系統的遠程支持,vPro平臺最高可減少90%的硬件現場技術支持需求;對于IT人員每天都要處理的服務單量,最高可以降低40%,加快硬件和軟件問題解決的速度。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

英特爾還在這一代產品上專門提供了Windows 10的支持,并長期保持在99.7%的應用級軟件兼容性,這就能保證企業正常運轉各種專有軟件。

通過全生命周期的管理優化,vPro平臺在可持續性的表現上也非常突出。基于vPro的系統級產品有94%都通過了EPEAT電子產品環境影響評估工具的銀牌,71%獲得了金牌認證按照。每使用一次vPro的遠程支持功能,無需派遣技術人員上門服務,所避免的碳排放量相當于這臺PC兩年使用的碳排放量總量。

在可持續性方面,英特爾不斷提出新的技術和特性,比如其平臺服務記錄幫助IT管理人員了解PC過去使用歷史,充分利用它的聲譽價值。

結語:AI PC應用爆發進行時,加速AI落地千行百業

英特爾公司高級副總裁、英特爾中國區董事長王銳談道,英特爾在AI轉型的歷史性時代,可以為大家帶來一塊無限的帆布,英特爾搭臺,在以AI PC為代表的基礎設施的架構上,聯手生態伙伴一起展示創新的AIGC應用。

在英特爾公司市場營銷集團副總裁、中國區云&行業解決方案部梁雅莉看來,生成式AI技術顛覆了所有傳統的業務模式,重塑了商業效率和創新價值鏈,并驅動了未來計算,AIGC也會以一個高效、低成本、高質量的方式為各行各業提供新的內容生產方式和創新路徑,推動智能技術和千行百業以及多元化業務場景的深度融合。

她相信AI作為新質生產力,未來會成為所有企業創新的原動力和新動力。企業在開發新產品、做創新業務的過程中會從源頭開始,從研發、設計、生產、運營到市場,將AI原生能力貫穿于整個業務應用的生命周期中,驅動業務重構。

英特爾給商用AI PC打了個樣!展出數十款國產AIGC應用,六大玩法改造電腦體驗

英特爾與合作伙伴此次圍繞AI PC的集中展示只是“開胃菜”,更多創新應用正在緊密開發中。

為了激勵全行業對AI PC開發的熱情,英特爾還特別舉辦了“英特爾人工智能創新應用大賽”,迄今共收到2120個團隊的報名,其中30%來自高校大學生,共收到1083件AI應用作品,至少有4500名工程師參加了線上直播培訓,產生超過10萬次互動,現在賽程已進入半決賽,共有54個人團體和26個企業團隊成功晉級。

同時,英特爾也在教育行業和各大高校進行持久合作,推動產學研融合的AI專業人才培養計劃。梁雅莉希望與業界合作伙伴一起打造更包容開放的生態,全棧加速AIGC應用,為千行百業數字化轉型提供源源不斷的新動力。