智東西(公眾號:zhidxcom)
作者 | ZeR0
編輯 | 漠影

國產AI芯片正處于重要的歷史機遇窗口。

今年的模型創新仿佛踩上風火輪,開源模型密集發布更新,進一步引爆推理需求增長。AI推理芯片將在接下來的AI產業發展進程中扮演更加重要的角色。

在世界人工智能大會期間,云天勵飛公布全面聚焦AI芯片的最新戰略,并披露最新AI芯片全產品矩陣及未來三年商用路線圖,計劃到2028年將單芯片算力最高擴展至數千TOPS

憑借創新的“算力積木”架構,云天勵飛AI芯片能實現7B、14B、130B、671B等不同參數量大模型的高效推理,適配DeepSeek-R1系列模型、阿里QwQ-32B模型及國產鴻蒙操作系統。云天勵飛CTO李愛軍告訴智東西,包括DeepSeek、Qwen模型在內,云天勵飛AI芯片與主流開源模型均已完成適配。

特別的是,云天勵飛打造的是“純血版國產工藝AI芯片”,而且實現端邊云“三棲”落地,應用場景小到嵌入式硬件,中到邊緣計算與具身智能,大到萬億參數大模型。

云天勵飛宣布全面聚焦AI推理芯片!要支撐萬億參數大模型

在具身智能領域,云天勵飛已與十余家機器人廠商建立合作關系,邊緣芯片產品應用于服務型機器人已進入實際部署階段。該公司還作為創始股東之一,參與投資了深圳國創具身智能機器人有限公司,探索AI推理芯片在具身智能等未來前沿方向的應用和落地。

值此時機,云天勵飛為何全面聚焦AI芯片?又如何在日趨激烈的AI芯片競賽突出重圍?云天勵飛董事長兼CEO陳寧博士、云天勵飛CTO李愛軍與智東西進行了深入交流。

一、風起大模型,解讀AI推理風向與歷史性機遇

云天勵飛董事長兼CEO陳寧博士談道,2030年是全球公認的AGI(通用人工智能)可能實現重大突破的一個轉折時間點。

2025年上半年,AI應用落地提速,Agent成本的降低將帶來應用普惠,隨著AI應用無處不在,全球AI將從訓練時代進入以應用驅動為核心的推理時代。

過去十多年,AI領域經歷了以訓練為核心的GPU時代——通過訓練大規模模型獲取基礎能力,類似于電力時代的“發電”,注重大規模生產算力。

而AI推理芯片的關鍵在于“用電”,即在終端及云邊端以低成本、高效率完成推理運算,更關注成本效率及規模化應用,不像訓練芯片那樣依賴CUDA。

在此背景下,AI推理芯片的重要性逐漸上升,成為推動AI技術應用落地及與商業化的核心驅動力。

陳寧認為,AI推理芯片不僅在推理效率、能效方面具有重大優勢,它們還將作為智能硬件、機器人、智能設備等終端產品的“引擎”,成為AI產業大規模應用的核心基礎

AI推理芯片是中國搶占第四次工業革命的一張關鍵入場券。隨著2030年AGI(通用人工智能)突破的潛在臨近,AI推理芯片能否實現成本、性能和生態的突破,決定了中國能否在新一輪技術浪潮中占據主動。

未來五年,從可穿戴設備、AI原生硬件、智能終端到算力設備,AI將重塑所有電子設備,推理算力網絡將無處不在,推動推理芯片市場迎來爆發。

在國外先進算力幾乎完全禁售的背景下,這將帶給國產全自主可控AI推理算力巨大市場機會。

經過10年積累,云天勵飛在AI推理芯片技術研發和市場應用上的布局逐漸成熟,選擇在2025年全面聚焦AI推理芯片,抓住這一歷史性機遇。

二、圍繞AI芯片沉淀四大業務板塊,端邊云支撐高性價比大模型推理

到2028年,云天勵飛計劃研發三代“算力積木”架構,布局三大商用計算平臺(深界、深擎、深穹),算力最高可擴展至數千TOPS。下一代芯片將基于第二代“算力積木”架構,通過新型計算、近存計算、NB-Mesh新型互連、新型封裝、NB-Link通用擴展性五大創新,打造新型大模型推理平臺。

· 深穹:大模型推理一體機

· 深界:邊緣網關、邊緣盒子

· 深擎:機器人/無人機/無人車

基于國產工藝及自研“算力積木”架構,其深界DeepEdge10平臺已適配DeepSeek、QwQ-32B模型及鴻蒙操作系統

云天勵飛的整體產品布局圍繞自研AI推理芯片展開,沉淀出4大業務板塊,布局端邊云,聯合生態合作伙伴推出覆蓋從模組、邊緣推理盒子、AI推理加速卡、大模型推理一體機、智算服務器等產品。

云天勵飛宣布全面聚焦AI推理芯片!要支撐萬億參數大模型

其產品已廣泛應用于智算中心、智慧城市、具身智能機器人等領域。

2024年6月,云天勵飛簽署《AI算力運營合作框架協議》,拿到16億元的算力服務大單,提供總算力規模約4000PFLOPS的AI訓練及推理異構算力服務。

面向具身智能和機器人領域,云天勵飛戰略投資閃極科技、智慧互通、臻識科技、神州云海、國創具身機器人等,為AI推理芯片的應用開辟了更多元化的場景。

未來云天勵飛AI推理芯片計劃重點面向三大市場:邊緣計算、云端大模型推理、智能機器

在市場拓展方面,云天勵飛獲得16億元算力服務大單,顯示了其產品在部分關鍵領域的商業認可度。

三、靠芯片拿到創業“第一桶金”,云天勵飛做AI芯片的基因與優勢

身為一家AI公司,云天勵飛為什么要自研AI推理芯片?答案是通過深入匹配特定應用場景,自研AI芯片一旦形成規模化,就能帶來更好的成本效益。

據陳寧分享,云天勵飛核心創始團隊具備深厚的NPU芯片設計經驗,最早從2009年開始參與神經網絡處理器相關設計。

該公司的第一筆融資,也來源于芯片。

2014年,云天勵飛剛成立時,初心是通過NPU降低AI計算成本,當時還用NPU課題申報了政府的人才引進項目,還拿下第一,得到研發資金支持。

可以說,芯片,正是云天勵飛初期獲得投資的關鍵

云天勵飛在2015年啟動第一代深度學習處理器的研發,2018年-2019年第二代AI芯片DeepEye1000流片成功,并且在之后幾年中,云天勵飛AI芯片相繼并下國家發改委、科技部、工信部重大專項的“大滿貫”,結合自身技術積累及市場需求,逐步發展成集芯片設計、軟硬件集成和應用落地于一體的企業。

2020年5月,因被列入美國實體清單,云天勵飛不得做出戰略調整,堅定轉向國產工藝路線。

面對國產工藝尚不成熟的挑戰,它首創“算力積木”架構,并敲定國產先進工藝的合作,成為首家采用國產Chiplet工藝的AI芯片,自此踏上用國產工藝設計商用AI芯片的新階段。“算力積木”架構通過模塊化設計解決單芯片面積與良率的矛盾,以實現算力的可擴展性和商業化應用。

自2020年決定轉向國產工藝后,云天勵飛不僅克服了當時國產工藝的不成熟問題,還通過技術創新實現了算力積木架構的突破。通過自主研發的算力架構和互連技術,云天勵飛在推理芯片領域取得了顯著的技術進展,并將其成功轉化為實際的產品。

此后兩年多時間,云天勵飛斬獲第十屆吳文俊人工智能專項獎芯片項目一等獎,發布大模型邊緣推理一體芯片深界DeepEdge10,全面入局大模型推理。

這兩年來,云天勵飛相繼推出AI推理芯片深界DeepEdge200、大模型推理加速卡深穹6000及深穹X6000 Mesh加速卡,其DeepSeek一體機解決方案在深圳龍崗、南山、湛江等城市落地。

結合算力架構演進趨勢,云天勵飛在過去10年研發了5代NPU,技術路徑貫穿從小規模CNN算法到面向大規模預訓練模型的異構計算需求。這些在智能硬件、智算中心、智慧城市等領域積累的know-how和經驗,為其芯片設計和持續迭代提供了明確指導,形成了算法-芯片-應用的“數據飛輪”閉環,推動AI和芯片技術持續迭代。

云天勵飛宣布全面聚焦AI推理芯片!要支撐萬億參數大模型

“算法芯片化”一直是云天勵飛的核心技術策略,將不斷進化的AI算法映射至芯片架構,確保算法與硬件高度契合。基于技術與應用雙輪驅動,云天勵飛旨在提升AI推理芯片在性能、成本、功耗及生態兼容等方面的綜合競爭力,堅持“算法芯片化”技術策略。

通過與生態伙伴緊密合作,云天勵飛進一步加強了產品的市場適配,尤其是在具身智能和邊緣計算領域,確保其AI推理芯片能夠在不同應用環境中發揮最佳性能。

結語:AI推理芯片未來,看中國

AI芯片是智能硬件和算力網絡的核心,AI推理芯片的需求已進入加速期,國產AI芯片正面臨前所未有的機遇。而中國作為全球AI產業重要一環,必須在這一浪潮中抓住核心技術機遇。

云天勵飛通過“算力積木”架構和國產工藝的創新,以及持續的產業積累,提供高效、低成本的AI推理芯片產品,逐步打破技術和工程壁壘,滿足大模型推理的廣泛需求。

隨著AI推理需求的爆發和國產生態的不斷完善,AI推理芯片的全球競爭預計將更加激烈。國產AI芯片的發展不僅依賴于技術突破,更需產業鏈上下游的協同配合。

面對技術突破及生態構建挑戰,云天勵飛的戰略聚焦將不僅限于技術創新,還要通過推動推理芯片標準化,為國產芯片在全球市場的布局鋪平道路。