智東西(公眾號:zhidxcom)
作者 | ZeR0
編輯 | 漠影
智東西8月15日報道,今日,在戴爾科技峰會(DTF)期間,戴爾科技正式發布專為AI推理設計的“掌上AI超算”Dell Pro Max with GB10。
這是Dell Pro Max全新產品線旗下的一款重要AI工作站新品,搭載NVIDIA GB10 Grace Blackwell 超級芯片,首次將數據中心級架構下放至桌面,專為AI開發者設計,在FP4精度下可提供高達1000TOPS的AI性能。
▲戴爾科技集團大中華區客戶端銷售系統工程總監喻智娟現場展示Dell Pro Max with GB10
傳統電腦通常應用于游戲開發、軟件開發、媒體制作、醫療、金融等行業,而Dell Pro Max with GB10聚焦于AI領域的研發和應用,專注滿足AI計算的需求,能無縫擴展至更大規模數據集或生產環境,大幅降低復雜項目的實現成本與難度,適用于AI原型研發、邊緣AI計算、數據科學、AI開發、大模型推理、教育等領域。
戴爾科技集團大中華區客戶端解決方案事業部工作站資深產品經理汪志軍在一場媒體溝通會上對這款新品進行了詳盡分享。
他打了個形象的比喻:Dell Pro Max with GB10就像一個裝修完畢、設備齊全的智能廚房,所有的硬件配置合理、軟件環境完整、開發框架預設完畢,連“菜單”——也就是常用的開發路徑、運行環境——都打包好了。用戶只需要把“食材”——數據、模型、算法——放進去,按流程調用,就能快速生成用戶的AI應用。無論是企業級的部署還是某個垂直行業的落地應用,都能高效啟動,并且具備很強的可擴展性與可持續性。
一、小到能塞進包里的掌上AI超算,單機能跑2000億參數模型
從外形來看,Dell Pro Max with GB10非常小巧,只有1.2升,類似于一本字典,小到能塞進包里。
這款AI設備是戴爾首次與NVIDIA在Grace Blackwell架構上的深度合作,基于NVIDIA Grace Blackwell 平臺,配備128GB LPDDR5x統一內存,通過 NVIDIA NVLink C2C 連接,CPU和GPU可共享訪問所有系統內存。相比之下,一個標準顯卡通常只有十幾GB的顯存。
Dell Pro Max with GB10單機最多能支持高效構建、優化和部署2000億參數的AI推理模型,微調最多可達700億參數的模型。
如果開發者希望進行模型開發、訓練或微調,這臺機器也具備足夠的精度能力,支持最高達700億參數級別的模型訓練任務。
通過NVIDIA ConnectX-7網絡連接技術和200G x 2 QSFP 接口,這臺機器可實現雙機高速互聯,組成一個更高性能的AI算力節點,內存擴展至256GB,支持最多4050億參數的模型,滿足大型AI模型的運行需求。
Dell Pro Max with GB10采用全金屬機身,配備了一款240瓦電源,并對散熱系統進行了優化設計,以確保設備能夠在高負載下保持穩定運行。
其硬盤提供2TB和4TB兩種容量,網絡接口還配備了常規的10Gb網絡接口,無線連接支持Wi-Fi 7和藍牙5.1,I/O接口包括多種Type-C接口。
二、預裝NVIDIA AI相關組件,涵蓋模型部署、調優、推理全流程
Dell Pro Max with GB10具備出色的軟件生態。
該產品出廠預裝了基于Ubuntu深度開發的DGX OS 7定制化操作系統,包含針對本機的優化配置、設定及額外驅動程序,同時集成了NVIDIA提供的豐富開發容器、套件及AI框架,實現硬件與軟件的深度適配,確保開發者在桌面、NVIDIA DGX Cloud平臺與戴爾數據中心之間遷移AI模型時無需修改代碼,提升工作連續性。
例如,預裝的NVIDIA DGX系統及AI Enterprise軟件套件,可幫助用戶實現開箱即用,支持快速部署,幾分鐘內即可投入實際開發與生產環境。提供的NVIDIA Blueprints等參考工作流工具,可加速生成式AI和代理式AI的開發效率,兼顧本地開發的隱私安全與成本優勢。
使用傳統AI開發主機時,用戶往往需要花費大量時間自行組裝硬件、安裝操作系統及配置各類軟件環境。而Dell Pro Max with GB10提供了高度集成的一體化平臺,大大降低了部署門檻,顯著提升了效率與易用性。
在AI應用方面,Dell Pro Max with GB10更多地支持輕量級的微調,或主要用于推理任務。
汪志軍解釋說,戴爾與很多AI軟件廠商都有合作,但不會要求設備出廠時就預裝某些特定的軟件,更傾向于通過認證和測試來確保兼容性和穩定性,更關注的是確保整體系統的穩定性。
三、既能用作獨立電腦,又能直連現有筆記本、工作站
Dell Pro Max with GB10可以直接連接現有筆記本、臺式機、工作站使用,作為一個用于AI開發與推理的算力盒。
有高數據安全要求、希望本地完成AI大模型推理的開發者,可通過將自己的電腦外接Dell Pro Max with GB10來實現本地高效運行AI模型的需求。
就像現在有些筆記本在GPU性能不足時外掛顯卡,Dell Pro Max with GB10也可以作為一個外接的AI算力模塊,為主機設備提供強大的AI推理性能支持。
Dell Pro Max with GB10也可以作為一臺獨立電腦來使用,能像普通PC一樣接上鍵盤、鼠標、顯示器。開發者可以將它用作開發主力機,學校機房也可以成批部署,用于AI 教學、日常開發、模型訓練、原型研究等。
此外,這臺機器還能作為“邊緣大腦”,在工業自動化、機器人、自動駕駛等領域的邊緣部署或嵌入工業設備、醫療設備等設備中,承擔邊緣AI計算任務。
在擴展性方面,Dell Pro Max with GB10是固定配置。
結語:商用PC中工作站需求增長,戴爾已為不同模型推理提供差異方案
汪志軍分享說,大模型廠商對硬件資源的需求正在轉變,從選擇數據中心級硬件轉向更加垂直、落地的應用場景與更符合私有化部署需求的領域,這些行業往往難以直接使用傳統的大模型來滿足需求,需要自主開發或與解決方案供應商合作,進行定制化部署,這時能部署在桌面端或邊緣終端的AI工作站成為理想選擇。
據IDC預測,到2030年,企業采購的商用PC中,每10臺就有1臺是工作站,市場份額將從5%增長至10%。
不同模型適用于不同工作站產品。例如對于FP4計算,參數規模在2000億以下的模型,Dell Pro Max with GB10適用于推理任務。當推理需求更高,比如參數規模達到4050億的模型,可通過兩個Dell Pro Max with GB10組合成一個方案來滿足其計算需求,實現高效推理。
Dell Pro Max with GB10提供三到五年的企業級售后支持。汪志軍談道,戴爾不僅是推出一款產品,更是在構建一個完整、協同的AI PC解決方案生態。