智東西(公眾號:zhidxcom)
作者 | 國仁 李水青
編輯 | 漠影

當(dang)下中國(guo)科(ke)技圈,什(shen)么樣(yang)的創業(ye)公(gong)司最吃香?或許是身處(chu)爆發的大模型賽道(dao),占據算(suan)力資源稀缺性,并獲得(de)資本、市場及政策(ce)等(deng)多重青睞,且有(you)著遠大AGI藍圖前(qian)景的公(gong)司。

英博數科,就是這樣的一家公司。

從ChatGPT到Sora的(de)爆火(huo),智能算力(li)成為(wei)一(yi)門公認的(de)“好生意(yi)”。盡管云巨頭相繼(ji)推出誘人的(de)大模型訓推“全(quan)家(jia)桶”,但(dan)實際可(ke)用的(de)算力(li)仍是稀缺資源,國內AI企業紛(fen)紛(fen)患上“算力(li)饑渴(ke)癥”……

成(cheng)(cheng)立不滿21個月的(de)英博數(shu)科,成(cheng)(cheng)為了這一背景下國內最(zui)吃香(xiang)的(de)“算力黑馬”之一。

它是半年拿下近30億元人民幣算力大單的新貴,目前落地的智算集群100%滿載運行;它是大模型廠商的“香餑餑”,百川智能MiniMax深言科技等頭部大模型創企都涌入了其懷抱;它是“彩票大王”鴻博股份的全資子公司,踩著英偉達GPU算力紅利的順風,帶動鴻博股份股價在2023年最高飆漲580%……

英博數科的跨界突圍,離不開一位關鍵人物——鴻博股份副總裁、英博數科CEO周韡韡

對話國產“算力黑馬”:27億元大單背后,英博數科周韡韡的AGI探索之路
▲鴻博(bo)股份(fen)副(fu)總(zong)裁(cai)、英博(bo)數科CEO周(zhou)韡韡

她曾是媒體人,擁有澳大利亞阿德萊德大學金融學學士、悉尼大學傳播學碩士、國際政治經濟關系博士學位,曾任澳視傳媒執行董事、澳中文化友好交流協會秘書長及36氪副總裁。2021年底,周韡(wei)韡(wei)開始帶隊(dui)進行(xing)智算行(xing)業調(diao)研,當(dang)時(shi)就定下了(le)“打造北京智算中心(xin)樣板”的目標。

兩年(nian)之后,隨著2023年(nian)大模型與(yu)AIGC掀起熱潮,將英偉達(da)推上萬億美元市值(zhi)的(de)王座,周韡(wei)韡(wei)不僅提前(qian)達(da)成了兩年(nian)前(qian)立下的(de)目標(biao),還讓(rang)英博數科公(gong)司拿(na)下了國內(nei)最大資金規(gui)模的(de)算力服務協議,甚(shen)至在最頂(ding)尖的(de)云巨頭口(kou)中奪(duo)食。

與此同時,關于“全棧式AGI生態服務平臺”的(de)(de)新定位,也(ye)讓英博數科的(de)(de)故事變得更有(you)閃耀。英博數科被一些(xie)業內人士拿來與估值達160億美(mei)元的(de)(de)美(mei)國(guo)(guo)算力獨角獸CoreWeave比(bi)較,但在周韡(wei)韡(wei)看來,如果將目光放向“中國(guo)(guo)版(ban)App Store+Hugging Face”,中國(guo)(guo)同(tong)行(xing)的(de)(de)價(jia)值甚至有(you)望(wang)趕超CoreWeave。

從ChatGPT到Sora,周韡韡如何穩踩(cai)(cai)智(zhi)能(neng)算(suan)力市(shi)場的發展節奏點?從名不見(jian)經傳到產業(ye)(ye)新星,英博數科(ke)做對了什(shen)(shen)么,又踩(cai)(cai)了哪(na)些坑?面向未來(lai),什(shen)(shen)么樣(yang)的智(zhi)能(neng)算(suan)力產業(ye)(ye)發展道路最適(shi)合中國(guo)?

近日,智東西(xi)總編國仁獨家(jia)對(dui)話周韡韡,試圖從個體(ti)視(shi)角,揭開“百模(mo)大戰”混(hun)沌狂歡之下的智能算力(li)產(chan)業真相。

對話國產“算力黑馬”:27億元大單背后,英博數科周韡韡的AGI探索之路

▲鴻博股份副(fu)總(zong)裁、英博數科CEO周韡(wei)(wei)韡(wei)(wei)(左(zuo))與智東西總(zong)編(bian)國仁(右(you))

一、從Sora浪潮聊到產業趨勢:通用大模型為王,智算產業現隱形護城河

國仁:進入2024年以來,大模型領域爆點不斷,最讓您感到興奮的點是什么?

周韡韡:我感覺到興奮的點,是能給我帶來直接盈利收入的更多需求。

英博數科在2023年2月交付了國內第一個英偉達推薦架構、對外商業化運營的標準智算集群。以前這種集群都是存在于科研院校,外部的人很難接觸到。當智算集群建成時,我才發現這個設備的稀缺性是因為它沒有場景去釋放它的性價比。當時我就想,我的用戶是誰?我用戶在哪兒?用戶付不付得起這個錢?

OpenAI的闖入解決了我的問題。去年初OpenAI的ChatGPT出來之后,我們發現原來它(這些智算設備)是多模態大模型訓練的幾乎唯一選擇。今年2月Sora的出現,進一步讓大模型開發業內人士意識到差距焦慮,使他們對于超大型(xing)智算集(ji)群的需求變強,甚至愿意付出溢價的代價。

市場的這種反應,讓英博數科之前的商業規劃的預測得到了驗證。即使128的集群(qun)(qun)可(ke)以找到,但512的集群(qun)(qun)只有我(wo)有,那我(wo)自(zi)然(ran)就會有一(yi)個稀缺性,就等于價(jia)值(zhi)。

國仁:Sora和去年ChatGPT的爆發節奏很像,您認為哪一個對智能算力產業的影響會更大?

周韡韡:我認為是ChatGPT,因為它是(shi)根基。AI行業(ye)的(de)研(yan)究已(yi)有(you)七八十年了(le),但ChatGPT出(chu)現了(le)之后,才讓大家覺得(de)這個技術跟我(wo)的(de)生活工(gong)作(zuo)是(shi)有(you)相關度的(de)。蒸(zheng)汽機(ji)出(chu)現不算是(shi)工(gong)業(ye)革命(ming),但是(shi)把蒸(zheng)汽機(ji)裝到了(le)火車、輪船和各種生產工(gong)具上(shang)提高效(xiao)率,才是(shi)工(gong)業(ye)革命(ming)。

Sora其實就是讓我們看到了,把這種AI能力在一些細分場景上快速的實現。所以我覺得影響更大的肯定還是從根源上來講的。Sora本身的(de)(de)(de)體量(liang)非(fei)常小,但它的(de)(de)(de)出現對一(yi)些現象級的(de)(de)(de)熱(re)門視頻應用降維打擊,連搶救都不用了(le),帶來了(le)產業上(shang)的(de)(de)(de)影響。

如果說過去我們對于“模型是做通用型還是做垂類型”這一問題還有分歧的話,到了這兒就完全沒有爭議了。Sora之所以能夠體量這么小,出現這么快,能力這么強,就是因為它的模型基座夠扎實。我一直管這種通用型模型的這種基座,叫“大G”。這(zhe)個大(da)G的架(jia)構(gou)決定(ding)了你可(ke)以(yi)“空(kong)中(zhong)起高樓”,從上往(wang)下改。

所以即便當時出現好多所謂的垂類應用,但在我們當初挑客戶的時候,只要你說是垂類的,我就不要。因為在我來看,你說做垂類就等于急功近利。我特別認可當時百川發布時(中國科學院院士、清華大學人工智能研究院院長、清華大學計算機系教授)張鈸院士講到的觀點:模型一定是通用的。

Sora帶來的可能是一個認知的統一,但ChatGPT是帶來了行業上的一個質變

國仁:工信部最新數據顯示,我國超10億參數大模型已超100個。從結果來看,現在的智能算力供給是存在過剩和浪費還是遠遠不足?如果是過剩和浪費,產業要如何減少浪費?如果不足,缺口有多大?

周韡韡:如果單從英博數科的情況來看,我們現在可以提供的算力是“1”,那么我簽的客戶需求大概是“10~15”的樣子。這里面還讓一個難受點是,我并不能夠因為這種稀缺度去漲價

從行業角度出發來看,一個好生意是給雙方都留下合理的利潤空間,你得考慮Sustainability(可持續性)的問題。GPU集群跟傳統的IDC機房不一樣——過去的IDC金租都按照三年回本的周期去計算,而GPU的回本周期要遠遠高于傳統的這個IDC機房。因為回本周期長,我當然希望我的客戶生存得也足夠久。所以雖然這個東西很稀缺,但你也要考慮到客戶的承受力,不能殺雞取卵

國仁:按您這么說,應該是一個嚴重(zhong)的供不應求的一個狀態?

周韡韡:超級嚴重供不應(ying)求。我看到好像華為(副董事長、輪值董事長、CFO )孟晚舟講到缺口比例,比我們這個要大得多。而且現在他們(大模型)發展的速度太快了,就像工信部所說的“10億參數規模”的模型,模型我們很難用模型大小去衡量它,尤(you)其(qi)是模(mo)型參(can)數(shu)值現在(zai)變化也較快,你看到的小參(can)數(shu)模(mo)型,它(ta)可(ke)能收斂做得比(bi)較好(hao),在(zai)整個(ge)訓練的過程里面(mian)(所需算力)是很大的。

國(guo)仁:算力最后發(fa)展的極(ji)限是(shi)什么?真的是(shi)無限地去擴大單位(wei)芯(xin)片的算能(neng)嗎?

周韡韡:這一代的AI經常用一個詞:調校,它已經不走海量(堆算力)的路線了,而是走精準稀缺路線,而且它現(xian)在的(de)學習能力不(bu)用去拼量(liang),而是拼質。

國仁:你也提到一個回本周期,咱們是怎樣考慮的?

周韡韡:英博數科最初并不是說只想做一個智算中心,它其實是一個抓手。有了這個抓手,我們可以接觸到頭部客戶及開發者。所以其實從一開始規劃的時候,我們就有一個考量——除了從算力上追求收益,也從對這個企業提供算力服務生態服務生態聯盟等方(fang)面獲取收益,這是一個綜合(he)性(xing)的投(tou)資考量計劃。

國仁:那這塊進展怎么樣呢?

周韡韡:進(jin)展挺好。當然跟OpenAI平(ping)臺上(shang)(shang)來(lai)就(jiu)(jiu)幾千個(ge)伙(huo)伴(ban)的(de)(de)(de)差(cha)距很(hen)大(da)。我(wo)(wo)(wo)所謂的(de)(de)(de)我(wo)(wo)(wo)們的(de)(de)(de)進(jin)展好,是(shi)我(wo)(wo)(wo)們從一開始的(de)(de)(de)時候給自己劃了四層(ceng),就(jiu)(jiu)是(shi)IaaS、PaaS、SaaS以及上(shang)(shang)層(ceng)的(de)(de)(de)數據模型服務的(de)(de)(de)應(ying)用層(ceng)。目前來(lai)看(kan),我(wo)(wo)(wo)們這(zhe)四個(ge)層(ceng)級(ji)不能說齊(qi)頭并(bing)進(jin),但基本上(shang)(shang)都是(shi)有顯著的(de)(de)(de)里程碑的(de)(de)(de)進(jin)度。

國仁:從已有智算中心應用落地來看,哪些場景對智能算力服務的需求更大?訓練和推理各占多少?客戶采用智能算力的動力是什么?

周韡韡:從GPU側來講的話,目前算力使用最多的是多模態大模型訓練。這類需求團隊在我們的平臺上已經占到90%了(le),我們(men)如果不克制它能(neng)占到100%。

但是要我們想稍微平衡一下。另外一部分是像類似于無問蒼穹、潞晨科技這種做算法加速層的(de),他們要去做(zuo)生(sheng)態的(de)兼容性、場(chang)景加速應用,這一類(lei)的(de)客戶會比較多。然后像無(wu)人駕(jia)駛,曾經無(wu)人駕(jia)駛和生(sheng)物醫藥是我(wo)認為占比非常(chang)高的(de)一個板塊(kuai)。

國仁:現在發現沒有成為非常高的板塊?

周韡韡:無人駕駛是有的,但生(sheng)物(wu)制(zhi)(zhi)藥(yao)(yao)現在還(huan)沒有那么多,可(ke)能它的研發應用沒太跟得(de)上(shang)AI的節奏(zou),但是單體的需(xu)求(qiu)會非常大(da)。一個(ge)生(sheng)物(wu)制(zhi)(zhi)藥(yao)(yao)如果去做原(yuan)創藥(yao)(yao)的研發,這(zhe)種AI制(zhi)(zhi)藥(yao)(yao)加(jia)速的的需(xu)求(qiu)可(ke)以超過一個(ge)百(bai)川智能。

最初我們給自己定位AI有三個場景:高性能計算、推理和訓練。當時我們直接放棄了高性能計算和推理,專注做專業的AI多模態大模型訓練平臺

現在來看,當我們的客戶有了應用,有了面對市場的服務之后,推理的需求肯定還是非常大的。但這需要一些合縱連橫來解決(jue),因為推理包(bao)括(kuo)云端交付(fu)、邊緣側的規劃(hua)布(bu)局,不是我們一家(jia)能夠做(zuo)成的事情。我們更傾向(xiang)于去加(jia)入一個聯盟,或者大家(jia)做(zuo)一些交換了解。

國仁:您認為今年的我國“百模大戰”會進入什么階段?智能算力產業發展的節奏如何?

周韡韡:這是一個媒體典型的問題,就像回去十年TMT行業,包括O2O領域好像一直在戰斗。就我的觀點,不管是提供算力的服務商,還是大模型的競爭,“百模大戰”在今年底就會出現一個拐點

應該說是該燃的就燃,該回點的就回點了。基本上這個分水嶺已經拉(la)開了(le)。我們現在(zai)已經可(ke)以看到(dao)有很多的模(mo)型和應用,或者(zhe)是(shi)很明星式(shi)的創業者(zhe),實現了(le)個(ge)人財(cai)富(fu)自由(you)。但換成另外一句(ju)話來說,已經從大模(mo)型市(shi)(shi)場和大模(mo)型融資的市(shi)(shi)場上消失了(le)。

所以在今年(nian)的下半年(nian),我覺得會有(you)大(da)批量(liang)這種企業出現(xian)——失去客戶的算力(li)服務商,和用不了算力(li)、解決不了融資問題的大(da)模型研發團隊——那只能(neng)面對現(xian)實。

國仁:我看過一個分析說,國內產業的一個特點是,遇到一個什么事兒大家都蜂擁上去,然后快速競爭和洗牌。這樣的好處是行業能夠快速走向成熟,但問題是會導致大量的資源浪費,比如共享單車就有很多廢棄的單車。

周韡韡:我覺得這個(ge)是所有(you)的(de)商業發(fa)展從古到今競爭的(de)一個(ge)必(bi)然結果。這個(ge)是通用(yong)的(de),只不過是有(you)人可(ke)能覺得好(hao)像國內的(de)風氣更(geng)甚,其實(shi)是看行業吧?

有時候其實是資本方和研發者之間的一個相互博弈的過程。當市場上的熱錢都愿意投向一個方向的時候,逼得一批要求生的創業者往那個方向走。不管他自己具備不具備,或者是有多少的可能性能成,但是作為一個創業者,他最基本職業道德是生存,那自然就會有很多不適合的進入到這里面,然后被淘汰(tai)掉(diao)。很多時候,資本市場起(qi)了很大(da)的掣肘或是助攻的作用。

國仁:國內創投現在比前幾年沒有那么猛的勢頭了,可能對創業的推動沒有之前那么熱情了?

周韡韡:我覺得是熱情的人少了,而不是不熱情,留下來的還挺激進的。你看現在大模型的估值真的快投不起了,比如百川從去年4月是王小川天使輪5000萬美金,然后到12月份投資已經是16億美金了,到現在已經接近30億美金了(這個跟很多科創板上市的這個公司的市值差不多了)。能夠撐得起這樣投資值估值的投資者,你能說他熱情退了嗎?我覺得沒退,我都覺得他瘋了

國仁:回到咱們的定位,智能算力提供者是要繼續做好“賣鏟子”的人,還是需要去推動大模型落地應用?

周韡韡:我們從剛開始的專業訓練平臺、算力平臺,到去年12月份轉型做全棧式AGI生態服務平臺,這里面就包括了推動模型的落地

比如說剛才說大G研發出來之后,在跟細分產業做結合的時候會出現問題:因為工程人員不可能了解每一個產業,他需要類似于產品經理的人幫他翻譯這個行業,做溝通的橋梁。比如我們之前有嘗試把有經驗的編劇,做網絡投放高效的投手對接給像Minimax、百川,把他們的商業模式大模型結合,就(強調)這種商業“攢局”的能力。

過去,他們(大模型客戶)剛開始淘金,我們去賣鏟子;現在他們進化了,我們應該是從鏟子進化到挖掘機,甚至是抽油的

國仁:有人認為當下包括“彩票大王”、“味精大王”等跨界玩家都涌入智能計算,說明算力產業技術門檻在降低,進入資源為王時代,對此您如何看待?

周韡韡:英博數科是(彩票(piao)大王)鴻博股份(fen)下一個(ge)全資子公司,是為了轉型做AI這(zhe)(zhe)個(ge)事情而生的(de)。我覺得不(bu)管哪(na)個(ge)產(chan)(chan)業(ye),想要去(qu)進入(ru)到另外一個(ge)產(chan)(chan)業(ye),說明有更多人(ren)在(zai)看好(hao)這(zhe)(zhe)個(ge)產(chan)(chan)業(ye)。這(zhe)(zhe)說明AI算(suan)力產(chan)(chan)業(ye)是被看好(hao)的(de)。

我一直(zhi)覺(jue)得要(yao)做窄小(xiao)深(shen)沉(chen)的(de)事(shi)情,就是說(shuo)你一定是細分的(de)賽道、大(da)廠不(bu)干(gan)的(de)、邊緣夾(jia)縫(feng)里(li)的(de)、小(xiao)團(tuan)隊能(neng)運(yun)營的(de),然后護城河一定要(yao)深(shen)的(de),而且它得能(neng)夠(gou)足夠(gou)長(chang)遠沉(chen)穩的(de)發展,不(bu)能(neng)是一個(ge)幾天就沒(mei)了的(de)產業。AI剛好(hao)是這樣的(de)一個(ge)產業。

如果說它(AI)入門的門檻低的話,只能說是剛開始的時候入門門檻的確是低的,這一點我承認。對于傳統企業來講,你花錢就可以買到硬件設備。但是現在看的話,我們發現它的這種隱形的護城河已經越來越高了。

現在參加一些活動,好像“萬卡集群”都不好意思提,都得說“十萬級”,這讓我瞬間感覺來了個科幻論壇。我覺得我們得面對現實

首先我們得去承認混卡集群和同構在同一個物理空間內同一通訊集本質是完全不一樣的。你可以用云去把各種型號的混卡都交付出去,但這種算力是沒有辦法用于AGI多模態大模型的專業團隊研發的。他們要的是超大型集群,要的是像OpenAI一樣,6萬張卡(ka)能夠(gou)串(chuan)在(zai)一起去(qu)訓練(lian)的集群。

我們現在國內的話,還沒有這種千卡萬卡的試驗田的土壤,而且集群的通訊是一加一小于二的,它有個通訊衰減的過程。所以這中間的調優、網絡通訊、系統性開發和管理,其實是一道隱形的、非常深的護城河。

我們整體缺乏GPU方面的專業人才,也缺乏對GPU的實驗土壤的了解。那這個時候英博數科其實占了一個先發優勢,反而是比別人多(duo)做了(le)一些(xie)練習和試(shi)驗(yan)。

國仁:現在智算產業玩家大概分幾個梯隊,大家的做法又有一些什么樣的不一樣?

周韡韡:目前智算產業玩家一種(zhong)是(shi)自產自銷(xiao)的(de)大廠(chang),它(ta)們現在已(yi)經不對外提(ti)供GPU租用(yong)服務了(le),是(shi)完(wan)全(quan)是(shi)自用(yong)的(de)狀態,不提(ti)供市場化(hua)運營(ying)。

另一(yi)類是(shi)像(xiang)我(wo)們(men)這種市(shi)場(chang)化運(yun)營(ying)的(de)服務商。國家現在(zai)鼓(gu)勵國企(qi)央企(qi)去(qu)進行計(ji)算基建(jian)的(de)投(tou)資(zi),運(yun)營(ying)交(jiao)給類似于英博(bo)數科的(de)市(shi)場(chang)化運(yun)營(ying)的(de)公司(si)去(qu)做,這種模式(shi)在(zai)北京和上(shang)海已經(jing)先開始了。

還(huan)(huan)有一(yi)類(lei)是(shi)設備還(huan)(huan)處在(zai)小規模,還(huan)(huan)在(zai)尋找客戶的(de)初期(qi)階段(duan)(duan)的(de)服務商。它(ta)們沒有進入(ru)到128節點(dian)以上大集群,仍(reng)在(zai)16、32、64節點(dian)這個階段(duan)(duan)里(li)面發展的(de)一(yi)批(pi)智能算力玩家。

國仁:由于受制于芯片及算力上限,國內的智能算力格局的發展形態,會跟國外會呈現一個不同的態勢?

周韡韡:我覺得國內外面臨的情況差不多。因為首先英偉達芯片供應不足,它不是禁售或者是其他什么原因造成的。因為它的卡脖子問題還是被臺積電卡脖子,受限于產能

二、從CoreWeave聊到創業心路:太刺激了,每天都在變,選擇做最難的事

國仁:用一句話形容一下創業近兩年來的感受,您最先想到的是什么?

周韡韡:太(tai)刺激了。我們有工作人員來英博工作了三天之后就說:“太刺激了”,后來不止一個工作人員,這樣說,因為真的是變化特別快。包括政策上、技術方面、客戶需求的變化,在早上、中午、晚上都不一樣。

包括我自己發過好多次朋友圈,是我一個好閨蜜寫的一本書,說每個你看起來運氣好到開掛的姑娘,其實都在成功的路上努力到踉蹌。一路走來我們現在還不能叫成功,“三年魔咒”就是九死一生。現在進入到AI時代之后,它不光是一個降本增效,同時帶來的是每一個行業的全生命周期都在縮短

國仁:您如何看待外界將英博數科比作“中國版CoreWeave”的說法?近期有消息稱CoreWeave估值或飆升至160億美元,主要是什么成就了CoreWeave?國內玩家有可能達到這樣的價值嗎?

周韡(wei)韡(wei):我之前(qian)也(ye)有看過(guo)把英博(bo)跟CoreWeave放一起做比較(jiao),我就覺(jue)得這個簡直太(tai)看得起我們(men)了,絕對是一個超高級別的。

前幾天我看了一個摩根大通的報告,提到現有的GPU或專業高性能GPU的設備存量,CoreWeave在面占到了11%。11%的概念是什么?一些頂尖云大廠可能都是占1%不到,你可以想象到它體量有多大,幾乎是我們國內所有加在一起都難以達到一個體量。如(ru)果說GPU現在已經(jing)是(shi)這樣的(de)一個有金(jin)融(rong)屬(shu)性的(de)產品,CoreWeave有160億估(gu)值完全(quan)不(bu)奇(qi)怪(guai)。

然后第二個,CoreWeave團隊以前是做虛擬貨幣起家,所以對GPU接觸的熟悉的程度會(hui)比較早。然(ran)后(hou)它有英偉達的支持(chi)(chi),雖然(ran)英偉達在(zai)中國本土和在(zai)美國本土都支持(chi)(chi),但能夠做的范(fan)圍是相差非常遠的。

所(suo)以如果我們從硬件體量上去(qu)拼估(gu)值(zhi)的話,短期內國(guo)內沒(mei)有玩家能夠比(bi)得起。

但是我們在走一條不一樣的路。CoreWeave還是主做算力出租,就是我拿更多的貨,賣更多的設備。而且國外的算力租用的價格售賣比國內貴很多。英博數科的定位是AGI全棧式的生態服務平臺。這聽起來有點抽象,換成具象一點的說法,就是我的客戶要什么我就提供,他缺算力我就給他算力,他要數據我就給他數據,他缺商業化轉換的場景我就去幫他找,幫他擬合這種場景。

這個東西就像互聯網時候,那個市場很大,但你收入只有三塊,就是游戲、廣告、用戶付費。我所有給客戶提供的各種各樣的服務,最終會變成是算力帶來的收入,比如說數據、模型、加速、PaaS層帶來的云收入,以及我給客戶提供的各種商業擬合創造,甚至投融資帶來的企業服務的收入,就是這三類收入

如果從這個收入的組成上來看,它肯定比單一硬件的估值要來的高。從長遠來講的話,我覺得我們國內的這樣的一個生態發展模式的話,是可以產生更高估值的公司的

國仁:2021年底您開始著手籌劃創業,定下的目標是打造北京智算中心樣板。當時為什么會有這樣一個明確具體的目標?有什么樣的契機?

周韡韡:這個目標是寫在合同里了,是跟投資方定的。英博數科前身發展是來自于北京AI創新賦能中心,英偉達一(yi)個針對中國的(de)生態發展特別(bie)計劃而來的(de)。這個計劃從2016年推出到(dao)現在一(yi)直有,我們看到(dao)的(de)時候(hou)已經是一(yi)個非常完(wan)整的(de)規劃了,合(he)作范(fan)圍不只是算力,更多是生態發展以(yi)及(ji)合(he)作方式,還有發展目標最終要達到(dao)什么(me)樣,都是有非常清晰的(de)定(ding)義的(de)。

國仁:決定創業之初,您對這項創業可能遇到的困難有充分的預判嗎?還記得哪些人給了你非常重要的意見,受用至今?從投資人到創業者,您為此做了哪些準備?

周韡韡:貴人好多。包括(百川智能創始人)王小川給了我們很多關于直接定位的指導建議,包括放棄HPC和推理場景,專注于做訓練,我們的第一批設備也是和百川一塊兒跟英偉達的遠程技術支持做的調通;還有張鈸院士非常清楚的告訴我們,所有的東西一定要回歸到加速生產力上,回歸本質,不能飄。然后一定要研究通用模型,打好基本功(gong),再(zai)去說(shuo)做垂(chui)類場(chang)景的應用(yong)。

包括(御風集團董事長)馮侖,最近馮叔就特別強調說,你們一定要有世界觀、中國心、專業技術和本土功夫,對我說一定要做到企業不關門,個人不被抓,合規合法很重要;包括像我閨蜜在我做跨界轉型時不停給我鼓勵;我們家里一直有一句話,說“在不知道做哪件事兒的時候,去做那個最難的”。

國仁:英博數科創立至今經歷了哪些關鍵節點?

周韡韡:第一個關鍵節(jie)點,我(wo)(wo)記得是(shi)在(zai)2022年(nian)7月,當時(shi)正(zheng)值我(wo)(wo)們計劃跟(gen)英偉達美(mei)國簽約,簽約卻一天(tian)天(tian)被擱(ge)置。后來我(wo)(wo)們就(jiu)分析說這個跟(gen)佩洛西(xi)訪臺有關(guan)系,中間如果要出現點(dian)什么摩擦,估計這個計劃合(he)作就(jiu)黃了(le)。一直(zhi)到佩洛西(xi)走了(le)之后,第二天(tian)合(he)同就(jiu)回來了(le)。所(suo)以那個節點(dian)的話,我(wo)(wo)覺得就(jiu)是(shi)蝴蝶效(xiao)應(ying),國際局勢竟然牽扯到了(le)我(wo)(wo)們一個很小的公司的發展。

第二個節點是簽約之后,馬上就可能出來一個限售政策。在限售政策下,你在兩個都可選的情況下,英博數科是選擇拿A100還是A800?這就要戰略性地(di)思考限售(shou)政(zheng)策(ce)會(hui)不(bu)會(hui)進一步收緊(jin),還是(shi)有可(ke)能會(hui)緩和。如果緩和的(de)話(hua),大廠開始(shi)大批量出錢去買貨的(de)話(hua),我們該怎么面對這種沖擊?這個時候我們就在美國設了(le)專業(ye)的(de)法務公關和商務團隊,就各種政(zheng)策(ce)去提前(qian)做(zuo)分析,從而提前(qian)預(yu)判了(le)禁售(shou)政(zheng)策(ce)的(de)執行。

我們從第一批設備剛選完,就開始加速設備團購。當然這有賭的成分在,但我們堅信國內自研大模型的需求量一定很大,所以一定要抓緊囤貨

然后再到最近,應該說我們面臨兩個挺大的節點。一個是我們的母公司上市公司被宣布為無實控,這個對我們變成了一個挑戰,畢竟還有很多事情需要得到母公司的授權和許可,就會造成一些決策的不暢,包括給你資(zi)金(jin)上帶來(lai)的障(zhang)礙。

一個是更貼近實際的一個難點,就是當我們有了512節點的設備,1024節點的設備,但是面對這樣4000卡、8000卡、近萬卡的集群的時候,我們怎么能讓它高效跑通?這個其實就是調優方面的一些問題了。現在市場也有這樣的公司,比如硅基流動CEO袁進輝老師做的研究,都是在這個方向。我們現在的做法就是讓大家都來吧,把我這兒當成一塊試驗田

國仁:方便透露最新的團隊規模嗎?在組織架構方面,英博數科如何排兵布陣?有什么樣的人才計劃?

周韡韡:我們的規模不大,剛開始設備沒有到貨之前,我們只有幾個核心技術人員存在,以及一些面向公司籌備的行政、市場人員,那時是一個投行背景的(de)團(tuan)隊。就(jiu)像我(wo)現在(zai)的(de)合伙人(ren)(ren)邱領,是在(zai)美(mei)國硅谷(gu)銀(yin)行做了(le)三年,之后被派回中國硅谷(gu)銀(yin)行工(gong)作三年,負責過上百個(ge)初創(chuang)型企業的(de)孵化加速(su)。另外那時市場(chang)團(tuan)隊里面大多(duo)是有(you)海外留(liu)學經驗的(de),包括我(wo)們現在(zai)在(zai)招聘技術人(ren)(ren)員的(de)時候,也不見(jian)得(de)一(yi)定要有(you)過實操經驗,因為這個(ge)行業太新了(le),會(hui)更(geng)看(kan)重(zhong)應(ying)聘者的(de)自驅學習能力和理解能力,以(yi)及在(zai)工(gong)作上面一(yi)專(zhuan)多(duo)能的(de)態度。

目前我們差不多快100人的樣子。技術團隊大概占到70%,技術團隊其(qi)中(zhong)也有一(yi)(yi)部分(fen)是(shi)做機房運營運維的(de),包括一(yi)(yi)些運維系統(tong)工程師,然(ran)后另(ling)一(yi)(yi)部分(fen)是(shi)做(英博數科研發的(de)GPU云管平臺)搏博云的(de)研發。

國仁:團隊已經從金融背景完全變成技術主導的公司了?

周韡韡:我們是一個輕研發重集成的公司(si)。因為底層已經提供了大量的毛坯的東(dong)西,需要你(ni)像玩樂(le)高一樣去搭積木了。

然后像我們現(xian)在的(de)早期的(de)這種投行團隊的(de)同學,在上市公司(si)給我們帶來(lai)資金問(wen)題的(de)時候,就(jiu)發(fa)揮出來(lai)了極大的(de)價值(zhi),通過一級二級市場(chang)各種融(rong)資方式,幫公司(si)解決現(xian)金流和發(fa)展問(wen)題。如果是(shi)只(zhi)看現(xian)金流的(de)話,英博數科(ke)第一個月現(xian)金流就(jiu)是(shi)正向的(de)。

三、從10億級大單聊到商業化之路:機器滿轉,交付體驗是新階段重點

國仁:去年,英博數科有三個項目最為矚目,分別是京能10億元智算中心項目、百川智能近14億元算力大單、MiniMax近3億元的大單,目前這三個項目算力的應用情況分別如何?機器使用率有多少?

周韡韡:首先這三個項目上統一的特點是,機器的使用率是都已經100%了。因為我們布(bu)局是(shi)一需求是(shi)十,沒有任(ren)何設備是(shi)被閑置的。

國仁:對于目前英博數科落地的智能算力服務,您打多少分?為什么?

周韡韡:這個打分的話看怎么打,我是一個比較推崇鼓勵的。從行業角度來看,由于行業之前沒有GPU云,目前(qian)國內大家(jia)都處在(zai)一(yi)個(ge)起步的(de)階段(duan)。我可以自信一(yi)點(dian)說(shuo)我是100分,我也(ye)可以謙虛一(yi)點(dian)說(shuo),我和大家(jia)差不多了解。因為大家(jia)可能(neng)都還在(zai)去(qu)定(ding)義、優化、完善的(de)一(yi)個(ge)階段(duan)。

而且在這個階段,我覺得現在國內的AGI的市場,跟那時候(此前互聯網)戰斗的市場不一樣,大家是一個競合的市場,互相之間交流特別(bie)多。比如現在你經常可以看到頭部智譜AI的唐(tang)杰老師或者張鵬老師,跟百川、Minimax的CTO坐在一(yi)起(qi)(qi),就一(yi)個問題直接在臺(tai)上爭起(qi)(qi)來(lai)了。但(dan)大家(jia)爭完之后,又是一(yi)個既競爭又合作的關系,不介意跟競爭對手分享踩坑經驗。

國仁:自部分智算中心算力啟用以來,產品目前的用戶使用情況如何?收到了什么樣的用戶反饋?這使得團隊的聚焦點有什么新調整和布局?

周韡韡:收到的客戶反饋應該說是投訴大于表揚。當然這個也不完全是英博數科造成的,也有本身原廠家造成。原廠家質量也是很成問題的一個事情,包括在壞了之后換修這種客觀上增添了一些困難,的確給我們在過去造成了不少投訴。對此,我們只能按照合同條款進行補償,大家遵守契約精神。但因為現在市場太稀缺了,所以客戶也給了我們很大的一個包容性

接下來往下一步去走的話,我們更看重的第一個是GPU云平臺這個交付體驗的問題;第二個是GPU云平臺作為一個生態入口上面交易的活躍度的問題;第三個我們跟很多家一起共同成立的算力創新賦能中心,對于融合替代創新解決方案的問題,我(wo)們不分(fen)AMD卡還是英偉達卡,不分(fen)國產還是國內生(sheng)(sheng)態,我(wo)們只看大(da)的AGI生(sheng)(sheng)態。

國仁:前面你也提到了,咱們團隊整體是重集成輕研發的布局,那么公司如何分配公司在硬件、軟件和服務層的資源投入?

周韡韡:沒有刻意(yi)的(de)(de)去側重,但是它天然(ran)造成了一(yi)個占比(bi)分配。首先硬(ying)(ying)件(jian)一(yi)定是占比(bi)最(zui)大的(de)(de),第(di)一(yi)個階(jie)段剛起步時,我們90%的(de)(de)錢都用在(zai)(zai)硬(ying)(ying)件(jian)上了。然(ran)后現(xian)在(zai)(zai),因(yin)為我們有了多種多樣的(de)(de)硬(ying)(ying)件(jian)合(he)作模式(shi),比(bi)如說新的(de)(de)客戶來(lai)采購(gou)并委托(tuo)給(gei)我們代運營,這種方式(shi)轉(zhuan)嫁(jia)了我的(de)(de)采購(gou)和(he)折舊成本,那這方面投入就(jiu)會逐(zhu)步降(jiang)低。這個階(jie)段我們在(zai)(zai)做云(yun)研發,在(zai)(zai)做運維工(gong)程師的(de)(de)培訓(xun),在(zai)(zai)整個生(sheng)態(tai)拓(tuo)展的(de)(de)引入方面投入也好,收入也好,就(jiu)會逐(zhu)步的(de)(de)增加。

國仁:在去年跟您聊的時候,您提到英博數科跑贏同行的主要優勢是“有算力”。但存量算力是有限的,英博數科這一優勢能保持多久?如何保持?

周韡韡:我覺得這到最后就是結果決定關系,我們看一個結果就(jiu)可以(yi)了(le)。不(bu)管今天說你是(shi)有(you)算力(li)(li)還(huan)是(shi)沒算力(li)(li),能干(gan)還(huan)是(shi)不(bu)能干(gan),結果是(shi)你有(you)沒有(you)客戶,你的客戶有(you)沒有(you)變多(duo)。那從這個角度上來講(jiang),英博以(yi)前的老客戶仍然(ran)存在(zai),新的客戶不(bu)斷進(jin)來,我覺得這個就(jiu)已經說明了(le)我們的所有(you)能力(li)(li)。

國仁:您之前談到“英偉達幾乎是提供算力硬件的最佳選擇”,這是不是意味著英博數科不太會去考慮國產硬件?

周韡韡:會(hui),我(wo)(wo)們(men)(men)現(xian)在(zai)(zai)一直在(zai)(zai)嘗試(shi)(shi)。我(wo)(wo)們(men)(men)去嘗試(shi)(shi)了(le)很多種(zhong),不只是(shi)國產,像非常早的(de)(de)時(shi)候AMD的(de)(de)卡(ka)還沒(mei)有做(zuo)限售通(tong)知的(de)(de)時(shi)候,就(jiu)提供給我(wo)(wo)們(men)(men)了(le)。我(wo)(wo)們(men)(men)做(zuo)過(guo)AMD的(de)(de),也試(shi)(shi)過(guo)海光(guang)的(de)(de),然后(hou)我(wo)(wo)們(men)(men)也通(tong)過(guo)跟(gen)(gen)合作方像百(bai)川智(zhi)能和(he)智(zhi)源研究(jiu)院(yuan)這種(zhong)去看(kan)過(guo)華為昇騰、寒武紀這些。包(bao)括我(wo)(wo)們(men)(men)跟(gen)(gen)軟(ruan)通(tong)、華鯤(kun)這邊的(de)(de)溝(gou)通(tong)都非常頻繁。

而且當我們的(de)客(ke)戶(hu)發展到一定階(jie)段,推理的(de)需求(qiu)一定會(hui)(hui)上漲。那(nei)這(zhe)(zhe)個時候就會(hui)(hui)有大量的(de)國產算力去填補這(zhe)(zhe)個市場的(de),這(zhe)(zhe)跟英(ying)偉達(da)的(de)合(he)作(zuo)是不沖(chong)突的(de)。

國仁:在英博數科的規劃中,公司要跟英偉達學生態做中國版App Store+Hugging Face。為什么不延用英偉達的生態,或延用其他云巨頭的生態?

周韡韡:這個其實回到我們剛開始第一個問題,跟討論CoreWeave有點類似了。英偉達的成功使我們看到了生態的價值。但是在哪里去發展這個生態,用什么樣的方式發展,是要結合我們自己的情況。這就有個“橘生淮南還是淮北(bei)”的問題了。我們是存在(zai)著硬件軟件各(ge)方面先天性受限的,在(zai)這種情況下(xia),我們要想發展生(sheng)態,首先你得有足夠(gou)的基數人(ren)群。

這就解釋了我們為什么那么看重像Hugging Face模式。因為他適不適合做這一行,你得先讓他看到這一行。你要為這個產業考慮,只有加入進來的人越多,你才在有可能在以后賺得更多。其實國內是完全具備這個條件,包括我們也看到阿里云的魔塔社區,也是在走這個方向。我們必須去找更多的人進來加入,才能去找到更多的可能性

然后像App Store這種方式,我們主要強調是它對于我們平臺在未來的一種盈利的模式。就比如說(shuo)現在蘋(pin)果(guo)它其實是硬件賺錢(qian),但(dan)是它的App Store毛利更高(gao),幾乎收入接(jie)近于毛利。

所以我(wo)們未來(lai)給自己的(de)一個(ge)目標和盈利模式的(de)定(ding)位,就是我(wo)剛才所謂的(de)云收入,我(wo)們的(de)企(qi)業服(fu)務收入。

國仁:英博數科有哪些獲利模型?方便透露英博數科的盈利情況嗎?

周韡韡:鴻博股份去年的年報做了扭虧的預告,這個扭虧主要是來自于英博數科。實事求是地說,目前收入來源仍是以算力服務為主,此(ci)外,我們也跟京(jing)能(neng)合作共建(jian)算(suan)力中心項目,在(zai)2023年底,這一部(bu)分收(shou)入貢獻較大(da)。但是在(zai)未來(lai)(lai)的(de)話(hua),智算(suan)中心的(de)運(yun)營服務(wu)(wu)也會是一個(ge)重要(yao)收(shou)入來(lai)(lai)源(yuan)。然后像隨著(zhu)云業務(wu)(wu)、數據(ju)業務(wu)(wu)一點(dian)點(dian)起來(lai)(lai),還有具體(ti)應用場景撮(cuo)合,這些服務(wu)(wu)收(shou)入肯(ken)定是要(yao)越(yue)來(lai)(lai)越(yue)高(gao)的(de)。

國仁:那如果要拓展這些創新服務,咱們的銷售體系架構就不一樣了?

周韡韡:實話實說,我們現在沒有(主動)銷售。因為我們不需要靠銷售,反而需要挑客戶因為我們沒有東西可賣。那我們的(de)這個商務團(tuan)隊是(shi)在(zai)干嘛呢(ni)?他們在(zai)去尋找生態合作伙(huo)伴,就(jiu)是(shi)找一些想要在(zai)當地開展(zhan)AI業(ye)務的(de)項目,以算力或者是(shi)資金的(de)形式(shi)去扶(fu)植加速(su)他們的(de)發展(zhan)。

國仁:公司接下來有什么重要新品要發布,有什么樣的時間表可以公布嗎?

周韡韡:我們(men)去年做了一個(ge)AI Tech Day的活(huo)動,今年會把這(zhe)個(ge)活(huo)動延(yan)續下來(lai)。

一方面,是會發布我們自己的產品和解決方案,但是以后占的比例肯定會越來越少了。我們自己產品解決方案主要是集中在搏博云的進展,還有大型集群通訊到(dao)了哪個階段,這方面(mian)的一些討論。

另一方面,我們最主要的是想給客戶創造一個展示自己的平臺。應該(gai)說是會有(you)更(geng)多的客(ke)戶(hu),不(bu)管是競(jing)品之間的交流,還是已經有(you)的垂類應用,在過去已經產生的這種(zhong)貢獻和作用。類似于算力(li)接入各種(zhong)生產力(li)的場(chang)景,也是我們(men)以后想在本次中國生成式AI大會活動(dong)中展現出來的。