智東西（公眾號：zhidxcom）
作者 | 李水青
編輯 | 云鵬
智(zhi)(zhi)東西10月27日報(bao)道(dao)，今(jin)日，在2023中(zhong)國(guo)計(ji)算機大會（CNCC）上，智(zhi)(zhi)譜(pu)AI CEO張鵬宣(xuan)布，智(zhi)(zhi)譜(pu)AI推出第三代基(ji)座大模型ChatGLM3及(ji)相關系列產品。
這(zhe)是(shi)智譜AI繼推(tui)出千億基座(zuo)的(de)對話模(mo)型(xing)ChatGLM和ChatGLM2之(zhi)后的(de)又一次重大突破(po)。評測顯示，在(zai)44個中(zhong)英(ying)文公開數據集測試中(zhong)，ChatGLM3在(zai)國內同尺寸模(mo)型(xing)中(zhong)排名(ming)首位(wei)。
基于ChatGLM3，智譜(pu)(pu)AI全新上線了(le)“智譜(pu)(pu)清言”，國內首推代碼交互能(neng)力，支持(chi)圖像處理、數學計算、數據分析等多個場(chang)景，張鵬(peng)在現(xian)場(chang)對這些能(neng)力進行了(le)實時演(yan)示。
張鵬透(tou)露(lu)，最(zui)新(xin)版本的ChatGLM-turbo在(zai)最(zui)新(xin)AgentBench上已略超出GPT-3.5。在(zai)算力方面(mian)，ChatGLM3已支持昇騰、海光(guang)DCU等10余種國(guo)產硬件生態；考(kao)慮更多邊緣側需求，ChatGLM3提供1.5B、3B等更豐(feng)富的模(mo)型尺寸，支持在(zai)筆記(ji)本電腦、手機、汽車上部署。
在開源生(sheng)態方面，智譜AI將對話ChatGLM3-6B、長文本ChatGLM3-6B-32k、多模態CogVLM-17B、智能(neng)體AgentLM開源。
此外(wai)，面向(xiang)企業級市場(chang)，智譜AI開(kai)放平臺(tai)推出私有模型(xing)方案、專屬(shu)模型(xing)方案、開(kai)放模型(xing)方案多種選(xuan)擇(ze)，據稱ChatGLM-turbo的API價格下降50%。
一、ChatGLM3評測排名首位，新功能瞄向GPT-4V
ChatGLM3發布(bu)，是(shi)智譜(pu)AI今年來第(di)三次對ChatGLM基座模型進行了深度優(you)化。智譜(pu)AI采用了多階段(duan)增強預訓練方法、更豐(feng)富的(de)(de)訓練數據和更優(you)的(de)(de)訓練方案，使ChatGLM3-6B具備更強大的(de)(de)性能。
1. 更強大性能，44項測試國內排名第一
測(ce)評顯示，ChatGLM3在(zai)44個中英文公開(kai)數據集(ji)測(ce)試中國內同尺寸模型排(pai)名首位，其中，MMLU提(ti)(ti)升(sheng)36%、CEval提(ti)(ti)升(sheng)33%、GSM8K提(ti)(ti)升(sheng)179% 、BBH提(ti)(ti)升(sheng)126%。
2. 瞄向GPT-4V，四大技術升級
瞄向GPT-4V，ChatGLM3 本次實現了若干全新功能的迭(die)代升級，包括：
（1）多模態理解能力的CogVLM，看圖識語義，在10余個國際標準圖文評測數據集上取得SOTA。
（2）代碼增強模塊Code Interpreter，根據用戶需求生成代碼并執行，自動完成數據分析、文件處理等復雜任務。
（3）網絡搜索增強WebGLM，接入搜索增強，能自動根據問題在互聯網上查找相關資料并在回答時提供參考相關文獻或文章鏈接。
（4）ChatGLM3的語義(yi)能力與邏輯能力大(da)大(da)增強。
3、更高效推理，速度提升2~3倍
ChatGLM3實(shi)現了更高效的(de)推理(li)，ChatGLM3通(tong)過高效動態推理(li)和顯存優化技術的(de)應用，相較于目前(qian)最佳開源實(shi)現vLLM速(su)度提升2~3倍。
4、 全新Agent智能體能力，比二代提高100倍
針對近期討論更火(huo)熱的AI Agent能(neng)力(li)，ChatGLM3采用全新Agent智(zhi)能(neng)體算法，充(chong)分激活大模型智(zhi)能(neng)體能(neng)力(li)，在智(zhi)能(neng)規劃(hua)和執行方面，相比ChatGLM二代提高1000%。
智(zhi)譜AI還開啟國產大模型原生支持工(gong)具調用、代碼執行、游戲、數據庫操作、知識圖譜搜(sou)索與推理、操作系統等復雜場(chang)景。
二、與GPT-3.5平齊，全面適配國產硬件生態
張鵬透露，最新(xin)版本的ChatGLM-turbo在(zai)最新(xin)AgentBench上和GPT-3.5平齊，甚至略有超出。
智譜(pu)AI很(hen)早(zao)就高(gao)度關(guan)注到(dao)算力(li)(li)問題，布局全(quan)面適配(pei)國產硬件生態，以(yi)保證算力(li)(li)安全(quan)。
據悉，自2022年初，GLM系列(lie)模型已支(zhi)(zhi)持在昇騰、神威超算、海光DCU架(jia)構(gou)上進行大規(gui)模預訓練和推理(li)。當前其已支(zhi)(zhi)持10余種國產硬件(jian)生態(tai)，包括昇騰、神威超算、海光DCU、海飛(fei)科(ke)(ke)、沐曦曦云(yun)、算能科(ke)(ke)技、天數(shu)智芯(xin)、寒武紀、摩爾線程、百度昆侖芯(xin)、靈汐科(ke)(ke)技、長城超云(yun)等。
考慮更(geng)多邊緣側需求，ChatGLM3提供(gong)1.5B、3B等更(geng)豐(feng)富的(de)模(mo)型(xing)尺寸。支(zhi)持國產(chan)芯(xin)片的(de)Edge版模(mo)型(xing)ChatGLM3-1.5B，可在筆記本(ben)電(dian)腦、手(shou)機、汽車上部署。支(zhi)持移(yi)動平臺(tai)上CPU芯(xin)片推理，速度可達20 Tokens/s；精(jing)度方面(mian)，1.5B和3B模(mo)型(xing)在公開Benchmark上與ChatGLM-60接近。
在開(kai)源生態方面，智譜(pu)AI將對(dui)話ChatGLM3-6B、長(chang)文本ChatGLM3-6B-32k、多模態CogVLM-17B、智能體AgentLM開(kai)源。據悉，ChatGLM-6B在全(quan)球已有超(chao)1000萬下載量，累計四周居(ju)于Hugging Face趨勢榜第(di)一，GitHub超(chao)5萬Stars。
三、全新“智譜清言”上線，國內首推代碼交互能力
在全新升級的ChatGLM3賦(fu)能下，生成式AI助手智譜清(qing)言已成為國內(nei)首個具備代碼交互能力的大模型產品（Code Interpreter）。
體驗(yan)地址：//chatglm.cn/main/code
“代碼”功(gong)能目(mu)前已支持圖(tu)像處理(li)、數學計算、數據(ju)分(fen)析(xi)等使用場(chang)景。以下分(fen)別為各個能力(li)的演示情況(kuang)截圖(tu)：
處理數據生成圖表：
代碼繪制圖形：
上(shang)傳SQL代碼(ma)分(fen)析：
隨著WebGLM大(da)模型能(neng)力的(de)加入，智譜清言也具(ju)有了搜索增(zeng)強能(neng)力，可以(yi)幫助用戶整(zheng)理出相關問題(ti)的(de)網上文獻或文章鏈接(jie)，并直接(jie)給出答案。
此前已(yi)發布(bu)的CogVLM 模型則提高了智(zhi)譜清言的中文圖文理解(jie)能(neng)力(li)，取得了接(jie)近(jin)GPT-4V的圖片理解(jie)能(neng)力(li)，它(ta)可(ke)以(yi)(yi)回答(da)各種類型的視覺問題，并(bing)且可(ke)以(yi)(yi)完成復雜(za)的目標檢測，并(bing)打上標簽，完成自(zi)動數據標注。
四、推出智譜AI開放平臺，API價格下降50%
面向企業級市場，智(zhi)譜AI構建了智(zhi)譜AI開(kai)放(fang)平臺，包(bao)括私有模(mo)型方案(an)(an)、專(zhuan)屬(shu)模(mo)型方案(an)(an)、開(kai)放(fang)模(mo)型方案(an)(an)。
隨(sui)著本次(ci)發布(bu)，智譜AI的API產品矩陣發生(sheng)變(bian)化(hua)：從提供ChatGLM-Pro、ChatGLM、ChatGLM-Lite多款產品，向提供一個整(zheng)體ChatGLM-turbo演(yan)化(hua)，價(jia)格下降50%。
智譜(pu)AI開放平臺(tai)不(bu)僅能(neng)夠幫助提(ti)供API，也提(ti)供模型的定制化私有化以(yi)及自(zi)有數據的使用(yong)。平臺(tai)還提(ti)供一些標準(zhun)化的組件，比如外(wai)掛知識庫、向量化能(neng)力(li)等(deng)。
利用這些能力(li)，用戶能夠快速的去構建(jian)自己的一些基本應用。
結語：全面對標OpenAI，智譜AI大模型再升級
2020年是大(da)模(mo)(mo)型(xing)元年，GPT-3的(de)出世標志著大(da)模(mo)(mo)型(xing)進入“可用階段”，也(ye)是生成式AI落地的(de)第(di)一階段。這(zhe)一階段，產業關注的(de)是怎么去構建一個精度足夠(gou)高、穩定性足夠(gou)好(hao)、更大(da)規(gui)模(mo)(mo)的(de)大(da)模(mo)(mo)型(xing)。
智(zhi)譜AI從2020年(nian)開(kai)始基于GLM預訓(xun)練模(mo)型(xing)的框架做研發，到2021年(nian)發布(bu)第一(yi)個(ge)開(kai)源百億大模(mo)型(xing)GLM-10B，到后續的一(yi)系列模(mo)型(xing)的誕生，不斷迭代。對標OpenAI全模(mo)型(xing)產品線，是智(zhi)譜AI在創立之初(chu)就(jiu)一(yi)個(ge)寫在愿景(jing)里的一(yi)個(ge)目標。
可以看到，對(dui)標(biao)OpenAI推出的ChatGPT、DALL.E、Codex、WebGPT和GPT-4V，智(zhi)譜(pu)AI推出了ChatGLM對(dui)話、CogView文生圖(tu)、CodeGeeX代(dai)碼(ma)、WebGLM搜索增強和ChatGLM3圖(tu)文理解等(deng)產品，體現了國產大模型的實(shi)力積淀。
