智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西10月31日報道，在今日舉行的2023云棲大會上，阿里云正式發布千億級參數大模型通義千問2.0。在10個權威測評中，通義千問2.0綜合性能超過GPT-3.5和Llama 2，正在加速追趕GPT-4。當天，通義千問APP在各大手機應用市場正式上線，所有人都可通過APP直接體驗最新模型能力。
阿里云CTO周靖人談道，面向智能時代，阿里云將通過從底層算力到人工智能（AI）平臺再到模型服務的全棧技術創新，升級云計算體系，打造一朵AI時代最開放的云。除了發布通義千問2.0外，周靖人還公布了云計算基礎能力的最新進展，升級了AI平臺，并發布一站式模型應用開發平臺阿里云百煉。
“目前，中國有一半大模型企業跑在阿里云上，280萬AI開發者活躍在阿里云魔搭社區上，未來，阿里云將攜手千行百業推動AI創新，共享技術紅利。”周靖人透露說，阿里云計劃近期開源通義千問72B版本，這將將成為中國參數最大的開源模型，此前阿里云已先后開源7B和14B版本模型，模型累計下載量超過100萬。
一、通義千問2.0得分超過GPT-3.5，8個行業大模型組團上線
過去6個月，通義千問2.0在性能上取得巨大飛躍，相比4月發布的1.0版本，通義千問2.0在復雜指令理解、文學創作、通用數學、知識記憶、幻覺抵御等能力上均有顯著提升。目前，通義千問的綜合性能已經超過GPT-3.5，加速追趕GPT-4。
在MMLU、C-Eval、GSM8K、HumanEval、MATH等10個主流Benchmark測評集上，通義千問2.0的得分整體超越Meta的Llama-2-70B，相比OpenAI的Chat-3.5是九勝一負，相比GPT-4則是四勝六負，與GPT-4的差距進一步縮小。
中英文理解能力是大語言模型的基本功。英語任務方面，通義千問2.0在MMLU基準的得分是82.5，僅次于GPT-4，通過大幅增加參數量，通義千問2.0能更好地理解和處理復雜的語言結構和概念；中文任務方面，通義千問2.0以明顯優勢在C-Eval基準獲得最高得分，這是由于模型在訓練中學習了更多中文語料，進一步強化了中文理解和表達能力。
在數學推理、代碼理解等領域，通義千問2.0進步明顯。在推理基準測試GSM8K中，通義千問排名第二，展示了強大的計算和邏輯推理能力；在HumanEval測試中，通義千問得分緊跟GPT-4和GPT-3.5，該測試主要衡量大模型理解和執行代碼片段的能力，這一能力是大模型應用于編程輔助、自動代碼修復等場景的基礎。
通義千問2.0還變得更加好用，在指令遵循、工具使用、精細化創作等方面作了技術優化，能夠更好地被下游應用場景集成。通義大模型官網上線了多模態和插件功能，支持圖片輸入、文檔解析等細分任務。
同時，基于通義大模型訓練的8大行業大模型組團上線，分別是通義靈碼-智能編碼助手、通義智文-AI閱讀助手、通義聽悟-工作學習AI助手、通義星塵-個性化角色創作平臺、通義點金-智能投研助手、通義曉蜜-智能客服、通義仁心-個人專屬健康助手、通義法睿-AI法律顧問。
其中，智能編碼助手通義靈碼已在阿里云內部大規模采用，廣受好評；工作學習AI助手通義聽悟每天處理5萬余個音視頻，累積用戶超100萬。
8大行業模型面向當下最受歡迎的多個垂直場景，使用領域數據進行專門訓練。用戶可以在官網直接體驗模型功能，開發者可以通過網頁嵌入、API/SDK調用等方式，將模型能力集成到自己的大模型應用和服務中。
截至10月，阿里云已與60多個行業頭部伙伴進行深度合作，推動通義千問在辦公、文旅、電力、政務、醫保、交通、制造、金融、軟件開發等領域的落地。
二、“中國一半大模型公司跑在阿里云上”
阿里云通義大模型系列基于人工智能平臺PAI訓練而成。
據介紹，除了通義大模型，中國一半大模型公司跑在阿里云上，百川智能、智譜AI、零一萬物、昆侖萬維、vivo、復旦大學等大批頭部企業及機構均在阿里云上訓練大模型。
通義系列、Baichuan系列、智譜AI ChatGLM系列、姜子牙通用大模型等國內眾多頭部主流大模型，都已通過阿里云對外提供API服務。
“百川成立僅半年便發布了7款大模型，快速迭代背后離不開云計算的支持。”百川智能創始人兼CEO王小川說。
百川智能和阿里云進行了深入合作，在雙方的共同努力下，百川很好地完成了千卡大模型訓練任務，有效降低了模型推理成本，提升了模型部署效率。
基礎模型的質量很大程度決定了AI產業化的前景。訓練大模型是囊括了算力底座、網絡、存儲、大數據、AI框架、AI模型等復雜技術的系統性工程，只有強大的云計算體系才能訓練出高質量的大模型。
周靖人談道，2009年阿里云就提出“數據中心是一臺計算機”的理念，今天AI時代更加需要這樣的技術體系。作為一臺超級計算機的云計算，可高效連接異構計算資源，突破單一性能芯片瓶頸，協同完成大規模智能計算任務。
為了保證大模型訓練的穩定互聯和高效并行計算，阿里云全新升級了人工智能平臺PAI。
PAI底層采用HPN 7.0新一代AI集群網絡架構，支持高達10萬卡量級的集群可擴展規模，超大規模分布式訓練加速比高達96%，遠超業界水平；在大模型訓練任務中，可節省超過50%算力資源，性能全球領先。
應對大規模智能算力需求，阿里云已在全球30個地域建設了89個云計算數據中心，提供3000余個邊緣計算節點，發揮云計算的低延時、高彈性優點。今年，阿里云成功支撐火爆全網的妙鴨相機短時間高強度的流量爆發。
三、超30款云產品接入大模型能力，發布一站式大模型應用開發平臺
周靖人談道：“隨著大模型技術與云計算本身的融合，我們希望未來的云可以像車一樣也能夠自動駕駛，大幅提升開發者使用云的體驗。”
據悉，阿里云上有超過30款云產品接入了大模型能力，例如阿里云大數據治理平臺DataWorks新增了全新的交互形態Copilot，用戶只需用自然語言輸入即可生成SQL，并自動執行相應的數據ETL操作，整體開發與分析可提效30%以上，堪比“自動駕駛”。
阿里云容器、數據庫等產品上也提供了類似的開發體驗，可實現NL2SQL、SQL注釋生成/糾錯/優化等功能，未來這些能力還將集成到阿里云其他產品上。
現場，周靖人還發布了一站式大模型應用開發平臺——阿里云百煉。
該平臺集成了國內外主流優質大模型，提供模型選型、微調訓練、安全套件、模型部署等服務和全鏈路的應用開發工具，為用戶簡化了底層算力部署、模型預訓練、工具開發等復雜工作。
開發者可在5分鐘內開發一款大模型應用，幾小時即可“煉”出一個企業專屬模型，可將更多精力專注于應用創新。
大模型正引發千行百業的新一輪創新，央視網、朗新科技、亞信科技等企業已率先在阿里云百煉上開發專屬模型和應用，朗新科技在云上訓練出電力專屬大模型，開發“電力賬單解讀智能助手”“電力行業政策解析/數據分析助手”，為客戶接待提效50%、降低投訴70%。
“促進中國AI生態繁榮，是阿里云的首要目標。阿里云將堅定打造AI時代最開放的大模型平臺，我們歡迎所有大模型接入阿里云百煉，共同向開發者提供AI服務。”周靖人說。
結語：向開發者提供免費GPU算力，已構建中國最大AI社區
除了與開發者共享自研新技術，阿里云還大力支持三方大模型發展。在阿里云魔搭社區上，百川智能、智譜AI、上海人工智能實驗室、IDEA研究院等業界頂級玩家，都開源首發他們的核心大模型，阿里云則為開發者們“嘗鮮”大模型提供免費GPU算力，截至目前已超3000萬小時。
據周靖人透露，魔搭社區現已聚集2300多款AI模型，吸引280萬名AI開發者，AI模型下載量突破1億，成為中國規模最大、開發者最活躍的AI社區。
在2023云棲大會上，阿里云公布了一項重磅計劃：“云工開物計劃”，給中國所有大學生每人送一臺云服務器。
此外，阿里云還將為簽約高校提供更大規模的算力資源支持，助力中國青年學者和學子攀登科研高峰。目前，清華大學、北京大學、浙江大學、上海交通大學、中國科學技術大學、華南理工大學等高校已首批達成合作。
