1、微軟清華提出RetNet 性能媲美Transformer

2、DeepMind新研究:提高醫學預測AI系統的準確性

3、Colossal-AI開源650億參數大模型預訓練方案

4、華為盤古大模型礦山領域首次商用

5、谷歌Bard將引入Google Maps等插件

6、OpenAI出走創業者公司融資已超20億美元

7、百度網盤推出基于AI的高級圖搜功能

8、ChatGPT在創造性思維上能媲美前1%的人類

9、2022年中國AI軟件市場規模十年來首現負增長

10、昆侖萬維收獲最高1500萬元大模型訂單

11、上海:積極培育提供大模型技術支持服務的企業

12、北京海淀:企業及機構已發布主模型35個

13、浪潮信息董事長王恩東辭職

14、印度軟件巨頭簽署20億美元AI協議

15、美國證交會主席:AI對金融市場穩定帶來風險

16、Stability AI CEO:AI會使印度程序員更快消失

17、FlashAttention進化 比標準Attention快5-9倍

18、Wix將提供AI自動生成網站服務

19、傳壁仞科技尋求2023年在香港IPO

20、百度在海外推出AI社交APP“SynClub”

21、工信部:2023大數據產業發展示范申報工作啟動

22、賓大沃頓教授發布大模型挑選指南

23、中國移動發布“九天”AI大模型開放合作生態

24、黑客開發出協助網絡犯罪的AI聊天機器人

25、網易云音樂內測上線“私人DJ”智能推薦歌曲

26、玄武云推出首款AIGC產品

1、微軟清華提出RetNet 性能媲美Transformer

據機器之心報道,來自微軟研究院、清華大學的研究人員7月17日發表一篇論文,提出retentive網絡(RetNet)。RetNet同時實現了低成本推理、高效長序列建模、媲美Transformer的性能和并行模型訓練,打破了“不可能三角”。

實驗結果表明,對于7B模型和8k序列長度,RetNet的解碼速度是帶鍵值緩存的Transformers的8.4倍,內存節省70%。在訓練過程中,RetNet也能夠比標準Transformer節省25-50%的內存,實現7倍的加速,并在高度優化的FlashAttention方面具有優勢。RetNet的推理延遲對批大小不敏感,從而實現了巨大的吞吐量。

不少研究者驚呼“好得不可思議”,甚至有人將其比作“M1芯片”登場時的變革意義。也有研究者提出疑問:這么優秀的表現是否意味著RetNet要在某些方面有所權衡,以及它能否擴展到視覺領域。

論文鏈接://arxiv.org/pdf/2307.08621.pdf

2、DeepMind新研究:提高醫學預測AI系統的準確性

Google DeepMind與Google Research今日在國際學術期刊Nature Medicine上發表一篇聯合論文。該論文提出了一種AI系統CoDoC(互補性驅動的延遲到臨床工作流程),它可以在假設的醫療環境中確定預測性AI工具的相對準確性,以及系統何時應該聽從人類臨床醫生的意見。

CoDoC探討了如何在假設的醫療環境中利用人類與AI的合作來提供最佳結果。研究人員用多個真實世界的數據集對CoDoC進行了全面測試,結果表明,將人類最好的專業知識與預測性AI相結合,比單獨使用任何一種都更準確。

在一個示例場景中,與常用的臨床工作流程相比,CoDoC不僅將英國乳房x線攝影數據集的假陽性減少了25%,還能夠將臨床醫生需要閱讀的病例數量減少2/3。研究團隊已在GitHub上開源了CoDoC的代碼。

論文地址:

代碼地址:

3、Colossal-AI開源650億參數大模型預訓練方案

AI創企潞晨科技今日宣布,Colossal-AI作為全球最大、最活躍的大模型開發工具和社區,以LLaMA大模型為例,率先提供開箱即用的650億參數預訓練方案,相比業界其他主流選擇,僅需32張A100/A800 GPU即可將預訓練速度提高38%,并且不限制商業用途,有助于為大模型企業節省大量成本。

自開源發布以來,面向大模型時代的通用深度學習系統Colossal-AI已多次在GitHub Trending上排名第一,獲得超過3萬顆GitHub Stars。100多家公司參與了Colossal-AI生態系統的建設。Colossal-AI背后的潞晨科技在今年5月獲得數億元A輪融資,至此成立18個月內已迅速連續完成三輪融資。

代碼地址://github.com/hpcaitech/ColossalAI

4、華為盤古大模型礦山領域首次商用

據第一財經報道,今日,華為聯合山東能源集團舉行發布會,宣布華為盤古大模型在礦山領域實現首次商用。

盤古礦山大模型已經在山東能源集團旗下的山東李樓煤業有限公司和山東新巨龍能源有限責任公司的煤礦中投入使用。該模型采用中心云和邊緣云兩級架構,在保證數據安全的同時具備少量樣本需求,通用性好,支持規模復制等特點。

日前,山東能源集團、云鼎科技、華為在前期試點驗證AI大模型賦能工業生產領域的基礎上,正在開發和實施首批場景應用,涵蓋采煤、掘進、主運、輔運、提升、安監、防沖、洗選、焦化9個專業的21個場景應用。

5、谷歌Bard將引入Google Maps等插件

據外媒9to5報道,谷歌可能將為旗下聊天機器人Bard添加多款插件服務,首批擴展插件包括:Google Flights、Google Hotels、Google Maps、Instacart、Kayak、OpenTable、Redfin、YouTube、Zillow。目前這些插件還未正式上線,用戶無法安裝和體驗相關功能。

6、OpenAI出走創業者公司融資已超20億美元

據量子位7月17日報道,據The Belamy統計,目前已有超過30位OpenAI高管/工程師/研究員等離職創業,而Chief AI Officer計算總融資超20億美元(約143億人民幣)。一個新的OpenAI黑幫(OpenAI Mafia)已逐漸成型。

7、百度網盤推出基于AI的高級圖搜功能

品玩7月17日訊,百度網盤日前宣布推出基于AI的高級圖搜功能,據稱可使用“帶有形容詞的名詞”進行更精確的搜索,也可以通過“地名”、“物體名稱”、“圖片中包含的文字”,查找到需要的圖片。百度網盤還支持OCR識圖和以圖搜圖功能,可以自動關聯百度百科信息和全網信息,擴展信息檢索維度。

8、ChatGPT在創造性思維上能媲美前1%的人類

財聯社7月18日電,據美國蒙大拿大學的一項最新研究,在創造性思維測試方面,AI聊天機器人ChatGPT可以與排名前1%的人類思想家相匹配。研究人員對ChatGPT使用了托倫斯創造性思維測試,這是一種最常用的創造力測試方法,并記錄了ChatGPT給出的8份答案。然后還提交了由24名蒙大拿大學學生組成的對照組的答案。

9、2022年中國AI軟件市場規模十年來首現負增長

據IDC中國公眾號今日發文,IDC近日發布了《中國人工智能軟件2022年市場份額》報告,2022年人工智能軟件市場規模為307.3億元,同比下降6.9%,整體市場近十年來首次出現下滑。

2022年計算機視覺市場規模達123.0億元,同比縮減19.1%,前五名是商湯科技、海康威視、創新奇智、曠視科技、云從科技、智慧眼科技。

在語音語義AI市場,科大訊飛仍舊位于榜首,但百度智能云、阿里云在不斷縮小與科大訊飛的距離,中長尾的廠商以分散的應用場景或者解決方案占據了59%的市場份額。

2022年機器學習開發平臺市場規模達35.4億元, 同比下降4.9%,該市場呈現出明顯的頭部廠商規模化效應,前4名廠商(第四范式、華為云、九章云極、創新奇智)占據68.9%的市場份額。

如果將整體AI市場參與者分成幾類群體,可以看到:老牌上市企業如海康威視、科大訊飛在下滑的市場中仍能實現小幅增長;成長型創企如創新奇智、第四范式可以做到高速增長;大型云廠商實現明顯增長;其他大部分廠商則均為負增長。

幸運的是,OpenAI ChatGPT及大模型熱潮又推動AI重回焦點,盡管在今年內未必能實現大規模商業化營收,但其普及的廣度、推廣的速度、滲透的深度,有望帶動AI產業快速穿越本次下行周期,重回高增長時代。

10、昆侖萬維收獲最高1500萬元大模型訂單

根據昆侖萬維公告,昆侖萬維與北京蜜萊塢網絡科技有限公司(簡稱:蜜萊塢科技)就蜜萊塢科技向公司購買AI技術服務事項達成協議。蜜萊塢科技擬向公司購買的技術服務項目包括AGI Sky-Chat SaaS API服務及AIGC SkyPaint API服務,服務內容包括AI文本生成能力,AI圖像生成能力,服務目的為支持蜜萊塢科技在定制大模型方向的技術落地,期限一年,總金額不超過人民幣1500萬元。

11、上海:積極培育提供大模型技術支持服務的企業

今日,上海市人民政府辦公廳印發《關于促進本市生產性互聯網服務平臺高質量發展的若干意見》。《若干意見》提到加快新技術整合應用,積極培育為生產性互聯網服務平臺提供垂直細分領域“大模型”技術支持服務的企業。

12、北京海淀:企業及機構已發布主模型35個

據北京日報消息,在北京市政府新聞辦7月17日召開的“北京市貫徹落實黨的二十大精神”系列主題新聞發布會上,海淀區常務副區長林劍華介紹,海淀區內已集聚約50家大模型企業、高校院所和科研機構,共發布主模型35個,在全國率先形成AI大模型集聚區。

13、浪潮信息董事長王恩東辭職

7月17日,浪潮信息發布關于董事長辭職的公告:浪潮信息董事會于近日收到董事長、中國工程院院士王恩東的書面辭職報告。為了減少兼職,王恩東申請辭去第九屆董事會董事、董事長職務及董事會下屬戰略與可持續發展委員會主任委員職務,辭職后將不再擔任浪潮信息的任何職務。

浪潮信息認為王恩東的辭職不會對公司董事會的正常運作以及公司正常經營造成重大不利影響。

根據浪潮信息第九屆董事會第二次會議決議公告,浪潮信息2022年度股東大會選舉彭震為第九屆董事會非獨立董事,現選舉彭震為董事長(彭震原任的副董事長職務同時終止)。本次選舉后,浪潮信息第九屆董事會戰略與可持續發展委員會名單調整為:主任委員彭震,其他委員張宏、王培志。

14、印度軟件巨頭簽署20億美元AI協議

據IT之家報道,印度第二大軟件服務出口商印孚瑟斯(Infosys)周一表示,已與現有客戶簽署一項協議,提供人工智能(AI)和自動化服務,為期五年,客戶支出估計為20億美元(約合143.4億元人民幣)。一份交易所文件顯示,該協議包含人工智能和自動化相關的開發、現代化和維護服務,但沒有透露客戶名字。

印孚瑟斯采取這一舉措之前,其競爭對手塔塔咨詢服務公司表示,計劃培訓25000名工程師,讓他們獲得微Azure Open AI的認證。其他競爭對手如Wipro計劃在未來三年內向人工智能投資10億美元(約合71.7億元人民幣)。

15、美國證交會主席:AI對金融市場穩定帶來風險

財聯社7月18日電,美國證券交易委員會(SEC)主席根斯勒表示,對那些AI模型的集中化現象感到憂心忡忡;SEC監督管理將受益于進一步采用AI技術;AI具備讓投資更有效率的潛力。根斯勒警告稱,AI對金融市場穩定帶來風險;監管部門必須針對AI技術設計好對策;SEC工作人員正考慮是否需要針對AI技術出臺新規。

16、Stability AI CEO:AI會使印度程序員更快消失

據科創板日報消息,Stability AI首席執行官Emad Mostaque日前表示,由于人工智能技術的進步,現在可以用更少的人來開發軟件,大多數印度程序員將失業,他補充說,生成式人工智能對技術工作的影響因國家而異,例如法國的程序員可能比印度的程序員受到更多的保護,“在印度,三級以下的外包程序員將在未來一兩年內消失,而在法國,你永遠不會解雇開發人員。”

17、FlashAttention進化 比標準Attention快5-9倍

斯坦福大學提出的新型Attention算法FlashAttention再進化。研究團隊宣布推出完全從頭開始重寫的FlashAttention-2,使用了英偉達的CUTLASS 3.x及其核心庫CuTe的原語(primitive)。FlashAttention-2的速度是FlashAttention的2倍、標準Attention的5-9倍,在A100上訓練GPT類語言模型速度高達225 TFLOPs/s。

代碼地址://github.com/Dao-AILab/flash-attention

報告地址://tridao.me/publications/flash2/flash2.pdf

18、Wix將提供AI自動生成網站服務

據The Verge今日報道,基于模板的網站建設平臺Wix宣布,很快用戶將可以通過在框中輸入描述并回答一些后續問題來創建整個網站,從設計到文本和圖像,所有內容都會自動生成,速度很快。

Wix表示,其新的AI網站生成器(AI Site Generator)功能超越了模板,使用AI和算法創建“獨特”網站。該公司使用ChatGPT和自己的工具的組合來完成這一切。ChatGPT將處理文本創建,公司自己的AI模型將完成其余工作。如果Wix的新AI網站生成器運行得足夠好,它可以讓網站建設變得更加容易。

19、傳壁仞科技尋求2023年在香港IPO

據新浪財經報道,市場消息:AI芯片公司壁仞科技據悉尋求2023年在香港IPO。

壁仞科技創立于2019年,團隊由國內外芯片和云計算領域核心專業人員、研發人員組成,聚焦GPU、DSA(專用加速器)和計算機體系結構等領域。

20、百度在海外推出AI社交APP“SynClub”

Tech星球獨家獲悉,百度在海外對AI產品進行布局,目前已在中國香港、日本等地推出了名為“SynClub”的AI社交產品。

據悉,該產品采用了百度最新AI技術,用戶可認識專屬于自己的AI朋友。SynClub通過信息量巨大且兼備娛樂和溫暖的AI朋友陪伴,可以讓用戶的聊天不再平淡,話題包括個人生活、感受以及用戶可能從未與他人分享過的事情。

21、工信部:2023大數據產業發展示范申報工作啟動

根據工信部官網,工信部辦公廳今日發布了關于組織開展2023年大數據產業發展示范申報工作的通知。本次申報圍繞4大領域13個方向,遴選一批大數據產業發展示范項目,通過樹立一批創新能力突出、應用效果良好、示范作用明顯的大數據領域標桿,推進大數據產業高質量發展。申報主體為從事或服務于大數據采集、存儲、加工、分析、應用、安全、要素流通等相關業務的企業及企業聯合體、科研院所。申報主體于2023年8月15日前,登錄“大數據產業發展示范申報系統”完成信息填報。

申報地址:
//www.bdcases.org.cn

22、賓大沃頓教授發布大模型挑選指南

賓夕法尼亞大學沃頓商學院教授Ethan Mollick在7月15日分享了一篇大模型挑選指南。這份指南旨在幫助如何選擇正確的大模型工具來做事,總結了大型語言模型的現狀,并在不同的任務中附上了不同大模型的表現對比,教讀者在六個使用場景(寫作、制圖、提出想法、做視頻、處理文件和數據、獲取信息&學習知識)下挑選大模型。

23、中國移動發布“九天”AI大模型開放合作生態

近日,中國移動在2023世界人工智能大會“大模型與深度行業智能”創新論壇上正式發布中國移動“九天”人工智能大模型開放合作生態。目前已有36家合作伙伴加入到“九天”人工智能大模型開放合作生態,包括9家高校和新型研發機構、17家人工智能基礎軟硬件骨干企業、1家三甲醫療機構、5家中央企業、4家行業和標準化組織。

24、黑客開發出協助網絡犯罪的AI聊天機器人

據IT之家7月17日報道,安全分析公司SlashNext表示,有黑客日前開發出了一款名為WormGPT的AI工具,黑客聲稱“該AI工具沒有任何限制,專為協助網絡犯罪分子而設計,可以自由生成一系列惡意代碼,或創建網絡釣魚攻擊”。

據悉,WormGPT最早在今年3月首次出現,并在6月推出了正式版本。其創建使用了2021年推出的一種名為GPT-J開源大型語言模型。該模型經過對惡意軟件創建相關數據的訓練,最終形成了WormGPT。

黑客以每月60歐元或每年550歐元的價格銷售該AI工具的使用權限,在售賣頁寫道:“該AI工具旨在提供ChatGPT的替代方案,便于用戶執行各種與黑帽相關的活動,讓任何人都可以在家中舒適地進行惡意活動。”

25、網易云音樂內測上線“私人DJ”智能推薦歌曲

據36氪7月17日報道,網易云音樂已內測上線“私人DJ”功能,該功能基于歌曲推薦算法的創新升級,實現了推薦歌曲的智能講解服務。“私人DJ”將被打造成用戶探索音樂世界的智能助手,它在傳統音樂欄目的基礎上,升級了個性化能力,在基于用戶偏好個性化推薦歌曲的同時,也為用戶講解音樂,講解內容包括推薦理由、歌曲解讀、音樂百科等內容。

26、玄武云推出首款AIGC產品

據格隆匯報道,國內智慧CRM服務供應商玄武云近日對外表示,公司已發布首款AIGC應用產品“業務員智慧助手”。據悉,該應用將賦能SFA(銷售能力自動化)產品模塊,旨在提升業務員工作全流程智慧化,助力快消企業進一步降本增效,完善營銷增長策略制定。

據玄武云AI實驗室總監丁明介紹,當前,大多數快消企業都面臨著業務員能力參差不齊、終端陳列質量不佳、終端費用浪費等問題。針對客戶面臨的上述業務困局,玄武云“業務員智慧助手”可利用AIGC五大生成功能,為快消終端的業務員提供工作全流程的智慧化輔助和建議。