智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西9月7日報道，2023Inclusion·外灘大會9月7日在上海黃浦世博園正式開幕。這場以“科技·創造可持續未來”為主題的大會為期三天，設有1場主論壇、36場見解論壇、8000平方米科技展覽、3000平方米綠色集市，并首次舉辦科技人才招聘會。
在主論壇上，機器學習泰斗、三院院士Michael I.Jordan分享了對解決人工智能（AI）系統中不確定性的思考，中國科學院院士張人禾談到科學智能已成AI重點發展方向，中國科學院院士何積豐重點探討了大模型時代的安全與隱私問題。
包括他們在內，近20位“兩院”院士、諾貝爾獎和圖靈獎得主，全球超500位有影響力的科技領軍企業和專家學者，以及來自孟加拉、馬來西亞、尼日利亞等新興市場國家的科技創業者，聚焦人工智能、大模型、抗量子密碼、隱私計算、圖計算、安全智能、區塊鏈、Web3.0等前沿數字科技及產業實踐，展開深度交流，并與會發布最新科技成果。
本屆大會以“科技·創造可持續未來”為主題，展區面積達8000平米，參展單位包括英偉達、螞蟻集團、美國運通中國合資公司、眾安保險、復旦大學、同濟大學、泰康、萬事利等。6G、無人安全檢測實驗室、腦紋核身、蟻鑒2.0、城市鏈、AI大腦訓練、支付芯、寵物生物識別系統、區塊鏈溯源、數字人虛擬空間等十大黑科技在展區亮相。
▲由螞蟻安全實驗室聯合信通院、腦機合作生產廠商博瑞康共同推出的全球首個腦機頭戴核身技術互動
現場還有一支特殊的講解團——由螞蟻集團與上海老年大學共同打造的藍馬甲銀發宣講團，用通俗易懂的語言，向參展觀眾介紹隱私計算、圖計算、可信AI等，帶領大家感受科技力量。
本屆外灘大會同時打造有線上虛擬空間，在支付寶上搜索“外灘大會”進入官方小程序，即可創建屬于自己的虛擬數字人，在虛擬世界中體驗數字展廳、觀看外灘論壇直播。
一、機器學習泰斗Michael I.Jordan：AI的本質是集體，而不是個體
機器學習泰斗，美國科學院、美國工程院、美國藝術與科學院三院院士Michael I.Jordan在演講中談道，不確定性應對不好，不可能有非常好的金融科技技術。ChatGPT也沒有辦法對不確定性進行量化，所以我們需要去解決這個問題，找到一個可能的方法去應對這些挑戰。
怎么應對在一個協作式的、去中心化的系統當中來實現集體智能？他分享說，可以設計一個集體智能體，去解決AI系統中不確定性。
一個小小的個體錯誤，可能會產生很大的系統性錯誤。以AI蛋白質結構預測系統AlphaFold為例，它的預測能力強于人類，但可能得出完全錯誤的預測結果，如果不用AlphaFold，又沒辦法很快做科學實驗。
對此，Michael I.Jordan提到一個叫預測驅動的推理方法，能夠找到一個高可信的值，可將置信區間做修正，得出一個新的可預測數字。
“我并沒有覺得AI會替代人，它只不過就是一個新的工程系統，”Michael I.Jordan說，“科技就是一個非常很好的新的工程系統，因為每個人是普適，而且是公平、公正、透明、穩定的，這些特性是整個工程系統的特點，而不是系統當中個體的特點。所以AI它是關于一個集體，而不是關于一個個體。”
二、中科院院士張人禾：科學智能已成AI重點發展方向，要進行“有組織科研”
耗時3秒以內，擁有45億參數的伏羲氣象大模型，即可預報未來15天的全球天氣。這便是AI和科學研究結合之后帶來的改變。
中國科學院院士、復旦大學副校長張人禾在演講時談道，科學智能（AI for Science）已經成為AI的重點發展方向，推動跨學科的交叉研究，激發創新突破；加速科技創新與產業變革的深度融合，推動產業轉型升級。“科學智能是推動科學研究范式變革、實現科技原始創新策源的利器，擁有引爆產業創新核爆點的巨大潛能。”
科學智能的發展正從部分機構的探索變成產學研各界的共識，從點狀突破轉變為系統布局。
近年來，國外加速布局，科學智能發展進入快車道。2023年5月，美國能源部發布《面向科學、能源和安全的人工智能》報告指出AI將從底層推動科學、能源和安全的發展，并展開布局。馬斯克近期成立對標OpenAI的新公司xAI，旨在回答更深層次的科學問題，期望未來用AI去幫助人們去解決復雜的科學和數學問題并且“理解”宇宙。
在科研領域，斯坦福大學、麻省理工學院等知名學府，谷歌、Meta等科技企業紛紛入局開展體系化研究。國內科學智能也在迅速發展，相繼涌現出大量的科學領域大模型，但仍處在起步階段。張人禾說，隨著AI時代來臨，“單打獨斗”已不適應大科學時代的科技創新，要進行“有組織科研”，最大的優勢在于布局建設大平臺。
他透露道，近年來，復旦大學在AI領域進行了頗有成效的探索。截至2023年6月17日，復旦大學申請的有效法律狀態的發明專利共6973件，其中計算機科學技術領域2048件。此外，學校承擔“人工智能前沿基礎理論與關鍵技術”、“腦與類腦智能基礎轉化應用研究”兩個市級重大專項攻關國際首個全腦計算平臺。多個團隊在頂刊、頂級會議發表AI領域代表性論文成果。
三、中科院院士何積豐：給大模型安全問題戴上“緊箍咒”
中國科學院院士何積豐談道，大模型存在一些安全隱憂：1、大模型開啟了真正意義上的通用人工智能，人類如何應對一個比自己更強大的智能？2、大模型的通用能力讓其能應用到人類生產生活的各個場景中，一旦AI出現安全問題，其影響將難以預估。
大模型的安全問題包括隱私與對齊。
隱私問題主要是指未經同意的情況下收集、使用和泄露個人信息，可能發生在訓練過程中，涉及大量用戶個人信息和數據，也可能發生在使用過程中，涉及很多用戶私密信息。而大模型的生成能力讓“隱私泄露”的方式變得多樣化，使得隱私保護更加困難。
應對這些問題，需要大模型對齊技術。
何積豐說，對齊是指系統的目標和人類價值觀一致，使其符合設計者的利益和預期不會產生意外的有害后果。“如果把人工智能看作西游記里的孫悟空，對齊就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非為。”
他分享了機器人學三定律：第一定律是機器人不得傷害人類，或因不作為使人類受傷害；第二定律是除非違背第一定律，機器人必須服從人類的命令；第三定律是除非違背第一及第二定律，機器人必須保護自己。
對齊的基礎是，“人類價值觀”是多元且動態變化的。人類的價值與判定系統本身充滿偏見和盲點，有很多互相矛盾的地方和沒有明確指出的潛在條件。大模型“有用性”和“無害性”兩個目標不完全一致，如何對錯誤進行有效糾正，設好大模型的“緊箍咒”，給做好對齊帶來挑戰。
因此，對齊技術成為一項令人眼花繚亂的跨學科研究，不僅考驗技術，也在審視我們的文化。
何積豐認為，反饋強化學習是實現對齊的技術途徑，目前有兩種方式，一是通過反饋給模型不同的獎勵信號，引導模型高質量輸出；二是基于給大模型提供明確的原則，系統自動訓練模型對所有生成的輸出結果提供初始排序。“這意味著，不僅智能系統需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。”何積豐說。
四、麥肯錫中國區主席倪以理：生成式AI或為全球經濟增加數萬億美元
麥肯錫中國區主席、麥肯錫全球資深董事合伙人倪以理以《中國下一個十年：中國企業的制勝關鍵期》為主題發表演講。
他談道，生成式AI可能會為全球經濟增加數萬億美元的價值，但這個時代才剛剛開始。
“我們做了一個測算，在未來的AI對于全球經濟的創造的收益，是9萬億美金，但是整體廣泛的AI可能是達到25萬億美元。”倪以理說，所有的行業多多少少都受到生成式AI的影響，生成式AI的是2萬億到4萬億美金。
生成式AI用例可能大幅度促進生產力提升，并提供新的就業機會。2023年，生成式AI對過去自動化潛力較低的領域將產生最大影響，對所有的決策跟協作的工作帶來的影響是加大的。
然而，關鍵是組織要改變、適應、重新培訓員工，從而使生成式AI和其他創新在組織中落地——這需要領導力和變革。
2023年是變革開啟的一年，倪以理認為中國十年、二十年，中國企業的商業模式須從過去的Beta走到Alpha。Beta是市場，Alpha是在市場當中比人家做得好。
從Beta到Alpha年代的轉變中，倪以理看到中國企業大規模轉型面臨的關鍵挑戰有4個：
1、沿用固有戰法。中國企業過去20年取得了輝煌成就，但未來20年的制勝因素與過去的成功因素明顯不同。
2、人才和思維。部分高管白手起家，缺少面向未來作出改變的思維模式。“下命令、強管控”的領導風格在復雜的行業環境下需要適應和調整。
3、創新成果“規模效應”。新業務規模太小，短期無法產生影響。各項變革往往半途而廢，或在阻力增大時被叫停。
4、變革的勇氣不足。任何轉型需要勇氣和企業文化深刻變革，漸進主義是變革大敵，關鍵是轉型知易行難。
”時代新章即將開啟，下一個時代將是一個怎么樣的時代？最主要當然是科技，最主要當然是人工智能，還有很多其他的，讓我們覺得未來的十年，未來的年代，跟過去不一樣。”倪以理說，更重要的是企業本身，要具備這樣的條件、勇氣、抱負、愿景，使其能戰勝下一個新的時代。
結語：集中展示前沿技術創新，注重人文、綠色、可持續發展
本屆外灘大會展示了AI、區塊鏈、隱私計算等前沿技術的創新突破、產業實踐，同時也將以沉浸式、場景化的方式讓與會者體驗數字技術推動下城市、產業和生活的新可能。
“人文”這一關鍵詞貫穿大會始終，在技術發展的大背景下，如何幫助社會更好地適應數字革命？對此，大會設有“可持續發展篇章”，重點關注社會責任、風險應對、ESG、科技倫理、消費者權益保護、數據安全和隱私保護、就業和人才發展等話題，并將舉辦40家科技企業聯合招聘會。
本屆大會的科技展覽和綠色集市，展示科技在金融服務、出行、政務辦事、安全等領域的應用成果，更加貼近市民生活；綠色集市設有荒漠、森林、海洋、城市四大主題體驗區，近30個綠色可持續品牌參與，展示新潮的綠色生活方式、豐富的低碳商品、有趣的公益環保互動。
