智東西（公眾號：zhidxcom）
編譯 | 香草
編輯 | 李水青
智東西11月2日消息，當地時間11月1日，英國主辦的首屆全球人工智能（AI）安全峰會在英國布萊切利公園拉開帷幕。峰會第一天，包括中國、美國、英國在內的28個國家及歐盟共同簽署了《布萊切利宣言》，承諾以安全、以人為本、值得信賴和負責任的方式設計、開發、部署和使用AI。
宣言重點關注兩個方面，一是識別共同關注的AI安全風險，建立對這些風險的共同科學和基于證據的理解；二是各國制定各自基于風險的政策，以確保此類風險的安全，酌情開展合作。宣言提到，為推進這一議程，各國決定支持一個具有國際包容性的前沿AI安全科學研究網絡，該網絡包含并補充現有和新的多邊、諸邊與雙邊合作，包括通過現有的國際論壇和其他相關舉措，為政策制定和公共利益提供最佳的科學支持。
會議還確認了下一屆峰會的主辦方。英國數字部長米歇爾·唐蘭（Michelle Donelan）宣布之后將再召開兩場AI安全峰會，一場于6個月后由韓國主辦，另一場將在一年內由法國主辦。
據路透社報道，我國科技部副部長吳朝暉在開幕式上稱，中國政府愿意加強在AI安全方面的合作，幫助建立一個國際治理框架，秉持相互尊重、平等互利的原則，“國家不分大小，都享有平等開發和利用人工智能的權利……我們呼吁全球合作，分享人工智能知識，并以開源方式向公眾提供人工智能技術。”
▲我國科技部副部長吳朝暉
美國商務部長吉娜·雷蒙多（Gina Marie Raimondo）稱，美國將成立一個AI安全研究所，以評估所謂“前沿”AI模型的已知和新出現的風險。她在會上發表演講時稱：“我幾乎肯定會呼吁學術界和工業界的許多觀眾加入這個聯盟……我們無法單獨做到這一點，私營部門必須挺身而出。”
雷蒙多補充說，她還將致力于推動美國研究所與英國安全研究所建立正式的合作伙伴關系，這項新工作將由美國國家標準與技術研究院（NIST）負責。該部門稱，此研究所“將促進AI模型安全、保障和測試標準的制定，制定驗證AI生成內容的標準，并為研究人員提供測試環境，以評估新興AI風險并解決已知影響”。
▲美國商務部長雷蒙多
美國副總統卡瑪拉·哈里斯（Kamala Harris）當天在倫敦發表演講，介紹美國政府對AI的應對措施。她的演講時機受到一些英國高管和立法者的質疑，他們認為哈里斯似乎搶了AI安全峰會的風頭。
據兩位消息人士透露，哈里斯已邀請多個研究小組與她一起參加周三在倫敦大使館舉行的閉門活動，這意味著一些與會者可能不得不提前離開布萊切利公園的峰會。據報道，哈里斯將在周三晚些時候與蘇納克會面共進晚餐，并將出席周四第二天的峰會。
▲美國副總統哈里斯
英國政府還在峰會上宣布，將投資3億英鎊（約合3.64億美元）用于構建新的“AI研究資源”，以支持先進AI模型的研究。資金將主要用于建設兩臺新的超級計算機，分別位于劍橋和布里斯托爾，為研究人員提供比英國目前最大的公共AI計算工具容量大30倍以上的資源。
據稱，布里斯托爾的“Isambard-AI”超級計算機將包括來自英偉達的5000個先進AI芯片，由惠普構建；而劍橋的“Dawn”超級計算機將通過與戴爾和英國中小企業StackHPC的合作交付，并由1000多個英特爾芯片提供動力。這些機器將從明年夏天開始運行，將用于分析先進的AI模型以測試安全功能，并推動藥物發現和清潔能源方面的突破。
英國首相里希·蘇納克（Rishi Sunak）在社交媒體平臺X上稱：“前沿AI模型的力量正在呈指數級增長。這項投資將確保英國的科學人才擁有他們所需的工具，以確保最先進的AI模型的安全。”
▲蘇納克在社交媒體平臺X上評論
除了各國政府，一些科技頭部企業的高管和研究人員也出席了峰會。
埃隆·馬斯克（Elon Musk）稱，希望建立一個“第三方裁判”，能夠監督AI開發公司并在出現問題時發出警報。他在接受記者采訪時說：“我不知道公平的規則是什么，但在進行監督之前，你必須從洞察力開始。”
谷歌Deepmind聯合創始人穆斯塔法·蘇萊曼（Mustafa Suleyman）告訴記者，他并不認為目前的AI前沿模型會造成任何 “重大災難性危害”，但他談道，隨著AI行業訓練出越來越大的模型，提前做好規劃是有意義的。
結語：28國簽署新宣言，推動AI風險管控議程
此次峰會是首屆全球性質的AI安全峰會，《布萊切利宣言》的簽署有助于推動全球AI風險管理的進程。
前沿AI模型可能帶來的風險是不可忽視的，需要立法者、科技企業和國際社會共同監督與合作，確保這項技術能夠負責任地造福于所有人。
《布萊切利宣言》原文地址：
//www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023
