芯東西（公眾號：aichip001）
編譯?| 王傲翔
編輯 | 程茜

芯東西4月3日消息，據路透社昨日報道，美國和英國于4月1日簽署了一份諒解備忘錄，正式宣布建立新的合作伙伴關系，在AI安全和測試方面開展合作，共同致力于AI安全科學的研究與發展。

隨著AI技術的加速迭代及其在社會中的普遍使用，AI暴露出來的潛在安全和倫理問題也成為社會熱議話題，民眾對即將到來的下一代AI版本的擔憂與日俱增。英美兩國計劃合作開發最先進AI模型測試技術，以兌現去年11月AI安全峰會上做出的應對AI風險的承諾。此外，雙方還打算加強兩國AI研究所的人員交流與協作，運用專業知識應對AI風險。

一、全球首個AI雙邊協議，趕在下一代模型之前合作

根據4月1日建立的正式合作伙伴關系，英美兩國計劃在一個可公開訪問的大模型上進行至少一次聯合測試演練，并考慮探索兩機構之間的人員交流。據報道，兩國正與其他國家發展類似的伙伴關系，以促進AI安全。

美國商務部部長吉娜·雷蒙多（Gina Raimondo）和英國技術大臣米歇爾·唐蘭（Michelle Donelan）周一在接受路透社聯合采訪時表示，各國迫切需要采取聯合行動來應對AI風險。

在接受采訪時，雷蒙多說：“我們都知道AI是我們這一代人的決定性技術。兩國的此次合作將加速美英兩家研究所在各個領域的工作，以應對國家安全風險，并回應社會的廣泛關切。”此外，她稱將在周四于比利時舉行的美歐貿易和技術委員會（U.S.-EU Trade and Technology Council）上提出AI相關問題，并透露美國政府計劃很快宣布AI研究所的新增人員。

“這是世界上的首個此類協議。”唐蘭稱，“AI已經是我們社會中一股非凡且有益的力量，在應對世界上一些最大的挑戰方面有著巨大的潛力，但前提是我們必須能夠控制AI潛在的風險。”

在采訪中，唐蘭強調時間至關重要，因為新的AI大模型即將發布，其能力將大大增強。她認為此次合作的重點是美英兩國分工、掌握并將其真正專業化的AI領域。

此外，兩國計劃分享與AI模型和系統相關的能力和風險，以及AI安全和安保技術研究方面的關鍵信息。

雷蒙多最后提到，她尤其擔心AI應用于生物恐怖主義或模擬核戰爭的威脅。她認為這些事情的后果可能是災難性的，因此必須對這種功能的模型采取零容忍的態度。

二、建立AI安全研究所，英美兌現《布萊切利宣言》承諾

去年11月1日，由英國倡議發起的首屆“全球AI安全峰會”在倫敦北部布萊切利園（Bletchley Park）舉行。會議首日，包括中國、美國、英國在內的28個國家及歐盟共同簽署了《布萊切利宣言》，承諾加快識別AI產生的風險，建立對風險的科學認知，并制定跨國風險緩解政策。

會議當日，美國政府指示美國商務部成立美國AI安全研究所。今年2月8日，美國商務部部長吉娜·雷蒙多（Gina Raimondo）宣布了美國人工智能安全研究所（AISI）執行領導團隊的主要成員。AISI專注于評估前沿AI模型帶來的風險，并與200家公司和經濟實體建立了合作。

英國首相里希·蘇納克（Rishi Sunak）也于去年11月2日宣布成立全球首個AI安全研究所，以研究、評估和測試新型AI，并于今年2月宣布將斥資超過1億英鎊（約合9.09億人民幣）啟動九個新的研究中心，并對監管機構進行AI技術培訓。

結語：加強AI治理，各國應合作共贏

生成式AI可以根據開放式的提示創建文本、照片和視頻，引發了人們對AI的普遍關注，同時也使許多人擔心它可能會讓一些工作崗位被淘汰，并產生用戶隱私泄露、數據篡改等安全風險。此外，大模型的訓練數據如果存在誤導，可能會出現歧視性問題。

英美此次在AI領域的正式合作，使兩國能夠共享AI治理技術，并在未來能夠相互借調研究人員交流AI專業知識，給全球AI治理提供創新思考。另外，在技術之外，各國政府正在加強合作，建立監管機構以及加強AI技術普及與宣傳，共同應對AI安全風險，在保障AI技術的安全與合規基礎上，促進AI技術的發展和普遍應用。

來源：路透社