智東西(公眾號:zhidxcom)
編譯 | Alyssa
編輯 | 李水青

智東西5月29日消息,據美國知名科技媒體Business Insider報道,前OpenAI高管Jan Leike于當地時間5月29日宣布加入競爭對手Anthropic。

Leike在X上稱:“我很興奮能加入Anthropic團隊,繼續推進超級對齊任務!我的新團隊將致力于可擴展的監督機制、弱到強泛化以及自動化對齊研究。如果你也對加入我們感興趣,歡迎通過私信聯系我。”

前OpenAI安全主管跳槽,加盟競爭對手Anthropic,繼續做超級對齊

▲Jan Leike在X上的官宣推文

Leike在不到兩周前離開OpenAI,通過X平臺宣布離職,指責ChatGPT制造商將“吸引眼球的產品”置于“安全文化和流程”之前。

Leike曾與OpenAI聯合創始人Ilya Sutskever共同領導OpenAI的超級對齊團隊,該團隊負責防止超級智能失控,現已解散,剩余成員并入核心研究團隊。Sutskever也已辭職。

Anthropic由前OpenAI員工Dario Amodei和Daniela Amodei兄妹于2021年創立,亞馬遜已對其投資40億美元,并持有少數股權,該公司一直試圖將自己定位為比競爭對手更有安全意識的公司。Anthropic透露將利用亞馬遜云服務的服務器和芯片來訓練和運行大語言模型。

除Leike和Sutskever外,OpenAI近期還有其他員工離職,如政策研究員Gretchen Krueger于上周在X平臺上表示已于5月14日辭職,她認同其他人表達的一些關于安全問題的擔憂。

OpenAI當地時間5月28日宣布,已由董事Bret Taylor、 Sam Altman、 Nicole Seligman和Adam D’Angelo監督成立了安全與保障委員會,并開始測試其“下一代前沿模型”。

來源:Business Insider