首頁 >科技週邊 >人工智慧 >突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩

WBOY
WBOY轉載
2024-04-15 09:01:18611瀏覽

突發! OpenAI開人了,理由:涉嫌資訊外洩。

一位是失蹤的首席科學家Ilya盟友,超級對齊(Superalignment)團隊核心成員Leopold Aschenbrenner。

另一位也不簡單,是LLM推理團隊研究員Pavel Izmailov,曾經也在超級對齊團隊幹過。

目前尚不清楚這兩個人到底洩漏了啥訊息。

訊息被爆出後,不少網友表示「挺震驚」:

不久前我還看過Aschenbrenner的貼文,感覺他正處於事業上升期,沒想到會有這樣的轉變。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

還有網友認為:

OpenAI失去Aschenbrenner,Ilya Sutskever也被邊緣化,該公司對於建構安全AI的承諾看起來更加不可信了。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

OpenAI人才流動,與GoogleMeta互挖牆腳已經見怪不怪,但開除形式的人事調動,還是去年11月董事會叛變之後的第一回。

兩人曾經都是Ilya的部下

據了解,Leopold Aschenbrenner於一年前加入OpenAI。此前他曾在Future Fund工作過,再往前追溯,19歲從哥倫比亞大學畢業,也曾在牛津大學做過經濟成長的研究。

Pavel Izmailov這邊,他也是紐約大學CILVR小組成員,本人透露2025年秋將加入紐約大學Tandon CSE、Courant CS擔任助理教授。

目前,兩人的X首頁還都備註著與OpenAI的關係。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

最近這個月兩個人都沒有發新推文,不過置頂貼文倒是很亮眼。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩

沒錯,都是超級對齊團隊的第一篇論文,兩人都是這篇論文的作者。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩

這就不得不說到這個團隊,組團於去年7月份,是OpenAI為應對不同時間尺度上大模型可能會產生的安全問題,成立的三大安全團隊之一。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

超級對齊團隊負責遙遠的未來,給超越人類的超級智慧安全性奠定基礎,由Ilya Sutskever和Jan Leike領導。

雖然OpenAI看起來似乎在安全方面很重視,但其內部對AI的安全開發存在很大分歧已不是什麼秘密。

這種分歧甚至被認為是去年11月OpenAI董事會內訌的最大原因:

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

網傳Ilya Sutskever成為「政變」帶頭人,就是因為看到了一些東西讓他內心不安。

而Ilya帶領的這個超級對齊團隊,很多成員也是站在Ilya這邊,在後來支持奧特曼的比心接龍活動中,這個超級對齊團隊成員也基本上保持了沉默。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

隨著OpenAI內訌事件的平息,奧特曼成為贏家,Ilya Sutskever離開董事會幾乎沒再公開露頭,超級對齊團隊現在是個什麼情況咱也不知道。

再說回到這次兩位研究員被解僱。

兩人曾經都是Ilya部下,the information也表示Aschenbrenner是Ilya盟友、與優先考慮解決AI危險性的運動有關。

所以,也有網友猜測這次裁員是奧特曼的「秋後算帳」。

和Q*洩密有關?

除此之外,網友比較關心還有洩密的內容究竟是什麼。

目前猜測的焦點還是放在Q*,也就是董事會叛變大戲的導火線之一。

根據網友評論,Jimmy apples似乎發過相關推文,但沒多久我們看到連結打開時已是推文被刪的大狀態…

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

從遺留的蛛絲馬跡來看,好像大概也許還是跟Q*有關。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

目前Q*從傳聞,已經變成被正式確認的存在,但關於它的一切,奧特曼本人目前都守口如瓶。

突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩圖片

總之自從Q*之後,OpenAI內部開始出現理念分歧。

經歷一連串風波後,93%的員工簽署聯名信與奧特曼共存亡,調查結果公佈後奧特曼無罪重返董事會。

看似風平浪靜,上下一心致力於實現AGI背後,裂痕仍舊存在。

參考連結:
[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[ 2]https://x.com/BenjaminDEKR/status/1778536771837694353
[3]https://twitter.com/leopoldasch
[4]https://twitter.com/Pavel_Izmailov
#[5 ]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/

以上是突發! OpenAI開除Ilya盟友,理由:涉嫌資訊外洩的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除