首頁  >  文章  >  科技週邊  >  OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

PHPz
PHPz轉載
2024-04-13 08:13:20491瀏覽

半年來內鬥劇情起伏的企業 OpenAI,再次傳來人員變動的消息。

The Information 報道,據知情人士透露,OpenAI 已經解雇了兩名涉嫌洩露資訊的員工。

OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

一位是 Leopold Aschenbrenner,是 OpenAI 超級對齊團隊的研究員。

OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

他是 OpenAI 首席科學家 Ilya Sutskever 的盟友,去年秋天,Ilya 參與了逼走 OpenAI CEO Sam Altman 的行動,但以失敗告終。

另一名被解僱的員工 Pavel Izmailov 在 OpenAI 從事推理相關的研究,也曾在超級對齊團隊工作過一段時間。

OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

兩人曾在團隊的多項工作中合作,包括這篇廣受關注的《Weak-to-Strong Generalization》(https ://arxiv.org/abs/2312.09390)。

OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

目前尚不清楚的是,這兩位被解僱的員工到底洩漏了哪些資訊。

兩人的離職,是 Sam Altman 今年 3 月重新擔任董事會成員以來首次公開的人事變動。在此之前,OpenAI 的非營利董事會領導了一項調查,為 Altman 在去年 11 月被短暫解僱前的行為開脫罪責。

OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

回顧「宮鬥」事件的細節,我們或許可以發現一些端倪。在下台之前,OpenAI 的員工在公司是否足夠安全地開發人工智慧的問題上存在分歧。

共同創辦人 Ilya Sutskever 是解僱 Altman 的董事會成員之一,董事會表示 Altman 缺乏坦誠。在 Altman 重新擔任 CEO 後,Sutskever 離開了董事會。自從那場風波後,他基本上就沒有再出現在 OpenAI 的舞台上。

但宮鬥事件後,Sam Altman 也沒有迴避過對Ilya 的讚美,表示自己非常尊重並欣賞Ilya,希望未來的工作生涯都能和他合作:「Ilya 並沒有看到通用人工智能,但Ilya 是人類的功臣。 ,這讓他內心不安。欣賞Ilya 的眾多原因之一是他非常認真地對待AGI 和安全問題,從廣義上講,這包括AGI 將對社會產生的影響。之一。是人類的功臣,他想了很多,也擔心了很多。該團隊由 Ilya Sutskever 去年夏天組建,目的是開發控制和引導高級人工智慧(即超級智慧)的技術,這些高級人工智慧可能會解決核融合問題或殖民其他星球。

Aschenbrenner 19 歲時畢業於哥倫比亞大學,此前曾在未來基金(Future Fund)工作,這是FTX 前CEO Sam Bankman-Fried 創辦的慈善基金,旨在資助“改善人類長期前景”的專案.
顯然,Aschenbrenner 更傾向於「有效利他主義」(effective altruism)的立場,將解決人工智慧的危險性置於短期利潤或生產力利益之上。就在一年前,Aschenbrenner 加入了 OpenAI。

當初解僱 Altman 的幾位董事會成員也與有效利他主義有關。例如,Tasha McCauley 是 FTX 資助的慈善機構、有效利他主義中心的母公司 Effective Ventures 的董事會成員,Helen Toner 曾在以有效利他主義為重點的慈善項目工作。而這兩個人,都在 Altman 11 月底重新擔任 CEO 的時候離開了董事會。

至於 Pavel Izmailov,此前就已經在個人主頁披露了未來計劃:2025 年秋季加入紐約大學擔任助理教授。

OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?

對於這則訊息,當事雙方和 Ilya 都沒有正式回覆。可能大家最在意的是, Ilya 會不會隨後離開 OpenAI?只能說很難預測。

參考連結:https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking

#

以上是OpenAI解僱兩名Ilya團隊成員,與「宮鬥」洩密有關?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:jiqizhixin.com。如有侵權,請聯絡admin@php.cn刪除