OpenAI CEO下場回應「封口協議」，爭議還是到了股權利益上，奧特曼：我的鍋

自從 Ilya 和 超級對齊負責人 Jan 離職後，OpenAI 內部還是心散了，後續也有越來越多的人離職，同時也引發了更多的矛盾。

昨天，爭議的焦點來到了嚴格的「封口協議」。

OpenAI 前員工Kelsey Piper 爆料，任何員工工的入職文件說明中都包含一項：「在離開公司的六十天內，你必須簽署一份包含『一般豁免』的離職文件。這份引發風浪的文件截圖，讓OpenAI CEO 迅速下場回應：

我們從未收回任何人的既得權益，如果人們不簽署分離協議（或不同意不貶損協議），我們也不會這樣做。既得股權就是既得股權（句號）。

關於OpenAI 如何處理股權，山姆・奧特曼的其他回應如下：

僅僅15 分鐘後，爆料者再次質疑並大膽提問：既然你已經知道了，那麼，先前員工的限制協議會取消嗎？

因為大部分人，想要的是一個明確的解決方案，而不只是抱歉：

爆料者Kelsey Piper 同時表示：「至於我這樣做對Sam 是否不公平— 我的意思是，我認為這是CEO 的職責之一。

去年有報道稱，OpenAI 員工薪酬中最常見的一種組合是：30 萬美元的固定基本工資，以及每年約50 萬美元的PPU（利潤參與單位）補助金，這是一種股權補償形式。也就是說，在 PPU 補助的四年期中，大多數 OpenAI 員工預計至少獲得 200 萬美元的股權薪酬。

如果消息為真，大部分「離職」的前員工應該都想「堅持到底」。

在這場風波之外，還有一條爭議同時進行：有關 OpenAI 將如何處理安全和未來風險。

據多家媒體報道，隨著最近 Ilya Sutskever、Jan Leike 兩位超級對齊團隊的共同領導者離職，OpenAI 的超級對齊團隊已被解散。週五，Jan Leike 還發布了一系列帖子，怒斥 OpenAI 及其領導層忽視“安全”而偏愛“光鮮亮麗的產品”。

今天早些時候，OpenAI 聯合創始人 Greg Brockman 對該問題進行了長文回應。

在這篇落款為「Sam and Greg」的文章中，Brockman 指出：OpenAI 已採取措施確保AI 技術的安全開發與部署。

我們非常感謝Jan 為OpenAI 所做的一切，我們知道他將繼續從外部為OpenAI的使命做出貢獻。鑑於他的離開所引發的問題，我們想解釋一下我們是如何考慮整體策略的。

#

首先，我們已經提高了人們對 AGI 風險和機會的認識，以便世界能夠更好地為其做好準備。我們多次展示了擴展深度學習的驚人可能性，並分析了其影響;在此類呼籲流行之前，我們就呼籲對 AGI 進行國際治理，並幫助開創了評估人工智慧系統災難性風險的科學。

其次，我們一直在為安全部署能力越來越強的系統奠定必要的基礎。首次使用新技術並不容易。例如，我們的團隊做了大量工作，以安全的方式將 GPT-4 推向世界，此後，我們根據部署過程中的經驗教訓，不斷改進模型行為和濫用監控。

第三，未來將比過去更艱難。我們需要不斷提升我們的安全工作，以應對每個新模型的風險。去年，我們採用了「Preparedness Framework」，以幫助將我們的工作系統化。

現在是談論我們如何看待未來的好時機。

隨著模型的功能不斷增強，我們預期它們將開始與世界進行更深入的整合。使用者將越來越多地與由許多多模態模型和工具組成的系統進行交互，這些系統可以代表他們採取行動，而不是與一個只有文字輸入和輸出的單一模型對話。

我們認為，這些系統將為人們帶來極大的好處和幫助，並且有可能安全地提供這些系統，但這需要大量的基礎工作。這包括圍繞著它們在訓練過程中與什麼聯繫在一起的深思熟慮，解決困難問題(如可擴展的監督)的方案，以及其他新型安全工作。在朝著這個方向發展的過程中，我們還不確定何時才能達到發布的安全標準，如果這將推遲發佈時間，也沒關係。

我們知道，我們無法想像未來所有可能發生的情況。因此，我們需要一個非常嚴密的回饋迴路、嚴格的測試、每一步的慎重考慮、世界一流的安全性，以及安全與功能的和諧統一。我們將繼續針對不同的時間尺度進行安全研究。我們也將繼續與各國​​政府和許多利益相關者就安全問題​​進行合作。

在通往人工智慧的道路上，沒有行之有效的指南。我們認為，經驗性的理解可以幫助我們指明前進的道路。我們相信，既要實現巨大的發展前景，也要努力降低嚴重的風險;我們非常認真地對待我們在這方面的角色，並仔細權衡對我們行動的反饋意見。

— Sam and Greg

但效果似乎不盡人意，甚至受到了嘲諷：

AI 領域的活躍學者Gary Marcus 也表示：透明度勝於雄辯。

看起來，Greg Brockman 並不打算對政策或承諾方面做出更具體的回應了。

在Jan Leike 和Ilya Sutskever 離開後，另一位OpenAI 聯合創始人John Schulman 已轉而負責超級對齊團隊正在做的工作，只是不再有一個專門的部門，而是一個鬆散關聯的團隊。嵌入公司各部門的研究人員小組。 OpenAI 將其描述為「更深入地整合（團隊）」。

爭議背後的真相是什麼呢？也許 Ilya Sutskever 最清楚，但他選擇了一個體面離場，今後可能也不會再談起這件事。畢竟，他已經有了「一個對個人而言非常有意義的項目」。

#

以上是OpenAI CEO下場回應「封口協議」，爭議還是到了股權利益上，奧特曼：我的鍋的詳細內容。更多資訊請關注PHP中文網其他相關文章！