OpenAI 前員工 William Saunders 將公司形容為'泰坦尼克號”，並將自己形容為'冰山”

前 OpenAI 員工、公司「超級調整團隊」成員 William Saunders 最近透露，他辭職是因為他覺得公司正在與悲劇相撞，就像命運多舛的 R.M.S. 1912 年的泰坦尼克號。

一位前 OpenAI 員工將該公司與命運多舛的 R.M.S. 進行了比較。 1912 年的《泰坦尼克號》，他說他離開是因為他感覺到人工智慧。公司正處於與悲劇相撞的軌道上。

OpenAI「超級調整團隊」成員 William Saunders 於 2022 年退出公司。

據 Business Insider 報道，Saunders 在科技記者 Alex Kantrowitz 的播客中發表了評論。

Saunders 告訴 Kantrowitz，在 OpenAI 的三年裡，他有時會問自己公司是否走在一條「更像阿波羅計畫還是更像泰坦尼克號」的道路上。

他的推理似乎是通過謹慎的態度就科學努力而言，阿波羅太空計劃儘管遇到了挫折，但仍然取得了成功，而泰坦尼克號儘管取得了成功，卻還是失敗了。

Per Saunders：

廣告

利用 Markets Pro 即時提醒進行智慧交易。立即申請 65% 折扣！

OpenAI as TitanicSaunders 描述了該公司的整體精神，即優先考慮產品開發而不是實施合理的安全預防措施。

他描繪了一幅辦公室的景象：提出安全問題的員工會受到懲罰，而領導層則專注於利潤。

「隨著時間的推移，」桑德斯說，「開始真正感覺領導層做出的決定更像是白星航運公司建造泰坦尼克號。」

冰山桑德斯並不是第一個不同意這種方式的人據稱OpenAI 正在開展業務。該公司關係疏遠的聯合創始人之一 Elon Musk最近起訴該公司，稱其偏離最初的使命太遠。儘管事實上馬斯克已經多年沒有參與 OpenAI 並且目前經營著他自己的直接競爭對手 xAI。該訴訟隨後被撤回。

競爭對手 AI 公司 Anthropic 由前 OpenAI 員工和聯合創始人於 2021 年創立，原因是擔心 OpenAI 不夠注重信任和安全。

但另一方面，Ilya Sutskever，另一位現已疏遠的聯合創始人兼前首席科學家於2024 年5 月離開公司，創辦了自己的公司，當時他寫道，他「相信」OpenAI 團隊能夠安全地實現其目標。

有這麼多的員工跳槽，而泰坦尼克號的類比被至少一個人廣泛流傳，眼前的問題是：冰山是誰或是什麼？

如果類比中的乘客是我們——全人類——那麼冰山代表了 ChatGPT 和類似系統對毫無準備的社會構成的生存威脅。如果人工智慧變得比我們更聰明、更有能力，而我們沒有足夠的「救生艇」來保護每個人免受其潛在傷害，那麼我們可能會走向悲劇。

但是，如果乘客是等待 OpenAI 創造與人類一樣聰明的人工智慧的股東和利益相關者，而這從未發生，那麼也許冰山代表了生成式人工智慧泡沫的破裂。

相關：如果人類水平的人工智慧不能很快實現，大型科技公司將面臨財務清算

以上是OpenAI 前員工 William Saunders 將公司形容為'泰坦尼克號”，並將自己形容為'冰山”的詳細內容。更多資訊請關注PHP中文網其他相關文章！