OpenAI 前员工 William Saunders 将公司形容为'泰坦尼克号”，而自己则是'冰山”

前 OpenAI 员工、公司“超级调整团队”成员 William Saunders 最近透露，他辞职是因为他觉得公司正在与悲剧相撞，就像命运多舛的 R.M.S. 1912 年的泰坦尼克号。

一位前 OpenAI 员工将该公司与命运多舛的 R.M.S. 进行了比较。 1912 年的《泰坦尼克号》，他说他离开是因为他感觉到人工智能。公司正处于与悲剧相撞的轨道上。

OpenAI“超级调整团队”成员 William Saunders 于 2022 年退出公司。

据 Business Insider 报道，Saunders 在科技记者 Alex Kantrowitz 的播客中发表了评论。

Saunders 告诉 Kantrowitz，在 OpenAI 的三年里，他有时会问自己公司是否走在一条“更像阿波罗计划还是更像泰坦尼克号”的道路上。

他的推理似乎是通过谨慎的态度就科学努力而言，阿波罗太空计划尽管遇到了挫折，但仍然取得了成功，而泰坦尼克号尽管取得了成功，却还是失败了。

Per Saunders：

广告

利用 Markets Pro 即时提醒进行智能交易。立即申请 65% 折扣！

OpenAI as TitanicSaunders 描述了该公司的总体精神，即优先考虑产品开发而不是实施合理的安全预防措施。

他描绘了一幅办公室的景象：提出安全问题的员工会受到惩罚，而领导层则专注于利润。

“随着时间的推移，”桑德斯说，“开始真正感觉领导层做出的决定更像是白星航运公司建造泰坦尼克号。”

冰山桑德斯并不是第一个不同意这种方式的人据称 OpenAI 正在开展业务。该公司关系疏远的联合创始人之一埃隆·马斯克(Elon Musk)最近起诉该公司，称其偏离最初的使命太远。尽管事实上马斯克已经多年没有参与 OpenAI 并且目前运营​​着他自己的直接竞争对手 xAI。该诉讼随后被撤回。

竞争对手 AI 公司 Anthropic 由前 OpenAI 员工和联合创始人于 2021 年创立，原因是担心 OpenAI 不够注重信任和安全。

但另一方面，Ilya Sutskever，另一位现已疏远的联合创始人兼前首席科学家于 2024 年 5 月离开公司，创办了自己的公司，当时他写道，他“相信”OpenAI 团队能够安全地实现其目标。

有如此多的员工跳槽，而泰坦尼克号的类比被至少一个人广泛流传，眼前的问题是：冰山是谁或是什么？

如果类比中的乘客是我们——全人类——那么冰山就代表了 ChatGPT 和类似系统对毫无准备的社会构成的生存威胁。如果人工智能变得比我们更聪明、更有能力，而我们没有足够的“救生艇”来保护每个人免受其潜在伤害，那么我们可能会走向悲剧。

但是，如果乘客是等待 OpenAI 创造与人类一样聪明的人工智能的股东和利益相关者，而这从未发生，那么也许冰山代表了生成式人工智能泡沫的破裂。

相关：如果人类水平的人工智能不能很快实现，大型科技公司将面临财务清算

以上是OpenAI 前员工 William Saunders 将公司形容为'泰坦尼克号”，而自己则是'冰山”的详细内容。更多信息请关注PHP中文网其他相关文章！