전 OpenAI 직원인 William Saunders는 회사를 \'타이타닉\'으로, 자신을 \'빙산\'으로 묘사합니다.

전 OpenAI 직원이자 회사의 '슈퍼얼라인먼트 팀' 멤버인 윌리엄 손더스(William Saunders)는 최근 회사가 불운한 R.M.S.처럼 비극과 충돌할 것이라고 느꼈기 때문에 회사를 그만뒀다고 밝혔습니다. 1912년 타이타닉.

전직 OpenAI 직원은 이 회사를 불운한 R.M.S.에 비유했습니다. 1912년 타이타닉에서는 인공지능을 느껴 떠났다고 한다. 회사는 비극과 충돌할 위기에 처해 있었습니다.

OpenAI의 "초정렬 팀"의 일원인 William Saunders는 2022년에 회사를 그만뒀습니다.

Business Insider가 목격한 대로 Saunders는 기술 저널리스트 Alex Kantrowitz의 팟캐스트 에피소드에서 자신의 논평을 했습니다. .

Saunders는 Kantrowitz에게 OpenAI에서 근무한 3년 동안 회사가 "아폴로 프로그램에 더 가까운지 아니면 타이타닉에 더 가까운" 길을 가고 있는지 가끔 자문하곤 했다고 말했습니다.

그의 추론은 신중함을 통해 그런 것 같습니다. 과학적 노력 덕분에 아폴로 우주 프로그램은 실패에도 불구하고 성공했고, 타이타닉은 성공에도 불구하고 실패했습니다.

Per Saunders:

광고

Markets Pro 즉시 알림으로 스마트하게 거래하세요. 지금 65% 할인을 받으세요!

OpenAI는 TitanicSaunders가 회사의 일반적인 정신을 합리적인 안전 예방책 구현보다 제품 개발에 더 높은 우선순위를 두는 것으로 설명합니다.

그는 안전 문제를 제기한 직원이 처벌을 받고 리더십이 이익에 집중되는 사무실의 모습을 그립니다.

“시간이 지남에 따라 리더십이 내리는 결정이 타이타닉을 건설하는 White Star Line과 더 비슷해지기 시작했습니다.”

빙산Saunders는 이러한 방식에 동의하지 않은 최초의 사람이 아닙니다. OpenAI가 사업을 하고 있는 것으로 알려졌습니다. 회사의 소원한 공동 창업자 중 한 명인 엘론 머스크(Elon Musk)는 최근 원래 사명에서 너무 멀리 벗어났다는 주장으로 회사를 고소했습니다. 이는 머스크가 수년 동안 OpenAI에 관여하지 않았고 현재 자신의 직접적인 경쟁자인 xAI를 운영하고 있다는 사실에도 불구하고 그렇습니다. 소송은 이후 철회되었습니다.

라이벌 AI 회사 Anthropic은 OpenAI가 신뢰와 안전에 충분히 초점을 맞추지 않았다는 우려로 전 OpenAI 직원과 공동 창업자들이 2021년에 설립했습니다.

그러나 반대로 Ilya Sutskever는 현재 소원해진 또 다른 공동 창업자이자 전 수석 과학자는 2024년 5월 회사를 떠나 자신의 회사를 시작했으며 당시 OpenAI 팀이 목표를 안전하게 달성할 수 있을 것이라고 "확신"했다고 썼습니다.

너무 많은 직원이 배에서 뛰어내리고 타이타닉 비유가 적어도 한 명 이상 떠들썩한 상황에서 당면한 질문은 다음과 같습니다. 빙산은 누구 또는 무엇입니까?

비유의 승객이 우리, 즉 모든 인류라면 빙산은 ChatGPT 및 이와 유사한 시스템이 준비되지 않은 사회에 가하는 실존적 위협을 나타냅니다. AI가 우리보다 더 지능적이고 유능해지면 잠재적인 위험으로부터 모든 사람을 보호할 수 있는 "구명보트"가 충분하지 않다면 우리는 비극으로 향할 수 있습니다.

그러나 승객이 OpenAI가 인간만큼 똑똑한 AI를 만들고 결코 그런 일이 일어나지 않기를 기다리는 주주 및 이해관계자라면 아마도 빙산은 생성 AI 거품의 붕괴를 나타낼 것입니다.

관련: 인간 수준의 AI가 곧 실현되지 않으면 거대 기술 기업은 재정적인 문제에 직면하게 됩니다

위 내용은 전 OpenAI 직원인 William Saunders는 회사를 \'타이타닉\'으로, 자신을 \'빙산\'으로 묘사합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!