GPT-4 보스: 당황하지 마세요. 나에게는 계획이 있습니다. AGI의 미래는 정말 밝습니다!

OpenAI의 챗봇이 전 세계를 놀라게 했습니다.

그러나 사람들이 이 기술이 허위 정보를 퍼뜨리고 위험한 일을 하도록 설득하는 방법이기도 함을 깨닫자 일부 비평가들은 울트라맨의 무모한 행동을 비난합니다.

많은 업계 리더, 인공 지능 연구자 및 학자들은 ChatGPT를 웹 브라우저나 iPhone의 탄생만큼 중요한 근본적인 기술 변화로 간주합니다. 그러나 기술의 미래에 대해 동의할 수 있는 사람은 거의 없습니다.

어떤 사람들은 이것이 모든 사람이 필요한 모든 시간과 돈을 가질 수 있는 유토피아를 가져올 것이라고 생각합니다. 다른 사람들은 그것이 인류를 파괴할 수 있다고 믿습니다. 다른 사람들은 기술이 모든 사람들이 말하는 것처럼 결코 강력하지 않을 것이라고 주장하며 열반도 세상의 종말도 아직 멀었다고 주장하면서 많은 시간을 보냅니다.

지난 주 동안 천 명이 넘는 인공 지능 전문가와 기술 리더들은 "사회와 인류에 심오한 결과를 가져온다"며 OpenAI 및 기타 회사에 ChatGPT와 같은 시스템에 대한 작업을 중단할 것을 촉구했습니다. " 위험".

OpenAI의 CEO인 Altman은 이 이상하고 강력하며 결함이 있는 기술을 미래로 추진하는 동시에 수많은 가능성의 균형을 유지하기를 희망하면서 겉보기에 모순되는 이러한 각각의 견해를 어떤 식으로든 구현합니다.

이것은 그가 끊임없이 사방에서 비난을 받고 있다는 것을 의미합니다. 그러나 OpenAI의 Greg Brockman 회장은 이것이 적절하다고 생각합니다. "양 극단의 사람들을 똑같이 불편하게 만든다면, 당신은 옳은 일을 하고 있는 것입니다."

맨해튼 프로젝트의 리더인 Robert Oppenheimer는 원자가 과학적 진보를 위해서는 폭탄이 불가피하며 울트라맨과 오펜하이머는 같은 생일을 보낸다. OpenAI의 기술에 대해 알트만은 "기술은 가능하기 때문에 발생한다"고 말했다. 그는 인공지능이 어떤 식으로든 일어날 것이라고 믿으며, 자신도 상상할 수 없는 일을 해낼 것이라고 믿는다. 우리는 그것이 초래할 수 있는 피해를 줄이는 방법을 찾을 수 있습니다.

이러한 태도는 울트라맨 자신의 발전 궤적을 반영합니다. 그는 효과적인 개인 기술을 바탕으로 성공과 부를 향해 상당히 꾸준히 올라갔습니다. 그가 좋은 일이 일어날 것이라고 믿는 것이 합리적입니다.

그러나 그는 또한 자신이 틀렸다면 탈출구가 있다고 말했습니다. Microsoft와 같은 투자자와의 계약에 따라 OpenAI 이사회는 언제든지 기술을 중단할 권리를 보유합니다.

자기당김

울트라맨은 채식주의자이지만 소를 키우는 모순된 삶을 살아가는 인물이다.

그는 자신의 회사에서 개발한 기술에 대해 이야기할 때 기술이 "우리의 가장 시급한 문제를 해결하고, 생활 수준을 진정으로 향상시키며, 인간의 의지와 창의성을 더 잘 활용할 수 있게 될 것"이라고 믿습니다.

하지만. , 그는 그것이 어떤 문제를 해결할 것인지 완전히 확신하지 못합니다. 동시에 그는 해당 기술이 권위주의 정부의 손에 넘어갈 경우 심각한 피해를 초래할 수 있다는 점도 우려하고 있습니다.

OpenAI 이사회 고문으로 Altman과 함께 일한 벤처 캐피탈 회사 Thrive Capital의 파트너인 Kelly Sims는 자신이 끊임없이 자신과 논쟁을 벌이는 것처럼 느꼈다고 말했습니다. “대화에서 그 자신은 논쟁의 양쪽에 있었습니다. ."

문제는 울트라맨의 양면이 궁극적으로 양립할 수 있느냐 하는 것입니다. 재앙으로 끝날 수 있다면 앞서 나가는 것이 과연 타당합니까? 물론 Ultraman은 이것이 어떻게 일어나는지 확인하기로 결정했습니다.

2014년부터 2019년까지 Silicon Valley 스타트업 액셀러레이터이자 시드 투자자인 Y Combinator의 회장을 역임한 그는 꾸준한 신규 기업 흐름에 대해 조언하고 Airbnb, Reddit, Stripe 등 현재 유명 기업이 된 여러 기업에 기민하게 투자했습니다.

그는 기술이 기하급수적인 성장을 이룰 수 있는지 여부를 확인할 수 있다는 점에 자부심을 갖고 있습니다.

저는 돈에는 관심이 없습니다

실리콘밸리의 많은 사람들이 개인 재산을 다양한 공공 및 민간 기업에 묶여 있는데, 알트만도 그렇습니다. 그리고 그의 부는 놀랍지 않습니다.

그는 OpenAI에 지분이 없습니다. 그가 회사에서 버는 유일한 돈은 연봉 약 65,000달러와 Y Combinator가 회사에 투자한 기존 투자금의 일부입니다.

Y Combinator의 창립자인 Paul Graham은 그의 파트너이자 멘토입니다. 그는 Altman의 동기를 다음과 같이 설명했습니다.

“그가 왜 자신을 더 부자로 만들지도 못하는 일을 하겠습니까? 많은 사람들은 돈이 충분하면 이것을 할 것이고, 또 다른 대답은 그가 권력을 좋아한다는 것입니다. "

빌 게이츠는 이런 사람이겠군요

1990년대 후반, 19세기. John Burroughs의 학생회. 미국의 자연주의자이자 철학자인 그의 이름을 딴 사립 사립학교에는 동성애 혐오증이 만연해 있습니다.

21세기 초, 17세 학생 알트만은 학교 문화를 바꾸기 시작했고, 교사들이 한 명씩 교실 문에 "안전한 공간" 표지판을 게시하도록 설득하여 동성애자 학생들을 지지합니다. 그를.

학교의 고급 컴퓨터 과학 과정을 가르치는 Georgeann Kepchar는 Altman을 그녀의 가장 재능 있는 컴퓨터 과학 학생 중 한 명으로 생각합니다. “그는 창의성과 비전을 갖고 있으며 야망과 강인한 성격이 결합되어 있어 다른 사람들이 함께 일하도록 설득할 수 있습니다. Altman은 또한 1학년 이후에 특히 동성애 혐오적인 교사에게 안전한 공간 표지판을 게시하도록 성공적으로 요청한 적이 있다고 말했습니다. 그는 나중에 Andrew Ng 교수의 인공 지능 및 로봇 공학 연구실에서 일했습니다. 구글의 대표적인 인공지능 연구소. 그러나 그는 다른 대학 활동보다 스탠포드에 잠시 머무는 동안 밤에 포커를 하면서 더 많은 것을 배웠으며 포커를 통해 사람을 보고 위험을 평가하는 방법을 배웠다고 말했습니다.

"시간이 지남에 따라 사람들의 패턴을 알아차리는 방법, 매우 불완전한 정보로 결정을 내리는 방법, 더 많은 정보를 얻기 위해 고통을 감수할 가치가 있는지 결정하는 방법은 훌륭한 게임입니다." 10년 동안 Altman과 함께 일한 그는 세인트루이스 출신인 Altman에게서도 동일한 설득력을 보았습니다. "그는 사람들이 일을 하도록 설득하는 타고난 능력을 가지고 있습니다. 그것이 타고난 것이 아니라면 적어도 그는 20세가 되기 전에 이 능력을 가지고 있었습니다. 샘을 처음 만났는데 그 사람은 19살이었는데 '빌 게이츠는 이런 사람이구나'라고 생각했어요."

.

그레이엄이 Y Combinator의 사장직을 사임했을 때, 그는 28세의 Altman을 CEO로 선택했습니다. 코더, 엔지니어, 인공지능을 고용하지 않는다는 이유로 실리콘밸리 사람들을 놀라게 한 그의 후임자 연구원은 의제를 설정하고 팀을 구성하고 거래를 성사시킵니다.

YC 회장으로서 알트만은 회사 확장을 거의 포기하고 새로운 투자 펀드와 새로운 연구소를 설립했으며 회사가 컨설팅 서비스를 제공하는 회사 수를 매년 수백 개로 늘렸습니다.

그는 또한 2015년 Musk를 포함한 사람들과 함께 설립한 비영리 단체인 OpenAI를 포함하여 투자 회사 외부의 여러 프로젝트에 참여하기 시작했습니다. YC는 울트라맨이 자신을 지치게 하는 것을 점점 더 걱정하게 되었고, 그가 말했듯이 세상에 실질적인 영향을 미칠 프로젝트인 인공 지능에 다시 관심을 집중하기로 결정했습니다.

형의 말에 따르면 그는 자신이 인공지능 연구를 통해 세상을 바꿀 수 있는 몇 안 되는 사람 중 한 명이라고 믿습니다.

2019년, OpenAI에 대한 연구가 막 시작되었을 때 알트만 씨는 기회를 잡고 Y Combinator의 사장 자리에서 물러나 직원이 100명 미만인 회사에 집중했지만 방법도 몰랐습니다. 회사에 급여를 주려고.

1년 안에 그는 OpenAI를 영리 부문을 갖춘 비영리 조직으로 변모시켰습니다. 그렇게 하면 그는 인간의 두뇌가 할 수 있는 모든 일을 할 수 있는 기계를 만들기 위해 자금을 조달할 수 있었습니다.

그는 종종 "Billionaire Summer Camp"라고 불리는 기술 리더들의 연례 모임에서 Microsoft CEO Satya Nadella를 만났고 나중에 Nadella 및 Microsoft CTO Kevin Scott과 개인적으로 거래를 협상했습니다.

OpenAI의 사장인 Mr. Brockman은 Altman의 재능이 사람들의 필요를 이해하는 데 있다고 말했습니다. “그는 정말로 사람에게 가장 중요한 것이 무엇인지 찾아내고 그것을 그들에게 줄 방법을 찾으려고 노력합니다. 이는 그가 계속해서 사용하는 알고리즘입니다. "

이 계약으로 OpenAI와 Microsoft는 검색 엔진부터 이메일 앱, 온라인 교사에 이르기까지 모든 것을 변화시키려는 움직임의 중심에 서게 되었습니다. 그리고 이것이 일어나는 속도는 수십 년 동안 이 기술을 추적해 온 사람들조차 놀라게 했습니다.

이런 열풍 속에서도 울트라맨은 여전히 ​​침착함을 유지하고 있습니다. Microsoft CTO Scott은 Ultraman이 결국 Steve Jobs, Bill Gates 및 Mark Zuckerberg만큼 위대한 사람이 될 것이라고 믿습니다.

"이 사람들은 기술 산업뿐 아니라 어쩌면 세상의 구조에도 지울 수 없는 흔적을 남겼습니다. Sam도 그런 사람들 중 하나일 것입니다.

꿈을 향한 긴 길을 건설하는 중입니다."

Yudkowsky와 그의 작업은 OpenAI와 DeepMind를 만드는 데 핵심적인 역할을 했습니다. 그는 또한 인공 지능이 실존적 위험이며 언젠가 세상을 파괴할 것이라고 두려워하는 합리주의자들과 유능한 이타주의자들로 구성된 대규모 온라인 커뮤니티를 생성하는 데 도움을 주었습니다.

OpenAI를 포함한 여러 최고의 인공 지능 연구소의 연구원들이 이 매우 영향력 있는 그룹에 속합니다. 그들은 이것을 위선으로 보지 않습니다. 그들 중 다수는 자신들이 이 기술을 구축할 수 있는 가장 좋은 위치에 있기 때문에 다른 사람들보다 위험을 더 잘 이해하고 있다고 믿습니다.

Altman은 효과적인 이타주의자들이 인공 지능의 부상에 중요한 역할을 했으며 업계에 위험을 경고할 수 있다고 믿습니다. 그는 또한 그들이 위험을 과장한다고 생각합니다.

OpenAI가 ChatGPT를 개발하는 동안 Google, Meta를 포함한 다른 많은 회사에서도 유사한 기술을 구축하고 있었습니다. 하지만 이 기술을 세계와 공유하기로 선택한 것은 Ultraman과 OpenAI였습니다.

이 결정은 잘못될 수 있고, 꾸며낼 수 있으며, 빠르게 허위 정보를 퍼뜨리는 데 사용될 수 있는 기술을 출시하기 위한 경쟁을 시작한다고 주장하면서 현장의 많은 사람들이 이 결정을 비판했습니다.

금요일에 이탈리아 정부는 개인 정보 보호 및 미성년자의 위험한 콘텐츠 노출에 대한 우려를 이유로 ChatGPT의 국내 사용을 일시적으로 금지했습니다.

울트라맨은 이 기술을 완전히 공개하기 전에 완전히 비공개로 개발하고 테스트하는 것보다 모든 사람이 위험과 대처 방법을 더 잘 이해할 수 있도록 점진적으로 공유하는 것이 더 안전할 것이라고 믿습니다.

"매우 느린 이륙"이 될 것이라고 그는 말했습니다. 그는 인간의 지능이 쓸모없는 세상은 상상할 수 없다고 말했다. 자신이 틀렸다면 인간의 잘못을 바로잡을 수 있다고 생각했습니다.

그는 OpenAI를 소위 수익성 있는 회사로 재구축했습니다. 이를 통해 그는 Microsoft와 같은 투자자에게 이익을 약속함으로써 수십억 달러의 자금 조달을 확보할 수 있었습니다. 그러나 이러한 이익은 제한되어 있으며 추가 수익은 2015년에 설립된 OpenAI 비영리 조직으로 다시 유입될 것입니다.

그의 원대한 아이디어는 OpenAI가 AGI를 생성하여 세계 부의 대부분을 포착한 다음 이 부를 사람들에게 재분배한다는 것입니다.

그러나 그는 부를 어떻게 재분배할지 확신하지 못합니다. 그는 이 새로운 세상에서 돈이 다른 의미를 가질 수 있다고 믿지만 "AGI가 이 문제를 해결하는 데 도움이 될 수 있다고 생각합니다.

"

위 내용은 GPT-4 보스: 당황하지 마세요. 나에게는 계획이 있습니다. AGI의 미래는 정말 밝습니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!