ChatGPT는 인기가 많은데 OpenAI는 폭넓은 관심을 받지 못하는 이유는 무엇입니까?

빅 데이터 다이제스트 제작

작성자: Caleb

지금 ChatGPT가 얼마나 인기가 있는지 다들 보셨을 거라 믿습니다.

ARK Venture Capital의 수석 미래학자인 Brett Winton의 통계에 따르면 ChatGPT의 일일 활성 볼륨이 1천만을 초과하는 데 2개월도 채 걸리지 않았습니다. 비교해 보면, 마지막 경이로운 소프트웨어인 인스타그램(Instagram)은 이 위업을 달성하는 데 355일이 걸렸습니다.

1월 중순, New York Times는 Northern Michigan University의 철학 교수인 Antony Aumann이 세계 종교 과정을 채점하는 동안 "수업에서 최고의 논문" 중 하나를 읽고 깜짝 놀랐다고 보도했습니다. 간결한 문단, 적절한 예, 엄격한 주장을 사용하여 학생들은 부르카 금지의 도덕적 의미를 탐구합니다. 그러나 Aumann의 질문에 학생은 해당 논문이 ChatGPT를 사용하여 작성되었음을 인정했습니다.

비슷한 예가 많습니다.

OpenAI가 여론의 "첨단"으로 빠르게 밀려난 것은 바로 전 세계적으로 ChatGPT의 인기 때문입니다.

현재 챗봇 군비 경쟁은 OpenAI가 주도하고 있다고 할 수 있습니다. ChatGPT를 예로 들면, Microsoft와의 수십억 달러 협력이 공개되면서 Google과 Amazon이 제품 라인에 인공 지능을 긴급하게 배포하게 되었을 뿐만 아니라 OpenAI도 Bain과 협력하여 Coca-Cola의 운영에 기계 학습을 도입했습니다. 기타 기업 파트너로 확대할 계획입니다.

OpenAI의 인공지능이 큰 사업이 된 것은 의심할 여지가 없지만, 사실 이는 OpenAI의 원래 계획과는 다소 다릅니다.

"인류의 미래는 인간이 결정해야 합니다"

지난 금요일 OpenAI CEO인 Sam Altman은 "Planning for AGI and Beyond"라는 제목의 블로그 게시물을 게시했습니다.

기사 링크:​​https://www.php.cn/link/3187b1703c3b9b19bb63c027d8efc2f1​​

기사에서 그는 OpenAI의 일반 인공 지능(AGI)이 현재 요구 사항을 충족하지 못한다고 주장했습니다. , 많은 사람들은 그것이 모든 인류에게 이익이 될 수 있는지, 그리고 그것이 "모든 사람에게 놀라운 새로운 능력을 가져다 줄 가능성이 있는지"에 대해 의심합니다.

알트만은 “인류의 미래는 인간에 의해 결정되어야 한다”는 인공지능의 발전이 멈춰서는 안 된다고 주장하기 위해 광범위하고 이상주의적인 언어를 사용했는데, 이는 암묵적으로 OpenAI를 가리킨다.

ChatGPT가 폭발적인 시기에 거의 이 블로그 게시물과 OpenAI의 최근 조치는 OpenAI가 설립되었을 때와 비교하여 얼마나 많은 변화가 있었는지 모두에게 지속적으로 상기시켜 줍니다.

OpenAI는 초기에는 단순한 비영리 조직이었습니다. 회사는 항상 AGI 개발에 집중해 왔지만, 창업 당시에는 이익을 추구하지 않고 개발 코드를 무료로 공유하겠다고 약속했습니다.

그리고 오늘날 이러한 약속은 어디에도 없습니다.

OpenAI의 원동력은 속도와 수익이 되었습니다

2015년 Altman, Musk, Peter Thiel, Reid Hoffman은 비영리 연구 기관인 OpenAI의 설립을 발표했습니다. OpenAI는 창립 성명에서 자사의 연구가 “재정적 수익 창출에 제약을 받지 않고 모든 인류에게 가장 이익이 될 수 있는 방식으로 인공 지능을 발전시키는 데 전념하고 있다”고 밝혔습니다. 블로그는 또한 "우리 연구에는 재정적 의무가 없기 때문에 긍정적인 인간 영향에 더 집중할 수 있다"고 말하고 모든 연구자가 "논문, 블로그 게시물 또는 코드, 우리 특허(있는 경우)가 전 세계와 공유될 것"을 공유하도록 권장합니다. .

8년 후, 우리는 투명하지도 않고 긍정적인 인간 영향을 추구하지도 않는 회사에 직면하게 되었습니다. 대신 머스크를 포함한 많은 비평가들은 OpenAI의 동기가 속도와 이익이라고 믿습니다.

동시에 OpenAI가 기술을 공개하고 있습니다. 물론 함정도 있지만, 인간 근로자를 희생시키면서 작업장에서 자동화 전환을 늘릴 준비가 여전히 남아 있습니다. 예를 들어 Google은 코드를 자동으로 완성하여 수천 명의 직원을 해고하는 인공지능을 통해 효율성이 향상된다는 점을 강조했습니다.

OpenAI 초기에 언론과 실무자들은 이를 불확실한 목적으로 기본적인 인공지능 연구를 수행하는 개방형 방식으로 구상했습니다. 공동 창업자인 Greg Bockman은 다음과 같이 말한 적이 있습니다. "지금 우리의 목표는... 가능한 한 최선을 다하는 것입니다. 조금 모호합니다."

이 또한 2018년 회사의 방향 전환에 눈에 보이지 않게 기여했습니다. 당시 OpenAI는 "우리의 일차적인 수탁 책임은 인간에 대한 것입니다. 우리의 임무를 완수하려면 상당한 자원을 동원해야 할 것으로 예상합니다"라고 자본 자원으로부터 방향을 모색했습니다.

2019년 3월까지 OpenAI는 비영리 단체라는 명칭을 완전히 없애고 "이익 상한선" 부서를 설립했습니다. 이를 통해 OpenAI는 투자를 수락하기 시작하고 투자자에게 투자의 100배에 달하는 이익을 제공할 것입니다.

이번 결정은 구글 등 거대 기술 기업과의 경쟁으로 보였고, 얼마 지나지 않아 마이크로소프트로부터도 예상대로 10억 달러의 투자를 받게 됐다. 영리 목적의 회사를 알리는 블로그 게시물에서 OpenAI는 동일한 수사를 계속 사용하면서 자사의 임무는 "일반 인공 지능이 모든 인류에게 이익이 되도록 보장하는 것"이라고 선언했습니다.

하지만 마더보드가 쓴 것처럼, 벤처 캐피탈리스트의 주요 목표가 이익일 때 인류를 구할 수 있다는 것은 믿기 어렵습니다.

OpenAI는 여전히 대중의 신뢰를 받을 가치가 있나요?

2019년 OpenAI는 GPT-2 언어 모델을 발표하고 출시하면서 대중의 반발에 직면했습니다.

처음에 회사는 "기술의 악의적인 적용에 대한 우려"로 인해 훈련된 모델의 소스 코드를 공개하지 않을 것이라고 밝혔습니다. 이는 유익한 인공 지능 개발에 대한 의지를 부분적으로 반영하지만 그다지 "개방적"이지도 않습니다.

비평가들은 OpenAI가 도구를 발표한 후에도 왜 도구를 출시하지 않는지 알고 싶었고, 많은 사람들은 이것이 단지 홍보용 스턴트일 뿐이라고 생각했습니다. OpenAI가 GitHub에 모델을 출시한 지 3개월이 지나서야 이러한 움직임은 "특히 강력한 생성 모델과 관련하여 책임 있는 인공 지능 출시를 위한 중요한 기반"이라고 말했습니다.

2020년 회사 내부에서 며칠을 보낸 조사 기자 Karen Hao에 따르면 OpenAI의 내부 문화는 더 이상 신중하고 연구 중심적인 AI 개발 프로세스를 반영하지 않고 앞서 나가는 데 더 중점을 두기 시작했습니다. 또한 “인공지능 과대광고 사이클”을 부채질했다는 비난도 이어졌습니다. 또한 직원들은 회사의 새로운 내규를 준수하기 위해 현재 진행 중인 업무에 대해 침묵을 지켜야 합니다.

"회사가 공개적으로 지원하는 것과 비공개로 운영되는 방식 사이에는 불일치가 있습니다. 시간이 지남에 따라 치열한 경쟁과 증가하는 재정적 압박이 투명성, 개방성 및 협업이라는 창립 이상을 침식했습니다."

그러나 전반적으로 GPT-2의 출시는 의심할 여지 없이 OpenAI에게 축하할 만한 행사이며, 오늘날까지 회사 발전의 중요한 초석이기도 합니다. 현재 정책 연구 책임자인 Miles Brundage는 회의에서 "그것은 확실히 성공 사례 프레임워크의 일부입니다. 이야기의 일부는 다음과 같습니다. 우리는 야심 찬 일을 했고 이제 일부 사람들이 그것을 복제하고 있습니다." 또한 이 혁신의 이점에 대한 설명도 있어야 합니다.”

이후 OpenAI는 GPT-2 릴리스 공식의 과장된 부분을 유지하면서도 개방성을 제거했습니다. 2020년에 GPT-3는 공식적으로 출시되었으며 빠르게 Microsoft에 "독점적으로" 라이선스가 부여되었습니다. OpenAI는 현재 GPT-4를 집중적으로 준비하고 있지만 GPT-3의 소스 코드는 아직 공개되지 않았습니다. 해당 모델은 ChatGPT의 API를 통해서만 대중에게 공개되며 OpenAI는 모델에 대한 액세스를 보장하기 위해 유료 레이어도 출시했습니다. .

물론 이 작업에는 몇 가지 고려 사항이 있습니다. 첫 번째는 돈입니다. OpenAI는 API 발표 블로그에서 "기술을 상용화하면 지속적인 AI 연구, 안전 및 정책 작업에 대한 비용을 지불하는 데 도움이 됩니다"라고 말했습니다. 두 번째 이유는 대기업을 돕는 편향이다. “대기업 외에는 누구도 기반 기술의 혜택을 누리기 어렵습니다.” 마지막으로 회사는 오픈 소스보다는 API를 통해 출시하는 것이 남용 시나리오를 처리할 수 있기 때문에 더 안전하다고 말합니다.

컴퓨터 과학자 Timnit Gebru은 트위터에서 “당신들은 AGI가 빠르다고 계속 말하지만 웹 사이트에는 일관된 정의조차 없습니다.”라고 말했습니다.

워싱턴 대학교 언어학 교수인 Emily M. Bender는 다음과 같이 트윗했습니다. 오직 '초지능'을 창조하고, 인류와 '일관되는' 방식으로 그렇게 할 수 있는 은총을 가지십시오.”

이 AI는 회사가 원래 구상했던 대로 이익 동기 없이 책임감 있게 공유되고, 공개적으로 개발될까요? 아니면 문제가 되는 결함이 많이 있지만 대부분 OpenAI에 대한 수익을 창출하기 위해 서둘러 출시될 예정입니까? OpenAI는 미래의 공상과학 소설을 비공개 소스로 유지할 예정인가요?

ChatGPT와 결합된 후 Microsoft의 Bing 챗봇은 "집착" 상태에 있으며 끊임없이 사용자를 속이고 꾸짖으며 잘못된 정보를 퍼뜨립니다. OpenAI는 자체 챗봇에서 생성된 텍스트를 안정적으로 감지할 수 없습니다. 교육자들은 학생들이 이 앱을 사용하여 부정 행위를 하는 것에 대해 점점 더 우려하고 있습니다.

또한 사람들은 OpenAI가 주변에 설치한 가드레일을 무시하고 언어 모델을 쉽게 탈옥했으며, 임의의 단어와 구문을 입력하면 봇이 충돌했습니다. OpenAI는 기본 모델의 코드를 공유하지 않으며 아마도 어느 정도 OpenAI 자체가 작동 방식을 완전히 이해하지 못할 가능성이 높기 때문에 그 이유를 누구도 명확하게 말할 수 없습니다.

이 모든 것을 염두에 두고, 우리는 OpenAI가 대중에게 요구하는 신뢰를 받을 자격이 있는지 신중하게 고려해야 하며, OpenAI는 실질적인 방식으로 응답하지 않았습니다.

관련 보고서:​​https://www.php.cn/link/b4189d9de0fb2b9cce090bd1a15e3420​​

위 내용은 ChatGPT는 인기가 많은데 OpenAI는 폭넓은 관심을 받지 못하는 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!