Bing이 GPT-4를 통합할 가능성이 있나요? 이것이 사실인가요, 아니면 근거 없는 이론인가요?

​저자 | Xu Jiecheng

Microsoft New Bing이 출시되기 전에 대부분의 사람들은 New Bing의 세부 사항에는 약간의 차이가 있지만 전반적인 성능은 ChatGPT와 매우 유사할 것이라고 예측했습니다. 경험의 관점에서 이러한 차이를 감지할 수 없어야 합니다. 그러나 New Bing의 출시 및 업데이트로 인해 Microsoft와 OpenAI 간의 이전 100억 달러 거래가 단순한 "베이비" ChatGPT 이상의 것과 관련이 있는 것 같다고 의심하는 사람들이 점점 더 많아졌습니다.

1. Microsoft 공식 발표: 새로운 모델 통합

New Bing과 ChatGPT는 모두 GPT 3.5 시리즈 모델을 기반으로 미세 조정되었지만 2월 중순 Microsoft는 통합을 발표했습니다. 새로운 AI 언어 모델은 New Bing에 통합되어 ChatGPT보다 더 나은 성능을 제공합니다. 마이크로소프트는 현재까지 새로운 AI 모델의 출처와 관련 데이터를 명확히 밝히지 않았지만, 업계 일각에서는 해당 모델이 OpenAI가 오랫동안 공개하지 않았던 GPT-4와 관련이 있을 가능성이 높다고 추측하고 있다.

사실 이미 작년 말부터 업계에서는 GPT-4 모델에 관한 많은 루머가 유출되었습니다. GPT-3는 1,750억개), 일부 전문가들은 GPT-4가 비용 관리에 더 많은 관심을 기울일 것으로 예측하고 있으며, 모델 매개변수의 수는 GPT-3에 비해 크게 변하지 않을 것이라고 예측했습니다. 당시 일부 외신 보도에 따르면 GPT-4는 2023년 2월쯤 출시될 예정이다. OpenAI의 최근 실적과 CEO의 연설을 보면 이 정보는 정확하지 않다. 하지만 뉴욕타임스 최신 뉴스에 따르면 GPT-4 모델은 2023년 상반기 출시될 가능성이 높다.

또한 관련 테스트 데이터에 따르면 업데이트된 New Bing 잠재적 모델은 ChatGPT보다 대기 시간이 짧습니다. 또한, 실제 대화 성능으로 볼 때 현재 New Bing과 ChatGPT 간에는 일정한 차이가 있습니다. 사용자와의 대화에서는 New Bing이 ChatGPT보다 더 자연스럽고 본능적인 상태를 보여줍니다. 하지만 대화의 지속성이 높아지자 뉴빙 역시 GPT 시리즈 모델처럼 반복적인 반응을 보이는 경향을 보였다.

2. 유일한 솔루션

ChatGPT가 출시되는 동안 OpenAI는 공식 블로그에 회사가 "GPT-3 및 Codex와 같은 초기 모델 배포에서 교훈을 얻었으며" RLHF를 사용하기로 결정했다고 게시했습니다( 인간의 피드백 신호를 사용하여 언어 모델을 직접 최적화하고 지도 학습을 통해 ChatGPT를 훈련합니다. OpenAI에 따르면 RLHF 방식을 사용하면 ChatGPT가 악의적이고 잘못된 정보를 출력할 확률을 어느 정도 줄일 수 있습니다.

그러나 뉴빙의 관점에서 볼 때 당시 마이크로소프트는 구글 바드와 경쟁을 할 수밖에 없었고 뉴빙의 훈련 주기를 가속화해야 했습니다. Microsoft의 New Bing 프로젝트 출시와 출시 사이의 3개월도 채 안 되는 시간은 전체 RLHF 교육 채널을 재구축하고 통합하는 데 충분하지 않았습니다. 따라서 Microsoft는 New Bing 모델을 교육할 때 기존 지도 학습 모델을 계속 사용해야 합니다. 이로 인해 New Bing은 출시 이후 성급한 개발과 초기 교육 부족으로 인한 정확성 문제에 시달렸습니다.

관련 뉴스에 따르면 Microsoft는 현재 다양한 방법을 통해 New Bing에서 생성된 콘텐츠의 정확성 문제를 해결하려고 노력하고 있으며 일부 결과를 얻었지만 최적화 계획에는 New Bing이 RLHF 모드를 사용하여 다시 생성한다는 내용이 명확하게 언급되어 있지 않습니다. - 모델을 훈련시킵니다. 이에 대해 일부 전문가들은 마이크로소프트가 다른 AI 언어 모델 생성 필터를 통합해 뉴빙이 생성한 콘텐츠를 최적화할 가능성이 높다고 추측한다.

전 Playment AI 연구원인 Khamisi도 자신의 블로그에서 이 문제를 분석했습니다. "ChatGPT나 현재 공개된 다른 모델 모두 악성 정보와 허위 정보의 생성을 잘 제어할 수 없습니다. Microsoft가 New Bing에 대한 금지를 해제하려면 최고입니다. 질문과 답변 수를 제한하는 방법은 OpenAI가 이 기능을 일부 모델에 제공하고 New Bing에서 사용하기를 기다리는 것입니다. 이제 Microsoft는 이 작업을 어느 정도 수행한 것 같습니다. "

3. 협력 단계는 다음과 같습니다. Glue

또한 주목할 만한 또 다른 점은 OpenAI와 Microsoft의 협력 관계는 항상 매우 긴밀했지만 "ChatGPT에서의 협력" 이전에는 둘의 관계가 동일한 수준에 도달하지 못했다는 것입니다. 바지 한 벌”수준. 이전의 협업과 거래에서는 데이터 세트와 해당 인프라에 관해 서로 공개된 적이 없었습니다.

그러나 올해 초 Microsoft는 수년간 수십억 달러의 투자와 더불어 OpenAI와의 3단계 장기 파트너십을 발표했습니다. 더 중요한 점은 Microsoft가 OpenAI를 허용했다는 것입니다. 이 단계 Azure를 통해 기업과 개발자는 Microsoft 내의 최고의 AI 인프라, 모델 및 도구 체인에 액세스합니다. 이후 OpenAI는 즉시 모델 데이터에 대한 투자를 더욱 늘렸습니다.

외신 보도에 따르면: 1월 말부터 OpenAI는 데이터 라벨링 작업을 샌프란시스코의 데이터 회사에 아웃소싱하여 일부 AI 모델에 대해 더 나은 콘텐츠 필터를 구축하기 위해 보다 정확한 데이터에 의존하려고 노력하고 있습니다. OpenAI의 이러한 움직임은 기본적으로 마이크로소프트에 대한 지원을 받은 뒤 진심 어린 지지 의사를 표명한 것으로 볼 수 있다. 위의 현상을 결합하면 Microsoft가 GPT-4 모델을 사용할 수 있는 일부 권리를 획득했을 가능성이 높으며 이를 자체 검색 엔진과 대화형 로봇에 통합하려고 시도하기 시작했다고 믿을 만한 이유가 있습니다.

4. 마지막에 작성

어쨌든 마이크로소프트와 OpenAI의 협력이 심해역에 들어섰고, GPT-4의 공개가 코앞으로 다가왔습니다. OpenAI가 GPT-4가 공식 출시되기 전에 좀 더 완벽한 테스트를 진행하고 싶다면, 방대한 데이터와 사용자를 보유하고 있는 마이크로소프트가 최선의 선택임에 틀림없으며, ChatGPT를 통해 수많은 수익을 올린 마이크로소프트가 그럴 가능성이 높습니다. 결국 이 청년의 요청을 받아들이면 오늘날 AI 분야에서 GPT 모델만큼 돈을 끌어들이는 능력이 더 강한 것은 없습니다.

그러나 GPT-4 모델에 대한 이전 추측으로 볼 때 New Bing이 GPT-4 모델을 내부적으로 통합했다고 하더라도 최적화를 위해서는 New Bing의 기존 기능 중 일부를 통합하는 모델에만 의존해야 합니다. GPT-4의 혁신적인 기능은 공개되지 않았습니다. 이러한 움직임은 실제로 Microsoft의 보수적인 업무 스타일과 일치하며, 경쟁사인 Google이 방금 "서둘러 먹을 수 없다"는 물결을 보여주었습니다. 얼마 전 뜨거운 두부.” 지금까지 Microsoft나 OpenAI 모두 New Bing과 GPT-4에 대한 더 많은 소식을 외부에 공개하지 않았지만, 현재 진행 상황을 일부 알게 된 후 미래에 대한 모든 사람의 기대가 커졌다고 생각합니다.

참조 링크:

https://blogs.microsoft.com/blog/microsoftandopenaiextendpartnership/

https://www.nytimes.com/technology/microsoft-ai-chatgpt-bing.html

https: //time.com/6247678/openai-chatgpt-kenya-workers/

https://analyticsindiamag.com/13-not-to-miss-research-papers-on-llms/

위 내용은 Bing이 GPT-4를 통합할 가능성이 있나요? 이것이 사실인가요, 아니면 근거 없는 이론인가요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!