ChatGPT 대규모 업데이트! OpenAI는 프로그래머에게 선물 패키지를 제공합니다. API는 킬러 기능을 추가하고 가격은 인하되며 새로운 모델과 4배의 컨텍스트가 제공됩니다.

ChatGPT는 하룻밤 사이에 다시 진화했으며 OpenAI는 한 번에 많은 업데이트를 출시했습니다!

핵심은 API의 새로운 기능 호출 기능입니다. 플러그인의 웹 버전과 마찬가지로 API도 외부 도구를 사용할 수 있습니다.

이 기능은 개발자의 손에 맡겨지며 ChatGPT API가 원래 가지고 있지 않은 기능은 다양한 타사 서비스를 통해 해결할 수도 있습니다.

어떤 사람들은 이것이 킬러 기능이자 ChatGPT API 출시 이후 가장 중요한 업데이트라고 생각합니다.

또한 이번 ChatGPT API 업데이트는모두가 매우 중요합니다. 용량이 늘어날 뿐만 아니라 가격도 낮아졌습니다.

• 새 버전 gpt-4-0613 및 gpt-3.5- 출시 터보 -0613 모델
• gpt-3.5-turbo 컨텍스트 길이가 4k에서 16k로 400% 증가
• gpt-3.5-turbo 입력 토큰 가격이 25% 감소
• 가장 진보된 임베딩 모델 가격이 75% 감소
• GPT-4 API 대형 대기열 목록이 지워질 때까지 규모가 열려 있습니다

이 소식이 중국에 전해졌고 일부 네티즌들은 이것이 대형 국내 모델이 직면 한 주요 과제라고 생각합니다.

API가 도구 사용 시기를 결정합니다

OpenAI의 공식 소개에 따르면 함수 호출은 새 버전의 GPT-4와 GPT-3.5를 모두 지원합니다.

개발자는 사용해야 하는 기능을 설명하기 위해 모델만 필요합니다. 어떤 기능을 언제 호출할지는 프롬프트 단어를 기반으로 모델 자체에 의해 결정되며 이는 플러그인을 호출하는 ChatGPT의 메커니즘과 동일합니다.

구체적인 사용 방법에 대해 관계자는 세 가지 예를 제시합니다.

먼저 챗봇은 외부 API를 호출하여 작업을 수행하거나 "이메일 보내기", "오늘 날씨는 어때요?"와 같은 질문에 대답합니다. " ".

두 번째 , 자연어를 API 호출이나 데이터베이스 쿼리로 변환합니다(예: "지난 달에 주문이 몇 건 있었나요?"). SQL 쿼리 문이 자동으로 생성됩니다.

세 번째, 텍스트에서 구조화된 데이터를 자동으로 추출합니다. 예를 들어 필수 "사람 이름, 생일, 위치"만 정의하고 웹 링크를 제공하면 Wikipedia를 자동으로 추출할 수 있습니다. 기사 기사에 언급된 모든 사람에 대한 정보입니다.

이 새로운 기능은 대다수의 네티즌, 특히 개발자들에게 업무 효율성이 크게 향상될 것이라고 환호했습니다.

과거에는 GPT에서 함수를 호출하려면 LangChain의 도구를 사용해야 했습니다.
...
LangChain은 이론적으로 더 높은 운영 효율성을 가지고 있지만 특별히 조정된 새로운 GPT보다 신뢰성이 떨어집니다.

업데이트된 버전, 저렴한 가격

현재 모델의 새 버전이 점차 반복되기 시작했습니다.

gpt-4-0613, gpt-3.5-turbo-0613 및 확장된 컨텍스트 길이 gpt-4-32k-0613의 최신 버전은 모두 함수 호출을 지원합니다.

gpt-3.5-turbo-16k는 함수 호출을 지원하지 않으며 4배의 컨텍스트 길이를 제공합니다. 즉, 한 요청이 약 20페이지의 텍스트를 지원할 수 있음을 의미합니다.

오래된 모델도 점차 폐기되기 시작했습니다.

gpt-3.5-turbo 및 gpt-4의 초기 버전을 사용하는 앱은 6월 27일에 새 버전으로 자동 업그레이드됩니다.

전환에 더 많은 시간이 필요한 개발자는 이전 버전을 계속 사용하도록 수동으로 지정할 수도 있지만, 9월 13일 이전 버전에 대한 모든 요청은 향후 완전히 폐기됩니다.

이 타임라인에 대해 이야기한 후 가격을 살펴보겠습니다.

업그레이드 이후 OpenAI는 제품 가격을 인상했을 뿐만 아니라 가격도 인하했습니다.

첫 번째는 가장 많이 사용되는 gpt-3.5-turbo(4k 토큰 버전)입니다.

입력 토큰의 가격이 25% 인하되어 이제 1,000개 토큰당 US$0.0015, 즉 US$1당 666,000개 토큰입니다.

1,000개 토큰당 출력 토큰의 가격은 US$0.002, 즉 US$1당 500,000개 토큰입니다.

영어로 환산하면 대략 1달러 700페이지 정도 됩니다.

임베딩 모델의 가격이 급락하여 직접적으로 75% 감소했습니다.

토큰 1,000개당 가격은 0.0001 USD, 즉 1 USD와 1천만 토큰입니다.

또한 새로 출시된 16K 토큰 버전의 GPT3.5-Turbo는 4K 버전에 비해 4배의 처리 성능을 제공하지만 가격은 2배에 불과합니다.

입력 및 출력 토큰의 가격은 각각 토큰 1,000개당 0.003 및 0.004달러입니다.

또한 일부 네티즌들은 월 청구서가 100에서 몇 센트로 떨어졌다고 보도했습니다. 구체적인 상황은 무엇인지 불분명합니다.

마지막으로, 필요한 경우 GPT-4 API 테스트 자격을 얻기 위해 대기열에 등록하는 것을 잊지 마세요.

OpenAI가 '체인'을 잡았다, 마이크로소프트가 배후다

많은 네티즌들은 OpenAI의 새로운 '함수 호출'이 기본적으로 Langchain의 '도구'를 복제한 것이라고 지적했습니다.

아마 미래에 OpenAI는 체인 및 인덱스와 같은 Langchain의 더 많은 기능을 복사할 것입니다.

Langchain은 대형 모델 분야에서 가장 널리 사용되는 오픈 소스 개발 프레임워크로, 다양한 대형 모델 기능을 통합하여 애플리케이션을 빠르게 구축할 수 있습니다.

팀은 최근 시드 라운드 자금 조달로 천만 달러를 받았습니다.

이 OpenAI 업데이트가 Langchain의 기업가 프로젝트를 직접적으로 "죽이는" 것은 아니지만.

그러나 개발자는 원래 일부 기능을 구현하기 위해 LangChain이 필요했지만 이제는 더 이상 필요하지 않습니다.

랭체인의 반응을 보면 생존 의지가 정말 강하네요.

OpenAI가 공식적으로 업데이트를 발표한 지 10분도 안 되어 Langchain은 즉시 "이미 호환성을 위해 작업 중"이라고 발표했습니다.

그리고 한 시간도 안 되어 새 버전이 출시되었습니다. 공식적인 새로운 기능을 지원하는 것 외에도 개발자가 이미 작성한 도구를 OpenAI 기능으로 변환할 수도 있습니다.

터무니없이 빠른 개발 속도를 한탄하기 위해 줄을 서는 것 외에도 네티즌 그룹은 피할 수 없는 질문에 대해서도 생각했습니다.

OpenAI가 귀하의 기업 프로젝트를 파괴한다면 어떻게 해야 할까요?

이와 관련하여 OpenAI CEO Sam Altman은 최근 성명을 발표했습니다.

5월 말 휴먼루프가 개최한 교류회에서 알트만은 다음과 같이 말한 적이 있습니다.

ChatGPT와 같은 컨슈머 애플리케이션을 제외하고 고객과의 경쟁을 피하십시오.

이제 개발 도구는 경쟁 회피 범위에 포함되지 않는 것 같습니다.

스타트업 외에도 OpenAI와 경쟁하는 무시할 수 없는 또 다른 주체가 있습니다.

OpenAI의 최대 후원사인 Microsoft도 Azure 클라우드를 통해 OpenAI API 서비스를 제공합니다.

최근 일부 개발자는 공식 OpenAI API에서 Microsoft Azure 버전으로 전환한 후 성능이 크게 향상되었다고 보고했습니다.

구체적으로:

• 중앙값 지연 시간이 15초에서 3초로 감소
• 95번째 백분위수 지연 시간이 60초에서 15초로 감소
• 초당 처리되는 평균 토큰 수가 8에서 24로 3배 증가했습니다.

Azure의 일부 할인을 포함하면 이전보다 훨씬 저렴해졌습니다.

그러나 Microsoft Azure의 업데이트 속도는 일반적으로 OpenAI보다 몇 주 느립니다.

개발 단계에서 빠른 반복을 위해 OpenAI를 사용하고, 대규모 배포를 위해 Microsoft Azure로 이동한 적이 있나요?

업데이트 공지 https://openai.com/blog/function-calling-and-other-api-updates.

GPT-4 API 대기열 https://openai.com/waitlist/gpt-4-api.

참조 링크:
[1]https://news.ycombinator.com/item?id=36313348.

[2]https://twitter.com/svpino/status/1668695130570903552.

[3]https://weibo.com/1727858283/N5cjr0jBq.

[4]https://twitter.com/LangChainAI/status/1668671302624747520.

[5]https://twitter.com/hwchase17/status/1668682373767020545.

[6]https://twitter.com/ItakGol/status/1668336193270865921.

위 내용은 ChatGPT 대규모 업데이트! OpenAI는 프로그래머에게 선물 패키지를 제공합니다. API는 킬러 기능을 추가하고 가격은 인하되며 새로운 모델과 4배의 컨텍스트가 제공됩니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!