GPT-4는 32000 입력 길이 버전의 내부 테스트를 시작했습니다! 초대장을 받으셨나요?

Xi Xiaoyao 기술 토크 원본
작성자 | Xiaoxi, ZenMoore

현재 GPT-4의 가장 큰 문제는 무엇입니까? 어쩌면 그가 아무것도 할 수 없었던 기계의 일시적인 환각을 제외하고는 입력 길이가 멈췄기 때문일 것입니다. 현재 GPT-4 일반 버전의 컨텍스트 길이가 약 8,000이면 일반적인 대화 및 검색 시나리오에서는 충분할 수 있지만, 현재 GPT-4 기본 버전은 콘텐츠 생성 및 지능형 읽기와 같은 측면에서 여전히 다소 늘어납니다.

그러나 GPT-4 기자회견에서도 실제로 GPT-4는 32768개의 토큰 길이를 지원하지만 아직 완전히 출시되지는 않았지만 차례차례 자동으로 업데이트될 예정이라고 언급되기도 했습니다. 지난 이틀 동안 32k GPT-4의 새벽이 곧 다가올 것 같습니다! 많은 GPT-4 사용자는 이미 PlayGround에서 GPT-4 32k 옵션을 볼 수 있습니다.

API에서 GPT-4-32K 모델을 지정하여 업그레이드된 버전을 호출할 수도 있습니다

그러나 이는 일부 사용자에게는 여전히 GPT-4의 내부 테스트일 것이며, 내부 테스트 할당량은 대기자 명단 신청 시점에 따라 공개됩니다. 32k 버전의 내부 테스트를 받은 사용자는 3월 16일에 대기자 명단에 합류했지만 동시에 합류하지 않은 사용자도 있었습니다. 32k 버전을 잠금 해제하세요. 한 가지 가능한 이유는 클로즈 베타 버전을 받은 사용자가 등록할 때 32k GPT-4에 대한 큰 관심을 강조했기 때문입니다.

물론, 어쨌든 32k GPT-4는 우리에게 점점 가까워지고 있는 것 같은데, 32k GPT-4는 어떤 상상의 변화를 가져올까요? 결국 GPT-4의 8k 버전보다 두 배나 비싸고 응답 시간도 느려질 수 있습니다...

컨텍스트 길이를 50페이지로 확장한 경우의 예는 대화형 로봇입니다. 8k 창을 밀어서 발생하는 복잡한 임베딩 문제를 크게 피할 수 있습니다. 또 다른 예는 논문, 연구 보고서 등 대량의 복잡한 정보를 추출하고 해석하는 것입니다. 현재는 구조화된 방법을 통해 데이터를 단계별로 분할하고 추출해야 하지만 컨텍스트 길이가 32k이면 이러한 문제를 한 번에 줄일 수 있습니다. 급습했다. 또 다른 예는 Twitter 블로거 Matt Shumer가 수행한 소규모 테스트입니다. GPT-4 32k에 코드 샘플을 제공하여 몇 초 만에 전체 테스트 사례 세트를 완료했는데 이는 Subversive에도 매우 유용합니다.

OpenAI 외에도 더 큰 컨텍스트 길이로 대규모 언어 모델을 여는 오픈 소스 모델도 있습니다. 이 MPT-7B(Llongboi라고도 함)는 이달 5일 출시되었습니다. 훈련하는 데 200,000달러가 소요되는 Llongboi의 가장 큰 특징은 64K 컨텍스트를 지원하고 콘텐츠 생성과 같은 다양한 시나리오를 제공할 수 있다는 것입니다. 그리고 채팅.

블로그 주소: https://www.php.cn/link/894a200a66c2b57205af564d6883882a

프로젝트 링크: https://www.php.cn/link/18fe8ebf5d52c8992581f 43 9ba783aa3

물론 열려요 소스 프로젝트 성능과 안정성은 확실히 GPT-4와 비교할 수 없습니다. 이제 일부 사람들이 32k GPT-4에 대한 초대를 받기 시작했기 때문에 곧 우리를 만날 것이라고 믿습니다. "속도가 빨라지길 바랍니다" 술집!

위 내용은 GPT-4는 32000 입력 길이 버전의 내부 테스트를 시작했습니다! 초대장을 받으셨나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!