ChatGPT 응답에 문자 또는 단어 제한이 있습니까?

ChatGPT는 큰 소식입니다. 하지만 이 다목적 챗봇으로부터 얻는 응답은 얼마나 큽니까?

이것을 확립하는 것은 생각만큼 간단하지 않습니다. 우선, ChatGPT에 이 질문을 해보세요. 답변 길이에 정해진 제한이 없다는 것을 확신하게 될 것입니다.

하지만 여기서 밝혀진 바에 따르면 그렇게 간단하지는 않습니다. ChatGPT 응답 길이에는 숨겨진 제한이 있지만 더 긴 답변을 얻는 데 도움이 되는 멋지고 간단한 해결 방법도 있습니다.

ChatGPT는 응답 길이를 어떻게 결정합니까?

ChatGPT 작동 방식은 복잡하며 응답 길이는 질문 내용과 요청한 세부 정보 수준에 따라 다릅니다. 다음 스크린샷에서 볼 수 있듯이 ChatGPT는 엄격한 제한이 없다고 주장합니다.

물론 ChatGPT에 대해 물어보는 것은 일반적으로 능력에 대해 객관적이지 않거나 정보가 제한되어 있기 때문에 좋은 생각이 아닙니다. 그래서 우리는 ChatGPT 응답의 길이 제한을 결정하기 위해 몇 가지 테스트를 실행했습니다. 우리는 챗봇에게 FIFA 월드컵 역사에 대한 5000자 분량의 기사를 작성해 달라고 요청했습니다. ChatGPT 자체 평가는 우리가 찾은 결과와 달랐습니다.

ChatGPT는 강력한 도구입니다. 그런데 5,000단어는 좀 무리한 것 같아서 2,500단어를 대신 달라고 했어요.

ChatGPT는 여전히 요청을 이행할 수 없다고 말했습니다. 챗봇이 기사를 작성하기 전에 우리는 1,000 단어까지 작업했습니다. 하지만 또 다른 문제가 있었습니다. 우리가 아무리 시도해도 ChatGPT는 해당 주제에 대해 1,000단어를 생성할 수 없었습니다. 그런데 왜? 더 긴 답변을 생성하는 챗봇의 능력을 제한하는 요인은 무엇입니까?

왜 이런 일이 발생하는지에 대한 답 중 일부는 토큰 시스템이라는 것에 있습니다.

ChatGPT 토큰 시스템은 무엇을 사용하나요?

ChatGPT에 질문을 할 때 제공할 수 있는 답변 길이는 토큰 시스템에 따라 다릅니다. 쿼리와 답변의 길이를 결정하기 위한 간단한 단어 수 대신 ChatGPT는 이 시스템을 사용합니다. 뭔가 알아차렸나요? "질문과 답변"의 길이가 모두 고려됩니다. 토큰 시스템은 각 입력과 출력을 일련의 토큰으로 분류하여 요청과 응답 크기를 분류합니다.

여기서 단어 수가 중요한 역할을 하지만 그것이 전부는 아닙니다. 예를 들어 아래 예제는 OpenAI의 Tokenizer 도구에 입력되었습니다.

"내가 입력한 단어 수"라는 문장과 "6"이라는 대답은 9개의 토큰 값으로 "토큰화"되었습니다. 이는 하나의 토큰이 단어의 약 3/4에 해당한다는 OpenAI의 "경험 법칙"과 일치합니다.

여기서 상황이 조금 까다로워집니다. OpenAI의 GPT 모델은 다양한 토큰 길이로 제공됩니다. ChatGPT Plus 구독과 함께 제공되는 표준 GPT-4 모델은 4k에서 8k 사이의 토큰 컨텍스트 길이를 제공합니다. OpenAI는 확장된 32k 토큰 컨텍스트 길이 GPT-4 모델도 제공합니다. GPT-3.5 시리즈는 더욱 다양한 토큰을 제공합니다. 4k, 8k 및 16k GPT-3.5 모델이 있습니다. 그러나 이러한 모델이 모두 공개적으로 제공되는 것은 아닙니다.

이 테스트에는 기본 GPT-3.5와 가정된 GPT-4 8k 모델을 사용했습니다. 컨텍스트 창 테스트를 실행할 때 8k 태그가 체크아웃되지 않았기 때문에 "가정"이라고 말합니다. 그리고 chat.openai.com의 GPT-4 모델이 8k 모델이라는 공식 소식통의 확인이 없다는 사실도 있습니다.

기본 GPT 3.5 4k 모델은 사용자 질문과 답변을 4,097개 토큰으로 제한해야 합니다. 마찬가지로 GPT-4 8k 모델은 8,192개의 토큰을 제공해야 합니다. OpenAI의 계산에 따르면 이는 GPT-3.5의 경우 약 3,000단어, GPT-4 8k 토큰의 경우 약 5,000~6,000단어에 해당합니다. 하지만 잠깐만요. 어느 모델에서나 대략 3,000~6,000단어의 용량을 제공하는데 ChatGPT가 우리가 요청했을 때 2,500단어 또는 심지어 1,500단어의 기사를 제공할 수 없었던 이유는 무엇입니까? ChatGPT 응답이 광고된 토큰 수 또는 컨텍스트 길이보다 훨씬 적은 이유는 무엇입니까?

ChatGPT의 응답이 제한되는 이유는 무엇입니까?

이론적으로는 토큰 길이가 간단하고 좋아 보이지만 AI 모델이 이러한 제한을 고려하는 방법에는 더 많은 것이 있습니다. 두 가지 주목할만한 고려 사항이 있습니다.

과거 대화: ChatGPT는 대화형 챗봇이기 때문에 사용자가 질문할 때마다 챗봇은 오래된 대화를 고려하여 일관성을 유지하고 자연스러운 상호 작용을 보장합니다. 이는 더 긴 대화에서 오래된 프롬프트와 응답이 항상 컨텍스트 창의 일부로 간주되어 결국 토큰 길이를 소모한다는 것을 의미합니다. 따라서 컨텍스트 창 계산에서 고려되는 것은 즉각적인 질문과 답변만이 아닙니다. 시스템 수요: ChatGPT는 역대 가장 빠르게 성장하는 앱 중 하나가 되었습니다. 이로 인해 ChatGPT에 대한 엄청난 수요가 발생했습니다. 모든 사람이 액션을 취할 수 있도록 하기 위해 8k 토큰이 항상 8k가 아닐 수도 있습니다. 처리할 토큰이 많을수록 시스템에 대한 수요가 더 많아진다는 점을 기억하세요. 각 사용자의 평균 수요를 줄이기 위해 응답은 명시된 한도보다 훨씬 아래로 축소됩니다.

강조하자면 이는 고정된 규칙이 아닙니다. 우리는 이를 거의 200단어 초과하는 출력을 생성했습니다. 그러나 이는 완전한 답변을 얻기 위한 안전한 상한선으로 간주될 수 있습니다.

ChatGPT에서 더 긴 응답을 받는 방법

ChatGPT의 응답에 "숨겨진 제한"이 있다는 것을 이해하고 나면 더 완전한 응답을 얻는 데 도움이 되는 몇 가지 간단한 방법이 있습니다.

ChatGPT에 계속 요청: ChatGPT가 답변 도중에 중지된 경우 한 가지 옵션은 단순히 계속하도록 요청하는 것입니다. 아래 예에서는 "계속하세요"를 입력했고 응답에 200단어가 더 추가되었습니다. 질문을 더 작은 섹션으로 나누세요. 예를 들어 AI가 사회에 미치는 영향에 대한 에세이를 작성하도록 여러 번 요청했습니다. . 여기서 한 가지 옵션은 AI에 대한 에세이의 일부 주제에 글머리 기호를 지정하도록 요청한 다음 제공된 글머리 기호를 개별 프롬프트로 사용하는 것입니다. 재생성 옵션을 사용하세요. 이렇게 하면 잃을 것이 없이 동일한 오류가 발생할 수 있지만 항상 시도해 볼 가치가 있습니다. 프롬프트에서 단어 수의 상한을 지정하세요. 아래 이미지는 이것이 답변의 최대 단어 수를 조작하는 데 어떻게 사용될 수 있는지 보여줍니다. 새 대화 시작: 새 대화를 시작하면 작업할 수 있는 깨끗한 상태가 됩니다. ChatGPT는 대화에서 과거 프롬프트와 응답을 고려한다는 점을 기억하세요. 새 채팅을 시작하면 작업에 사용되지 않은 컨텍스트가 제공됩니다.

이 팁은 ChatGPT에서 더 완전한 답변을 얻고 응답 길이의 비공식적 제한을 해결하는 데 도움이 될 것입니다.

ChatGPT: 수량보다 품질

ChatGPT 응답의 최대 길이에 대한 공식적인 정보는 없지만 실제로는 숨겨진 제약이 있습니다. 과거 대화 및 시스템 수요의 영향을 받는 토큰 시스템은 모두 ChatGPT의 답변 기간에 영향을 미칩니다. 그러나 ChatGPT에 계속 요청하고, 질문을 여러 부분으로 나누고, 응답을 재생성하고, 단어 수를 지정하고, 새 채팅을 시작하면 더 완전하고 긴 답변을 얻을 수 있는 경우가 많습니다. 완벽하지는 않지만 이러한 비공식적 한계를 인식하고 올바른 기술을 사용하면 이 강력한 AI 챗봇을 최대한 활용하는 데 도움이 될 수 있습니다.

위 내용은 ChatGPT 응답에 문자 또는 단어 제한이 있습니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!