ChatGPT 响应有字符或字数限制吗？

ChatGPT 是个大新闻。但是，您从这个通用聊天机器人中得到的反应有多大呢？

建立这一点并不像您想象的那么简单。首先，向 ChatGPT 询问这个问题，您将确信其响应的长度没有设定限制。

然而，正如我们在这里发现的那样，事情并不是那么简单。 ChatGPT 响应的长度存在隐藏限制，但也有一些巧妙且简单的解决方法可以帮助您获得更长的答案。

ChatGPT 如何确定响应的长度？

ChatGPT 的工作原理很复杂，响应长度根据所询问的内容和所要求的详细程度而有所不同。如下图所示，ChatGPT 声称没有严格的限制。

当然，询问 ChatGPT 本身并不是一个好主意，因为它通常对其能力不客观或者信息有限。因此，我们运行了一些测试来确定 ChatGPT 响应的长度限制。我们要求聊天机器人写一篇 5000 字的关于 FIFA 世界杯历史的文章。 ChatGPT 对自身的评估与我们发现的结果不同。

ChatGPT 是一个强大的工具。但也许 5000 字的要求有点太多了，所以我改为 2500 字。

ChatGPT 仍然表示无法满足请求。在聊天机器人生成文章之前，我们将字数缩减到了 1,000 个。但还有另一个问题：无论我们尝试多少次，ChatGPT 都无法针对该主题生成 1,000 个单词。但为什么？是什么限制了聊天机器人生成更长回复的能力？

为什么会发生这种情况的部分答案在于所谓的代币系统。

ChatGPT 使用什么令牌系统？

当您向 ChatGPT 询问问题时，它可以提供的回复长度取决于令牌系统。 ChatGPT 使用该系统，而不是通过简单的字数统计来确定查询和答案的长度。注意到什么了吗？ “询问和回答”的长度都被考虑在内。令牌系统将每个输入和输出分解为一系列令牌，以对请求和响应大小进行分类。

虽然字数确实在其中发挥了作用，但这并不是故事的全部。例如，下面的示例被输入到 OpenAI 的 Tokenizer 工具中。

句子“我输入了多少个单词”和答案“6”被“标记”为九个标记的值。这与 OpenAI 的“经验法则”一致，即一个 token 相当于一个单词的四分之三左右。

这就是事情变得有点棘手的地方。 OpenAI 的 GPT 模型有不同的令牌长度。 ChatGPT Plus 订阅附带的标准 GPT-4 模型提供 4k 到 8k 令牌上下文长度。 OpenAI 还提供扩展的 32k 令牌上下文长度 GPT-4 模型。 GPT-3.5 系列提供了更多的代币种类。有 4k、8k 和 16k GPT-3.5 型号。然而，并非所有这些模型都是公开的。

我们使用基本 GPT-3.5 和假设的 GPT-4 8k 模型进行此测试。我们说“假设”是因为当我们运行上下文窗口测试时，8k 标签没有签出。还有一个事实是，官方消息来源并未证实 chat.openai.com 上的 GPT-4 型号是 8k 型号。

基本 GPT 3.5 4k 模型应该将用户问题和回复限制为 4,097 个令牌。同样，GPT-4 8k 模型应该提供 8,192 个代币。根据 OpenAI 的计算，这相当于 GPT-3.5 约 3,000 个单词，GPT-4 8k 代币约 5,000 到 6,000 个单词。但等一下。任一模型的容量约为 3,000 至 6,000 字，为什么 ChatGPT 无法按照我们的要求提供 2,500 字甚至 1,500 字的文章？为什么 ChatGPT 响应远小于其广告的令牌计数或上下文长度？

为什么 ChatGPT 的响应有限？

虽然令牌长度在理论上看起来简单且良好，但人工智能模型如何考虑这些限制还有更多内容。有两个值得注意的考虑因素。

过去的对话：由于 ChatGPT 是一个对话式聊天机器人，因此每当您提出问题时，聊天机器人都会考虑较旧的对话以保持一致并确保互动听起来自然。这意味着在较长的对话中，较旧的提示和响应总是被视为上下文窗口的一部分，并最终消耗您的令牌长度。因此，上下文窗口计算中不仅仅考虑直接的问题和答复。系统需求：ChatGPT 已迅速成为有史以来增长最快的应用程序之一。这对ChatGPT产生了巨大的需求。为了确保每个人都能参与其中，8k 代币可能并不总是 8k。请记住，要处理的令牌越多，对系统的需求就越大。为了减少每个用户的平均需求，响应被削减到远低于规定的限制。

需要强调的是，这不是一个固定规则——我们生成的输出超出了该规则近 200 个单词。然而，这可以被认为是获得完整答案的安全上限。

如何从 ChatGPT 获取更长的响应

一旦您了解 ChatGPT 的响应存在“隐藏限制”，就有一些简单的方法可以帮助您获得更完整的响应。

要求 ChatGPT 继续：如果 ChatGPT 在回答过程中停止，则一种选择是简单地要求其继续。在下面的示例中，我们输入“继续”，它在响应中又添加了 200 个单词。 将您的问题分成更小的部分：例如，我们多次要求它写一篇关于人工智能影响的文章关于社会。这里的一个选择是要求它为一篇关于人工智能的文章列出一些主题，然后使用提供的项目符号作为单独的提示。 使用“重新生成”选项：虽然这可能会引发相同的错误，但不会造成任何损失，它总是值得一试。在提示中指定字数上限：下图说明了如何使用它来操纵答案中的最大字数。 开始新对话：开始新对话可以让您重新开始工作和。请记住，ChatGPT 会考虑对话中过去的提示和响应。开始新的聊天可以为您提供未使用的上下文。

这些提示将帮助您从 ChatGPT 获得更完整的答案，并解决其响应长度的非官方限制。

ChatGPT：质量重于数量

虽然没有关于 ChatGPT 响应最大长度的官方信息，但实际上存在隐藏的限制。令牌系统受过去的对话和系统需求的影响，都会影响 ChatGPT 的答案的长度。但是，通过要求 ChatGPT 继续、将问题分解为多个部分、重新生成响应、指定字数统计以及开始新的聊天，您通常可以获得更完整、更长的回复。尽管并不完美，但了解这些非官方限制并使用正确的技术可以帮助您充分利用这个强大的人工智能聊天机器人。

以上是ChatGPT 响应有字符或字数限制吗？的详细内容。更多信息请关注PHP中文网其他相关文章！