OpenAI 悄然发布 GPT-4o Long Output，一种具有大规模扩展输出大小的新型大型语言模型

据报道，OpenAI 正面临现金短缺，但这并不能阻止这家卓越的生成式人工智能公司继续源源不断地发布新模型和更新。

OpenAI 悄然宣布了其 GPT-4o 大语言模型的新变体，称为 GPT-4o Long Output。这个新模型拥有大幅扩展的输出大小，与原始 GPT-4o 的 4,000 个令牌相比，能够生成多达 64,000 个令牌。这标志着产能增加了16倍。

令牌，可以快速刷新您的记忆，是概念、语法结构以及字母和数字组合的数字表示，它们根据法学硕士幕后的语义进行组织。

例如，“Hello”一词是一个标记，“hi”也是一个标记。您可以在此处通过 OpenAI 的 Tokenizer 观看代币的交互式演示。机器学习研究员 Simon Willison 也有一个很棒的交互式令牌编码器/解码器。

这个新模型旨在满足客户对更长输出上下文的需求，OpenAI 发言人告诉 VentureBeat：“我们听到客户的反馈，他们想要更长的输出上下文。我们一直在测试能够最好地满足客户需求的新方法。”

该模型目前正在进行几周的 alpha 测试阶段，在此期间 OpenAI 将收集有关扩展输出如何有效满足用户需求的数据。

这种增强的功能对于需要详细和广泛输出的应用程序尤其有利，例如代码编辑和写作改进。通过提供更多扩展输出，GPT-4o 模型可以提供更全面、更细致的响应，这可以使这些用例受益匪浅。

自发布以来，GPT-4o 已经提供了最大 128,000 个上下文窗口——模型在任何一次交互中可以处理的令牌数量，包括输入和输出令牌。对于 GPT-4o 长输出，这个最大上下文窗口保持在 128,000。

那么 OpenAI 是如何能够将输出令牌的数量从 4,000 个令牌增加到 64,000 个令牌的 16 倍，同时将整体上下文窗口保持在 128,000 个呢？

它的调用归结为一些简单的数学：尽管 5 月份的原始 GPT-4o 的上下文窗口总数为 128,000 个令牌，但其单个输出消息仅限于 4,000 个。

类似地，对于新的 GPT-4o 迷你窗口，总上下文为 128,000 个，但最大输出已提高到 16,000 个令牌。

这意味着对于 GPT-4o，用户可以提供最多 124,000 个令牌作为输入，并在单次交互中从模型接收最多 4,000 个最大输出。他们还可以提供更多代币作为输入，但接收更少的代币作为输出，同时仍可添加总计 128,000 个代币。

对于 GPT-4o mini，用户最多可以提供 112,000 个代币作为输入，以获得最大 16,000 个代币的输出。

对于 GPT-4o 长输出，总上下文窗口仍然上限为 128,000。然而，现在，用户可以提供最多 64,000 个代币的输入，以换取最多 64,000 个代币的返回——也就是说，如果构建在其之上的应用程序的用户或开发人员希望优先考虑较长的 LLM 响应，同时限制输入.

在所有情况下，用户或开发者都必须做出选择或权衡：他们是否想要牺牲一些输入代币以支持更长的输出，同时仍然保持 128,000 个代币总数？对于想要更长答案的用户，GPT-4o 长输出现在提供此选项。

新款GPT-4o长输出型号售价如下：

与常规 GPT-4o 定价（每百万输入代币 5 美元，每百万输出 15 美元）相比，甚至新的 GPT-4o mini 的定价为每百万输入 0.15 美元，每百万输出 0.60 美元，你可以看到它的定价相当OpenAI 继续积极进取，延续了最近的说法，即希望让广大开发者用户群能够负担得起并使用强大的人工智能。

目前，只有一小部分值得信赖的合作伙伴才能访问此实验模型。该发言人补充道，“我们正在与少数值得信赖的合作伙伴进行几周的 alpha 测试，看看更长的输出是否有助于他们的用例。”

根据此测试阶段的结果，OpenAI 可能会考虑将访问范围扩大到更广泛的客户群。

正在进行的 alpha 测试将为扩展输出模型的实际应用和潜在好处提供有价值的见解。

如果来自初始小组的反馈

以上是OpenAI 悄然发布 GPT-4o Long Output，一种具有大规模扩展输出大小的新型大型语言模型的详细内容。更多信息请关注PHP中文网其他相关文章！