OpenAI 悄悄發布 GPT-4o Long Output，一種具有大規模擴展輸出大小的新型大型語言模型

據報導 OpenAI 正面臨現金短缺，但這並不能阻止這家卓越的生成式人工智慧公司繼續源源不斷地發布新模型和更新。

OpenAI 悄悄宣布了其 GPT-4o 大語言模型的新變體，稱為 GPT-4o Long Output。這個新模型擁有大幅擴展的輸出大小，與原始 GPT-4o 的 4,000 個令牌相比，能夠產生多達 64,000 個令牌。這標誌著產能增加了 16 倍。

標記可以快速刷新您的記憶，是概念、語法結構以及字母和數字組合的數字表示，這些組合是根據法學碩士幕後的語義進行組織的。

例如，「Hello」一詞是一個標記，「hi」也是一個標記。您可以在此處透過 OpenAI 的 Tokenizer 觀看代幣的互動式示範。機器學習研究員 Simon Willison 也有一個很棒的互動式令牌編碼器/解碼器。

這個新模型旨在滿足客戶對更長輸出上下文的需求，OpenAI 發言人告訴VentureBeat：「我們聽到客戶的回饋，他們想要更長的輸出上下文。我們一直在測試能夠最好地滿足客戶需求的新方法。

該模型目前正在進行為期幾週的 alpha 測試階段，在此期間 OpenAI 將收集有關擴展輸出如何有效滿足用戶需求的數據。

這種增強的功能對於需要詳細和廣泛輸出的應用程式特別有利，例如程式碼編輯和寫作改進。透過提供更多擴充輸出，GPT-4o 模型可以提供更全面、更細緻的回應，這可以使這些用例受益匪淺。

自發布以來，GPT-4o 已經提供了最大 128,000 個上下文視窗 - 模型在任何一次互動中可以處理的令牌數量，包括輸入和輸出令牌。對於 GPT-4o 長輸出，此最大上下文視窗保持在 128,000。

那麼 OpenAI 是如何將輸出 token 的數量從 4,000 個 token 增加到 64,000 個 token 的 16 倍，同時將整體上下文視窗保持在 128,000 個？

它的呼叫歸結為一些簡單的數學：儘管 5 月份的原始 GPT-4o 的上下文視窗總數為 128,000 個令牌，但其單一輸出訊息僅限於 4,000 個。

同樣，對於新的 GPT-4o 迷你窗口，總上下文為 128,000 個，但最大輸出已提高到 16,000 個令牌。

這意味著對於 GPT-4o，使用者可以提供最多 124,000 個令牌作為輸入，並在單次互動中從模型接收最多 4,000 個最大輸出。他們還可以提供更多代幣作為輸入，但接收較少的代幣作為輸出，同時仍可添加總計 128,000 個代幣。

對於 GPT-4o mini，用戶最多可以提供 112,000 個代幣作為輸入，以獲得最大 16,000 個代幣的輸出。

對於 GPT-4o 長輸出，總上下文視窗的上限仍然為 128,000。然而，現在，用戶可以提供最多64,000 個代幣的輸入，以換取最多64,000 個代幣的返回——也就是說，如果構建在其之上的應用程式的用戶或開發人員想要優先考慮較長的LLM 響應，同時限制輸入.

在所有情況下，用戶或開發者都必須做出選擇或權衡：他們是否想要犧牲一些輸入代幣以支援更長的輸出，同時仍然保持 128,000 個代幣總數？對於想要更長答案的用戶，GPT-4o 長輸出現在提供此選項。

新款GPT-4o長輸出機型售價如下：

與常規GPT-4o 定價（每百萬輸入代幣5 美元，每百萬輸出15 美元）相比，甚至新的GPT-4o mini 定價為每百萬輸入0.15 美元，每百萬輸出0.60美元，您可以看到它是OpenAI 的定價相當激進，延續了OpenAI 最近的說法，即它希望讓強大的人工智慧能夠為廣大開發者用戶群提供價格實惠且易於使用的服務。

目前，只有一小部分值得信賴的合作夥伴才能存取此實驗模型。發言人補充道，「我們正在與少數值得信賴的合作夥伴進行幾週的 alpha 測試，看看更長的輸出是否有助於他們的用例。」

根據此測試階段的結果，OpenAI 可能會考慮將訪問範圍擴大到更廣泛的客戶群。

正在進行的 alpha 測試將為擴展輸出模型的實際應用和潛在優勢提供有價值的見解。

如果來自初始小組的回饋

以上是OpenAI 悄悄發布 GPT-4o Long Output，一種具有大規模擴展輸出大小的新型大型語言模型的詳細內容。更多資訊請關注PHP中文網其他相關文章！