ChatGPT 回應有字元或字數限制嗎？

ChatGPT 是個大新聞。但是，您從這個通用聊天機器人中得到的反應有多大？

建立這一點並不像您想像的那麼簡單。首先，向 ChatGPT 詢問這個問題，您將確信其反應的長度沒有設定限制。

然而，正如我們在這裡發現的那樣，事情並不是那麼簡單。 ChatGPT 回應的長度有隱藏限制，但也有一些巧妙且簡單的解決方法可以幫助您獲得更長的答案。

ChatGPT 如何決定反應的長度？

ChatGPT 的工作原理很複雜，回應長度會根據所詢問的內容和所要求的詳細程度而有所不同。如下圖所示，ChatGPT 聲稱沒有嚴格的限制。

當然，詢問 ChatGPT 本身並不是一個好主意，因為它通常對其能力不客觀或資訊有限。因此，我們運行了一些測試來確定 ChatGPT 響應的長度限制。我們要求聊天機器人寫一篇 5000 字的關於 FIFA 世界盃歷史的文章。 ChatGPT 對自身的評估與我們發現的結果不同。

ChatGPT 是一個強大的工具。但也許 5000 字的要求有點太多了，所以我改為 2500 字。

ChatGPT 仍然表示無法滿足請求。在聊天機器人產生文章之前，我們將字數縮減到了 1,000 個。但還有另一個問題：無論我們嘗試多少次，ChatGPT 都無法針對該主題產生 1,000 個單字。但為什麼？是什麼限制了聊天機器人產生更長回覆的能力？

為什麼會發生這種情況的部分答案在於所謂的代幣系統。

ChatGPT 使用什麼令牌系統？

當您向 ChatGPT 詢問問題時，它可以提供的答案長度取決於令牌系統。 ChatGPT 使用該系統，而不是透過簡單的字數統計來確定查詢和答案的長度。注意到什麼了嗎？ 「詢問和回答」的長度都被考慮在內。令牌系統將每個輸入和輸出分解為一系列令牌，以對請求和回應大小進行分類。

雖然字數確實在其中發揮了作用，但這並不是故事的全部。例如，下面的範例被輸入到 OpenAI 的 Tokenizer 工具中。

句子「我輸入了多少個單字」和答案「6」被「標記」為九個標記的值。這與 OpenAI 的「經驗法則」一致，即一個 token 相當於一個單字的四分之三左右。

這就是事情變得有點棘手的地方。 OpenAI 的 GPT 模型有不同的代幣長度。 ChatGPT Plus 訂閱隨附的標準 GPT-4 模型提供 4k 到 8k 令牌上下文長度。 OpenAI 也提供擴展的 32k 令牌上下文長度 GPT-4 模型。 GPT-3.5 系列提供了更多的代幣種類。有 4k、8k 和 16k GPT-3.5 型號。然而，並非所有這些模型都是公開的。

我們使用基本 GPT-3.5 和假設的 GPT-4 8k 模型進行此測試。我們說「假設」是因為當我們執行上下文視窗測試時，8k 標籤沒有簽出。還有一個事實是，官方消息來源並未證實 chat.openai.com 上的 GPT-4 型號是 8k 型號。

基本 GPT 3.5 4k 模型應該將使用者問題和回應限制為 4,097 個令牌。同樣，GPT-4 8k 模型應該提供 8,192 個代幣。根據 OpenAI 的計算，這相當於 GPT-3.5 約 3,000 個單詞，GPT-4 8k 代幣約 5,000 到 6,000 個單詞。但等一下。任一模型的容量約為 3,000 至 6,000 字，為什麼 ChatGPT 無法按照我們的要求提供 2,500 字甚至 1,500 字的文章？為什麼 ChatGPT 回應遠小於其廣告的令牌計數或上下文長度？

為什麼 ChatGPT 的反應有限？

雖然令牌長度在理論上看起來簡單且良好，但人工智慧模型如何考慮這些限制還有更多內容。有兩個值得注意的考慮因素。

過去的對話：由於 ChatGPT 是一個對話式聊天機器人，因此每當您提出問題時，聊天機器人都會考慮較舊的對話以保持一致並確保互動聽起來自然。這意味著在較長的對話中，較舊的提示和回應總是被視為上下文視窗的一部分，並最終消耗您的令牌長度。因此，上下文視窗計算中不僅僅考慮直接的問題和答案。系統需求：ChatGPT 已迅速成為有史以來成長最快的應用程式之一。這對ChatGPT產生了巨大的需求。為了確保每個人都能參與其中，8k 代幣可能並不總是 8k。請記住，要處理的令牌越多，對系統的需求就越大。為了減少每個用戶的平均需求，回應被削減到遠低於規定的限制。

需要強調的是，這不是一個固定規則——我們產生的輸出超出了該規則近 200 個單字。然而，這可以被認為是獲得完整答案的安全上限。

如何從 ChatGPT 獲得更長的回應

一旦您了解 ChatGPT 的回應存在“隱藏限制”，就有一些簡單的方法可以幫助您獲得更完整的回應。

要求 ChatGPT 繼續：如果 ChatGPT 在回答過程中停止，則一種選擇是簡單地要求其繼續。在下面的範例中，我們輸入“繼續”，它在回應中又添加了200 個單字。的文章關於社會。這裡的一個選擇是要求它為一篇關於人工智慧的文章列出一些主題，然後使用提供的項目符號作為單獨的提示。但不會造成任何損失，它總是值得一試。在提示中指定字數上限：下圖說明如何使用它來操縱答案中的最大字數。請記住，ChatGPT 會考慮對話中過去的提示和回應。開始新的聊天可以為您提供未使用的上下文。 這些提示將幫助您從 ChatGPT 獲得更完整的答案，並解決其回應長度的非官方限制。 ChatGPT：質量重於數量

雖然沒有關於 ChatGPT 響應最大長度的官方信息，但實際上存在隱藏的限制。令牌系統受過去的對話和系統需求的影響，都會影響 ChatGPT 的答案的長度。但是，透過要求 ChatGPT 繼續、將問題分解為多個部分、重新產生回應、指定字數統計以及開始新的聊天，您通常可以獲得更完整、更長的回應。儘管並不完美，但了解這些非官方限制並使用正確的技術可以幫助您充分利用這個強大的人工智慧聊天機器人。

以上是ChatGPT 回應有字元或字數限制嗎？的詳細內容。更多資訊請關注PHP中文網其他相關文章！