ChatGPT 応答には文字数または単語数の制限がありますか?

ChatGPT はビッグニュースです。しかし、この多目的チャットボットから得られる応答はどれくらい大きいのでしょうか?

これを確立するのは、思っているほど簡単ではありません。まず、ChatGPT にこの質問をしてください。応答の長さには制限が設定されていないことが保証されます。

ただし、ここで明らかにするように、それはそれほど単純ではありません。 ChatGPT 応答の長さには隠れた制限がありますが、より長い応答を得るのに役立つ気の利いた簡単な回避策もいくつかあります。

ChatGPT は応答の長さをどのように決定しますか?

ChatGPT の仕組みは複雑で、応答の長さは質問の内容と要求される詳細レベルによって異なります。次のスクリーンショットが示すように、ChatGPT は厳密な制限はないと主張しています。

もちろん、ChatGPT は通常、その能力について客観的ではないか、情報が限られているため、ChatGPT 自体について質問するのは良い考えではありません。そこで、ChatGPT 応答の長さの制限を決定するためにいくつかのテストを実行しました。私たちはチャットボットに、FIFA ワールドカップの歴史に関する 5,000 ワードの記事を書くように依頼しました。 ChatGPT 自体の評価は、私たちが見つけた結果とは異なりました。

ChatGPT は強力なツールです。しかし、5,000 ワードでは少し多すぎたかもしれないので、代わりに 2,500 ワードを求めました。

ChatGPT は依然としてリクエストを満たすことができなかったと言いました。チャットボットが記事を作成する前に、1,000 ワードまで作業を進めました。しかし、別の問題がありました。何度試しても、ChatGPT はその主題に関して 1,000 語を生成できませんでした。しかし、なぜ？チャットボットが長い応答を生成する能力を制限しているものは何ですか?

なぜこれが起こるのかについての答えの一部は、トークン システムと呼ばれるものにあります。

ChatGPT が使用するトークン システムとは何ですか?

ChatGPT に質問すると、ChatGPT が提供できる応答の長さはトークン システムによって異なります。 ChatGPT は、単純な単語数によってクエリと回答の長さを決定するのではなく、このシステムを使用します。何か気づきましたか? 「質問と回答」の両方の長さが考慮されます。トークン システムは、各入力と出力を一連のトークンに分割して、要求と応答のサイズを分類します。

単語数もこれに影響しますが、それがすべてではありません。たとえば、以下の例は OpenAI の Tokenizer ツールに入力されました。

「何単語入力しましたか」という文と「6」という答えは、9 トークンの値に「トークン化」されました。これは、1 つのトークンが単語の約 4 分の 3 に相当するという OpenAI の「経験則」と一致しています。

ここからが少し難しくなります。 OpenAI の GPT モデルにはさまざまなトークン長があります。 ChatGPT Plus サブスクリプションに付属する標準 GPT-4 モデルは、4k ～ 8k のトークン コンテキスト長を提供します。 OpenAI は、拡張された 32k トークン コンテキスト長の GPT-4 モデルも提供します。 GPT-3.5 シリーズでは、さらに多様なトークンが提供されます。 GPT-3.5 には 4k、8k、16k モデルがあります。ただし、これらのモデルすべてが一般公開されているわけではありません。

このテストでは、ベース GPT-3.5 と想定される GPT-4 8k モデルを使用しました。 「想定」としているのは、コンテキスト ウィンドウ テストを実行したときに 8k タグがチェックアウトされなかったためです。そして、chat.openai.com の GPT-4 モデルが 8k モデルであるという公式情報源からの確認がないという事実もあります。

基本の GPT 3.5 4k モデルは、ユーザーの質問と返信を 4,097 トークンに制限することになっています。同様に、GPT-4 8k モデルは 8,192 トークンを配信すると想定されています。 OpenAI の計算によると、これは GPT-3.5 の場合は約 3,000 ワード、GPT-4 8k トークンの場合は約 5,000 ～ 6,000 ワードに相当します。でも、ちょっと待ってください。どちらのモデルでもおよそ 3,000 ～ 6,000 ワードの容量があるのに、ChatGPT がリクエストしたときに 2,500 ワード、さらには 1,500 ワードの記事を提供できなかったのはなぜでしょうか? ChatGPT 応答が、アドバタイズされたトークン数またはコンテキスト長よりもはるかに少ないのはなぜですか?

ChatGPT の応答が制限されているのはなぜですか?

トークンの長さは理論的には単純で適切に見えますが、AI モデルがこれらの制限をどのように考慮するかについてはさらに重要です。注目すべき考慮事項が 2 つあります。

過去の会話: ChatGPT は会話型チャットボットであるため、ユーザーが質問するたびに、チャットボットは古い会話の一貫性を維持し、自然な対話を保証するとみなします。これは、より長い会話では、古いプロンプトと応答が常にコンテキスト ウィンドウの一部とみなされ、最終的にトークンの長さを消費することを意味します。したがって、コンテキスト ウィンドウの計算では、即時の質問と応答だけが考慮されるわけではありません。システムの需要: ChatGPT は、急速に史上最も急速に成長しているアプリの 1 つになりました。これにより、ChatGPT に対する大きな需要が生まれました。全員がアクションの一部を確実に取得できるようにするため、8,000 トークンが必ずしも 8,000 であるとは限りません。処理するトークンが増えれば増えるほど、システムへの要求も増えることに注意してください。各ユーザーからの平均要求を軽減するために、応答は規定の制限を大幅に下回るまで削減されます。

強調しておきますが、これは固定ルールではありません。私たちはこれをほぼ 200 ワード上回る出力を生成しました。ただし、これは完全な答えを達成するための安全な上限と考えることができます。

ChatGPT からより長い応答を取得する方法

ChatGPT の応答には「隠れた制限」があることを理解したら、より完全な応答を取得するのに役立つ簡単な方法がいくつかあります。

ChatGPT に続行を依頼する: ChatGPT が回答の途中で停止した場合、1 つのオプションは単純に続行を依頼することです。以下の例では、「続けて」と入力すると、応答にさらに 200 語が追加されました。 質問を小さなセクションに分割します。たとえば、AI が社会に与える影響についてエッセイを書くように何度か尋ねました。 。ここでの 1 つのオプションは、AI に関するエッセイのいくつかのトピックを箇条書きにして、提供された箇条書きを個別のプロンプトとして使用するように依頼することです。 再生成オプションを使用します。これにより、同じエラーがスローされる可能性がありますが、失うものは何もありません。常に試してみる価値があります。プロンプトで単語数の上限を指定します。下の画像は、これを使用して回答の最大単語数を操作する方法を示しています。 新しい会話を開始する: 新しい会話を開始すると、白紙の状態で作業できるようになります。 ChatGPT は会話内の過去のプロンプトと応答を考慮することに注意してください。新しいチャットを開始すると、未使用のコンテキストを使用して作業できます。

これらのヒントは、ChatGPT からより完全な回答を取得し、回答の長さの非公式制限を回避するのに役立ちます。

ChatGPT: 量より質

ChatGPT 応答の最大長に関する公式情報はありませんが、実際には隠れた制約があります。トークン システムは、過去の会話とシステムの需要に影響され、すべて ChatGPT の応答の長さに影響します。ただし、ChatGPT に続行を依頼し、質問をいくつかの部分に分割し、応答を再生成し、単語数を指定し、新しいチャットを開始することで、より完全で長い応答を得ることができます。完璧ではありませんが、これらの非公式の制限を認識し、適切なテクニックを使用することで、この強力な AI チャットボットを最大限に活用することができます。

以上がChatGPT 応答には文字数または単語数の制限がありますか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。