Haben ChatGPT-Antworten eine Zeichen- oder Wortbeschränkung?

ChatGPT ist eine große Neuigkeit. Aber wie groß sind die Antworten, die Sie von diesem Allzweck-Chatbot erhalten?

Dies festzustellen ist nicht so einfach, wie Sie vielleicht denken. Stellen Sie ChatGPT zunächst diese Frage und Sie werden sicher sein, dass es keine festgelegten Grenzen für die Länge der Antworten gibt.

Wie wir hier jedoch feststellen, ist es nicht so einfach. Es gibt versteckte Grenzen für die Länge einer ChatGPT-Antwort, aber es gibt auch einige raffinierte und einfache Problemumgehungen, die Ihnen dabei helfen, längere Antworten zu erhalten.

Wie bestimmt ChatGPT die Länge einer Antwort?

Die Funktionsweise von ChatGPT ist komplex und die Antwortlänge variiert je nach der Frage und dem angeforderten Detaillierungsgrad. Wie der nächste Screenshot zeigt, gibt ChatGPT an, dass es keine strengen Beschränkungen gibt.

Natürlich ist es keine gute Idee, ChatGPT nach sich selbst zu fragen, da es normalerweise nicht objektiv ist, was seine Fähigkeiten angeht, oder nur über begrenzte Informationen verfügt. Daher haben wir einige Tests durchgeführt, um die Längenbeschränkungen von ChatGPT-Antworten zu ermitteln. Wir haben den Chatbot gebeten, einen 5000-Wörter-Artikel über die Geschichte der FIFA-Weltmeisterschaft zu schreiben. Die Selbsteinschätzung von ChatGPT wich von den Ergebnissen ab, die wir gefunden haben.

ChatGPT ist ein leistungsstarkes Tool. Aber vielleicht waren 5.000 Wörter etwas zu viel verlangt, also habe ich stattdessen 2.500 Wörter verlangt.

ChatGPT sagte immer noch, dass die Anfrage nicht erfüllt werden konnte. Wir haben auf 1.000 Wörter heruntergearbeitet, bevor der Chatbot den Artikel produzierte. Aber es gab noch ein anderes Problem: Egal wie oft wir es versuchten, ChatGPT konnte keine 1.000 Wörter zu diesem Thema hervorbringen. Aber warum? Was schränkt die Fähigkeit des Chatbots ein, längere Antworten zu produzieren?

Ein Teil der Antwort, warum dies geschieht, liegt im sogenannten Token-System.

Was verwendet das Token-System, das ChatGPT verwendet?

Wenn Sie ChatGPT eine Frage stellen, hängt die Länge der Antworten, die es liefern kann, von einem Token-System ab. Anstelle einer einfachen Wortzählung zur Bestimmung der Länge von Anfragen und Antworten verwendet ChatGPT dieses System. Fällt Ihnen etwas auf? Dabei wird die Länge sowohl der „Anfragen als auch der Antworten“ berücksichtigt. Das Token-System zerlegt jede Eingabe und Ausgabe in eine Reihe von Token, um die Anforderungs- und Antwortgröße zu klassifizieren.

Auch wenn die Anzahl der Wörter dabei eine Rolle spielt, ist sie nicht die ganze Geschichte. Das folgende Beispiel wurde beispielsweise in das Tokenizer-Tool von OpenAI eingegeben.

Der Satz „Wie viele Wörter habe ich getippt“ und die Antwort „6“ wurden auf einen Wert von neun Token „tokenisiert“. Dies steht im Einklang mit der „Faustregel“ von OpenAI, dass ein Token etwa drei Viertel eines Wortes entspricht.

Hier wird es etwas knifflig. Die GPT-Modelle von OpenAI sind in unterschiedlichen Tokenlängen erhältlich. Das Standard-GPT-4-Modell, das mit Ihrem ChatGPT Plus-Abonnement geliefert wird, bietet eine Token-Kontextlänge zwischen 4.000 und 8.000. OpenAI bietet außerdem ein erweitertes GPT-4-Modell mit einer Kontextlänge von 32 KB. Die GPT-3.5-Serie bietet noch mehr Token-Vielfalt. Es gibt 4k-, 8k- und 16k-GPT-3.5-Modelle. Allerdings sind nicht alle dieser Modelle öffentlich verfügbar.

Für diesen Test haben wir das Basismodell GPT-3.5 und das angebliche GPT-4 8k-Modell verwendet. Wir sagen „vermutlich“, weil das 8k-Tag nicht ausgecheckt wurde, als wir einen Kontextfenstertest durchgeführt haben. Und dann ist da noch die Tatsache, dass es von offiziellen Quellen keine Bestätigung gibt, dass es sich beim GPT-4-Modell auf chat.openai.com um ein 8k-Modell handelt.

Das Basismodell GPT 3.5 4k soll Benutzerfragen und -antworten auf 4.097 Token beschränken. Ebenso soll das GPT-4 8k-Modell 8.192 Token liefern. Nach Schätzungen von OpenAI entspricht dies etwa 3.000 Wörtern für den GPT-3.5 und etwa 5.000 bis 6.000 Wörtern für die GPT-4 8k-Tokens. Aber warte mal. Warum war ChatGPT bei einer Kapazität von ca. 3.000 bis 6.000 Wörtern bei beiden Modellen nicht in der Lage, auf unsere Anfrage hin einen Artikel mit 2.500 Wörtern oder sogar 1.500 Wörtern zu liefern? Warum sind ChatGPT-Antworten viel geringer als die angekündigte Token-Anzahl oder Kontextlänge?

Warum sind die Antworten von ChatGPT begrenzt?

Während die Token-Länge in der Theorie einfach und gut aussieht, geht es noch mehr darum, wie KI-Modelle diese Grenzen berücksichtigen. Es gibt zwei bemerkenswerte Überlegungen.

Vergangene Gespräche: Da es sich bei ChatGPT um einen Konversations-Chatbot handelt, berücksichtigt der Chatbot jedes Mal, wenn Sie eine Frage stellen, ältere Gespräche, um konsistent zu bleiben und natürlich klingende Interaktionen zu gewährleisten. Das bedeutet, dass bei längeren Gesprächen ältere Eingabeaufforderungen und Antworten immer als Teil des Kontextfensters betrachtet werden und am Ende Ihre Token-Länge verschlingen. Bei der Berechnung des Kontextfensters werden also nicht nur die unmittelbaren Fragen und Antworten berücksichtigt. Systembedarf: ChatGPT hat sich schnell zu einer der am schnellsten wachsenden Apps aller Zeiten entwickelt. Dies hat zu einer enormen Nachfrage nach ChatGPT geführt. Um sicherzustellen, dass jeder an der Aktion teilnimmt, sind 8.000-Tokens möglicherweise nicht immer 8.000. Denken Sie daran: Je mehr Token verarbeitet werden müssen, desto höher ist die Anforderung an das System. Um die durchschnittliche Nachfrage jedes Benutzers zu verringern, werden die Antworten auf weit unter die angegebenen Grenzwerte beschränkt.

Um es zu betonen: Dies ist keine feste Regel – wir haben Ausgaben generiert, die diese um fast zweihundert Wörter übertrafen. Dies kann jedoch als sichere Obergrenze angesehen werden, um vollständige Antworten zu erhalten.

So erhalten Sie längere Antworten von ChatGPT

Sobald Sie verstanden haben, dass es ein „verstecktes Limit“ für die Antworten von ChatGPT gibt, gibt es einige einfache Möglichkeiten, die Ihnen dabei helfen, vollständigere Antworten zu erhalten.

Bitten Sie ChatGPT, fortzufahren: Wenn ChatGPT mitten in einer Antwort stoppt, besteht eine Möglichkeit darin, es einfach zum Fortfahren aufzufordern. Im folgenden Beispiel haben wir „Weiter“ eingegeben und der Antwort wurden weitere zweihundert Wörter hinzugefügt. Teilen Sie Ihre Frage in kleinere Abschnitte auf: Wir haben sie beispielsweise mehrmals gebeten, einen Aufsatz über die Auswirkungen von KI auf die Gesellschaft zu schreiben . Eine Möglichkeit besteht hier darin, ihn zu bitten, einige Themen für einen Aufsatz über KI mit Aufzählungspunkten zu versehen und dann die bereitgestellten Aufzählungspunkte als individuelle Eingabeaufforderungen zu verwenden. Verwenden Sie die Option „Neu generieren“: Dies könnte zwar den gleichen Fehler auslösen, aber es gibt nichts zu verlieren ist immer einen Versuch wert. Geben Sie in Ihrer Eingabeaufforderung eine Obergrenze für Ihre Wortanzahl an: Das Bild unten zeigt, wie Sie damit die maximale Wortanzahl in einer Antwort manipulieren können. Starten Sie eine neue Konversation: Wenn Sie eine neue Konversation beginnen, haben Sie eine saubere Ausgangslage, mit der Sie arbeiten können. Denken Sie daran, dass ChatGPT frühere Aufforderungen und Antworten in einem Gespräch berücksichtigt. Wenn Sie einen neuen Chat starten, erhalten Sie ungenutzten Kontext, mit dem Sie arbeiten können.

Diese Tipps helfen Ihnen dabei, umfassendere Antworten von ChatGPT zu erhalten und die inoffizielle Beschränkung der Antwortlänge zu umgehen.

ChatGPT: Qualität vor Quantität

Obwohl es keine offiziellen Informationen zur maximalen Länge von ChatGPT-Antworten gibt, gibt es in der Praxis versteckte Einschränkungen. Das Token-System, das von vergangenen Gesprächen und Systemanforderungen beeinflusst wird, hat Einfluss darauf, wie lange die Antworten von ChatGPT dauern können. Wenn Sie ChatGPT jedoch bitten, fortzufahren, Fragen in Teile aufzuteilen, Antworten neu zu generieren, die Anzahl der Wörter festzulegen und neue Chats zu starten, können Sie häufig vollständigere und längere Antworten erhalten. Auch wenn dies nicht perfekt ist, kann Ihnen die Kenntnis dieser inoffiziellen Grenzen und die Verwendung der richtigen Techniken dabei helfen, das Beste aus diesem leistungsstarken KI-Chatbot herauszuholen.

Das obige ist der detaillierte Inhalt vonHaben ChatGPT-Antworten eine Zeichen- oder Wortbeschränkung?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!