Einführung der neuen Anthropic Token Counting API

Behalten Sie Ihre Kosten besser im Blick, wenn Sie Claude nutzen

Anthropic hat in den letzten Tagen still und leise einige interessante Beta-Funktionen eingeführt, die jedoch größtenteils unter dem Radar geflogen sind. Eine dieser Funktionen war die Möglichkeit, PDFs mit ihren Modellen zu verarbeiten, die nun sowohl Text als auch visuelle Inhalte in PDF-Dokumenten verstehen können. Möglicherweise werde ich in einem zukünftigen Artikel ausführlicher darauf eingehen.

Die andere Beta-Funktion, die im Mittelpunkt dieses Artikels steht, ist die Einführung der Token-Zählung. Wichtig ist, dass Sie die Tokens in Benutzernachrichten, PDFs und Bildern zählen können, bevor Sie sie an Claude senden. Das sind großartige Neuigkeiten für alle, die ihre Token-Nutzungskosten genau im Auge behalten möchten.

Wie in der offiziellen Ankündigung von Anthropic (Link hier) angegeben,

„Der Token-Counting-Endpunkt akzeptiert die gleiche strukturierte Liste von Eingaben zum Erstellen einer Nachricht, einschließlich der Unterstützung für Systemaufforderungen, Tools, Bilder und PDFs.“ Die Antwort enthält die Gesamtzahl der Eingabe-Tokens.“

Und unterstützt die folgenden Modelle,

„Claude 3.5 SonnetClaude 3.5 HaikuClaude 3 HaikuClaude 3 Opus“

Das obige ist der detaillierte Inhalt vonEinführung der neuen Anthropic Token Counting API. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!