Présentation de la nouvelle API de comptage de jetons anthropiques

Gardez un œil attentif sur vos coûts lorsque vous utilisez Claude

Anthropic a discrètement déployé quelques fonctionnalités bêta intéressantes ces derniers jours, mais elles sont pour la plupart passées inaperçues. L'une de ces fonctionnalités était la possibilité de traiter des PDF avec leurs modèles, qui peuvent désormais comprendre à la fois le contenu textuel et visuel des documents PDF. Je pourrais aborder cela plus en détail dans un prochain article.

L'autre fonctionnalité bêta, qui fait l'objet de cet article, est l'introduction du comptage de jetons. Surtout, vous pouvez compter les jetons dans les messages utilisateur, les PDF et les images avant de les envoyer à Claude. C'est une excellente nouvelle pour tous ceux qui souhaitent garder un œil attentif sur les coûts d'utilisation de leurs jetons.

Comme indiqué dans l'annonce officielle d'Anthropic (lien ici),

« Le point de terminaison de comptage de jetons accepte la même liste structurée d'entrées pour créer un message, y compris la prise en charge des invites système, des outils, des images et des PDF. La réponse contient le nombre total de jetons d'entrée. »

Et prend en charge les modèles suivants,

«Claude 3.5 SonnetClaude 3.5 HaikuClaude 3 HaikuClaude 3 Opus»

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!