새로운 Anthropic Token Counting API 소개

Claude를 사용할 때 비용을 주의 깊게 살펴보세요

Anthropic은 최근 몇 가지 흥미로운 베타 기능을 조용히 선보였지만 대부분은 주목받지 못했습니다. 이러한 기능 중 하나는 모델을 사용하여 PDF를 처리하는 기능이었습니다. 이제 PDF 문서 내의 텍스트와 시각적 콘텐츠를 모두 이해할 수 있습니다. 이에 대해서는 향후 기사에서 더 자세히 다룰 예정입니다.

이 글의 초점이 되는 또 다른 베타 기능은 토큰 계산 도입입니다. 중요한 점은 사용자 메시지, PDF 및 이미지를 Claude에게 보내기 전에 해당 토큰을 계산할 수 있다는 것입니다. 이는 토큰 사용 비용을 면밀히 관찰하고 싶은 모든 사람에게 좋은 소식입니다.

Anthropic의 공식 발표(링크는 여기)에서도 밝혔듯이

“토큰 계산 엔드포인트는 시스템 프롬프트, 도구, 이미지 및 PDF에 대한 지원을 포함하여 메시지 생성을 위해 동일한 구조화된 입력 목록을 허용합니다. 응답에는 총 입력 토큰 수가 포함됩니다.”

다음 모델을 지원합니다.

“Claude 3.5 SonnetClaude 3.5 HaikuClaude 3 HaikuClaude 3 Opus”

위 내용은 새로운 Anthropic Token Counting API 소개의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!