Token Tamer — AI API Cost Control

Polar Sponsor
爱发电 赞助
.NET 9.0

监控、预算和优化各供应商的AI API支出。追踪每次调用,执行预算,检测浪费,并提供优化建议。

Token Tamer — AI API成本控制

功能概述

Token Tamer — AI API成本控制是一项面向实际任务的技能,主要用于使用这一技能来跟踪AI API成本,执行支出预算,并获得优化建议;与 OpenAI、Anthropic、双子座、Olla 等任何提供者合作。

核心要点

  • 它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。
  • 使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。
  • 该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。

使用与执行

从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;

结果检查与注意事项

若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。

Token Tamer — AI API 成本控制工具

使用此技能追踪 AI API 调用成本、强制执行支出预算,并获取优化建议。支持所有主流提供商:OpenAI、Anthropic、Gemini、Ollama 或自定义后端。

适用场景

当用户提出以下问题时,可调用该技能:

  • “我当前在 API 调用上花了多少钱?”
  • 设置每日 / 每周 / 每月预算上限
  • 按模型或提供商维度查看成本明细
  • 识别低效或浪费的 API 使用模式
  • 当支出接近预算上限时接收告警

初始化配置

  1. 将 config_example.py 复制为 token_config.py
  2. 设置预算限额及各模型的单价
  3. 配置用量数据存储文件路径
# token_config.py
USAGE_FILE = "./token_usage.json"
BUDGETS = {
    'daily': 10.00,
    'weekly': 50.00,
    'monthly': 150.00,
}
ALERT_THRESHOLDS = {
    'warning': 80,   # 预算使用率达 80% 时触发告警
    'critical': 95,  # 预算使用率达 95% 时触发告警
}

记录 API 调用用量

每次 API 请求后调用该方法,以追踪本次调用成本:

import token_config as config
from token_tamer import TokenTamer

tamer = TokenTamer(config)

# 记录一次调用 — 返回 (cost, status)
cost, status = tamer.log_usage(
    provider='anthropic',
    model='claude-sonnet-4-5',
    input_tokens=1500,
    output_tokens=800,
    task='summarize',       # 可选
    session='sess_001'      # 可选
)

if status == 'KILL':
    raise Exception("熔断开关已激活 — 日预算已超限")

查询预算状态

status = tamer.get_status()
# 返回结果示例:
# {
#   'daily':   { 'cost': 2.40, 'budget': 10.00, 'status': 'OK', 'message': None },
#   'weekly':  { 'cost': 8.10, 'budget': 50.00, 'status': 'OK', 'message': None },
#   'monthly': { 'cost': 8.10, 'budget': 150.00, 'status': 'OK', 'message': None },
#   'kill_switch': False
# }

if status['daily']['status'] == 'CRITICAL':
    print("日预算即将耗尽 — 建议切换至更低成本模型")

调用前预算检查

# 在发起高成本调用前进行检查(返回 True 表示允许,False 表示阻断)
if not tamer.check_before_call(estimated_cost=0.10):
    raise Exception("熔断开关已激活 — API 调用已被阻止")

成本报告

import token_config as config
from token_reports import ReportGenerator

reporter = ReportGenerator(config)

# 生成日报
report = reporter.generate_daily_report()
reporter.print_report(report)

# 生成周报
report = reporter.generate_weekly_report()
reporter.print_report(report)

# 按提供商维度拆分报告
report = reporter.generate_by_provider_report()
reporter.print_report(report)

# 按模型维度拆分报告
report = reporter.generate_by_model_report()
reporter.print_report(report)

# 按任务类型维度拆分报告
report = reporter.generate_by_task_report()
reporter.print_report(report)

浪费检测与优化建议

import token_config as config
from token_optimizer import WasteDetector, Optimizer

# 检测过去 7 天内的浪费行为
detector = WasteDetector(config)
waste = detector.detect_all(days=7)

# 获取优化建议
optimizer = Optimizer(config)
recommendations = optimizer.generate_recommendations(days=7)

命令行(CLI)使用方式

# 查看当前支出状态
python token_tamer.py --status

# 通过 CLI 记录一次调用
python token_tamer.py --log --provider openai --model gpt-4o 
    --input-tokens 1500 --output-tokens 300 --task "code_generation"

# 检查是否允许继续发起 API 调用(退出码 0 = 允许,1 = 阻断)
python token_tamer.py --check

# 生成日报
python token_reports.py --daily

# 检测浪费行为(过去 7 天)
python token_optimizer.py --detect-waste --days 7

# 获取优化建议
python token_optimizer.py --recommendations --days 7

完整 API 参考、模型定价配置说明及高级用法,请参阅 README.md。

相关专题

更多
token什么意思
token什么意思

token是一种用于表示用户权限、记录交易信息、支付虚拟货币的数字货币。可以用来在特定的网络上进行交易,用来购买或出售特定的虚拟货币,也可以用来支付特定的服务费用。想了解更多token什么意思的相关内容可以访问本专题下面的文章。

2024.03.01

4721

5

token怎么获取
token怎么获取

获取token值的方法:1、小程序调用“wx.login()”获取 临时登录凭证code,并回传到开发者服务器;2、开发者服务器以code换取,用户唯一标识openid和会话密钥“session_key”。想了解更详细的内容,可以阅读本专题下面的文章。

2023.12.21

2597

3

登录token无效怎么办
登录token无效怎么办

登录token无效的解决办法有检查Token是否过期、检查Token是否正确、检查Token是否被篡改、检查Token是否与用户匹配、清除缓存或Cookie、检查网络连接和服务器状态、重新登录或请求新的Token、联系技术支持或开发人员等。本专题为大家提供token相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.14

1245

5

登录token无效
登录token无效

登录token无效解决方法:1、检查token的有效期限,如果token已经过期,需要重新获取一个新的token;2、检查token的签名,如果签名不正确,需要重新获取一个新的token;3、检查密钥的正确性,如果密钥不正确,需要重新获取一个新的token;4、使用HTTPS协议传输token,建议使用HTTPS协议进行传输 ;5、使用双因素认证,双因素认证可以提高账户的安全性。

2023.09.14

9906

6

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

2026.09.30

0

10

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

2026.09.30

0

14

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

2026.09.30

0

12

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

2026.09.30

0

26

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

2026.09.29

0

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Minimax手册
Minimax手册

共0课时 | 0人学习

前端Vue3实战【手写vue项目】
前端Vue3实战【手写vue项目】

共9课时 | 1.3万人学习