AI Skills 一站式监控评估平台 — 7因子评估引擎、跨模型基准评测、中心化仪表板、智能推荐
🩺 Skills Monitor — AI Skills 监控评估平台是一项面向实际任务的技能,主要用于🎯 对 AI Skills 进行 采集、评估、对比、推荐、诊断、上报 的一站式监控系统;✨ 核心能力;
它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。
执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。
🎯 对 AI Skills 进行采集、评估、对比、推荐、诊断、上报的一站式监控系统
对每个 Skill 从 成功率、延迟、质量、成本、稳定性、社区热度、兼容性 七个维度进行量化评分,输出 0-100 综合得分。
内置 1000 个热门 Skills 在 6 大主流模型上的完整评测数据:
mock (零成本模拟) 和 live (真实 API 调用) 两种模式通过 SkillsHUB 一键安装:
# 方式一:SkillsHUB CLI skills install skills-monitor # 方式二:手动安装 python install_skills.py skills-monitor
# 初始化身份(生成 Agent ID + API Key) skills-monitor init # 查看身份信息 skills-monitor identity --show-key
# 查看系统状态 skills-monitor status # 列出已安装 Skills skills-monitor list # 运行单个 Skill 并采集数据 skills-monitor run[task] # 7因子综合评估 skills-monitor evaluate --skill skills-monitor evaluate # 评估所有 Skills # 基准评测 skills-monitor benchmark --runs 20 # 查询大模型基准分数 skills-monitor baseline --model claude-opus-4.6 # 对比分析 skills-monitor compare # 智能推荐 skills-monitor recommend # 生成综合日报 skills-monitor report # 生成诊断报告(含推送) skills-monitor diagnose --send # 上报数据到中心化服务器 skills-monitor upload --server https://your-server.com --register
# 本地 Web 面板 skills-monitor web --port 5050 # 中心化服务器(含 API + 微信回调 + PWA) skills-monitor server --port 5100
from skills_monitor import (
SkillEvaluator,
SkillRecommender,
DiagnosticReporter,
BatchBenchmark,
ReportGenerator,
DataUploader,
)
# 7因子评估
evaluator = SkillEvaluator(store, agent_id)
score = evaluator.evaluate_skill("your-skill-slug")
# 跨模型基准评测
bench = BatchBenchmark(mode="mock")
baseline = bench.get_baseline_for_skill("your-skill-slug", "claude-opus-4.6")
# 智能推荐
recommender = SkillRecommender(registry, store, agent_id)
recs = recommender.get_all_recommendations(max_per_type=5)
# 诊断报告
diag = DiagnosticReporter(store=store, registry=registry, agent_id=agent_id)
content, filepath = diag.generate_and_save(trigger="manual")
# 数据上报
uploader = DataUploader("https://your-server.com")
uploader.init(agent_id, api_key)
uploader.upload_daily()
| 命令 | 说明 |
|---|---|
init |
初始化身份(生成 Agent ID + API Key) |
identity |
查看身份信息 |
status |
查看系统状态 |
list |
列出已安装 Skills |
evaluate |
7因子综合评估 |
benchmark |
基准评测运行 |
baseline |
查询大模型基准分数 |
compare |
对比分析 |
recommend |
智能推荐 |
report |
生成综合日报 |
diagnose |
生成诊断报告(含推送) |
upload |
数据上报到中心化服务器 |
dashboard |
启动 Web 面板 |
server |
启动中心化服务器 |
skills-monitor/ ├── skills_monitor/ # 核心 Python 包 │ ├── core/ # 核心逻辑层 │ │ ├── identity.py # 身份管理 │ │ ├── evaluator.py # 7因子评估引擎 │ │ ├── benchmark.py # 基准运行器 │ │ ├── recommender.py # 推荐引擎 │ │ ├── diagnostic.py # 诊断报告 │ │ ├── reporter.py # 报告生成器 │ │ ├── uploader.py # 数据上报 │ │ ├── llm_baseline.py # LLM 基准评测 │ │ └── ... # 更多模块 │ ├── adapters/ # 适配器层 │ │ ├── skill_registry.py # Skill 注册发现 │ │ ├── clawhub_client.py # ClawHub 社区 │ │ └── runners.py # 运行适配器 │ └── data/ # 数据层 │ ├── store.py # SQLite 存储 │ ├── gdpr_manager.py # GDPR 合规 │ └── top1000_skills_dataset.json ├── server/ # 中心化服务器 ├── miniprogram/ # 微信小程序 ├── main.py # Skill 入口 ├── skill.json # Skill 配置 └── requirements.txt # 依赖清单
GPL-3.0
MerkyorLynn — GitHub