skills-monitor

Polar Sponsor
爱发电 赞助
.NET 9.0

AI Skills 一站式监控评估平台 — 7因子评估引擎、跨模型基准评测、中心化仪表板、智能推荐

🩺 Skills Monitor — AI Skills 监控评估平台

功能概述

🩺 Skills Monitor — AI Skills 监控评估平台是一项面向实际任务的技能,主要用于🎯 对 AI Skills 进行 采集、评估、对比、推荐、诊断、上报 的一站式监控系统;✨ 核心能力;

核心要点

  • 1. 7因子综合评估引擎;
  • 对每个 Skill 从 成功率、延迟、质量、成本、稳定性、社区热度、兼容性 七个维度进行量化评分,输出 0-100 综合得分;
  • 2. 跨模型基准评测 (TOP1000 × 6 Models)。

使用与执行

它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。

结果检查与注意事项

执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。

🩺 Skills Monitor — AI Skills 监控评估平台

🎯 对 AI Skills 进行采集、评估、对比、推荐、诊断、上报的一站式监控系统

✨ 核心能力

1. 7因子综合评估引擎

对每个 Skill 从 成功率、延迟、质量、成本、稳定性、社区热度、兼容性 七个维度进行量化评分,输出 0-100 综合得分。

2. 跨模型基准评测 (TOP1000 × 6 Models)

内置 1000 个热门 Skills 在 6 大主流模型上的完整评测数据:

  • Claude Opus 4.6 / GPT-5.4 / Gemini 3.0 Pro
  • GLM-5 / MiniMax 2.5 / DeepSeek 3.2
  • 支持 mock (零成本模拟) 和 live (真实 API 调用) 两种模式
  • 按 Skill × Model 精确返回差异化基准分数

3. 智能推荐引擎

  • 基于评估得分 + 用户场景自动推荐最优 Skill
  • 互补推荐:根据已安装 Skills 的空缺领域推荐
  • 升级推荐:发现更优替代方案
  • ClawHub 社区数据联动

4. 诊断报告系统

  • 自动生成健康度评分 + 问题发现 + 优化建议
  • 支持定时自动诊断 + 安装后自动诊断
  • Markdown 格式报告,支持企微/微信推送

5. 中心化 Dashboard

  • Web 实时面板(支持 PWA 移动端)
  • 多 Agent 统一管理
  • 微信小程序端查看
  • 企业微信/微信公众号推送通知

6. 安全与合规

  • OS Keychain 集成 (keyring),零明文存储
  • 敏感信息自动脱敏引擎
  • GDPR 合规管理

🚀 快速开始

安装

通过 SkillsHUB 一键安装:

# 方式一:SkillsHUB CLI
skills install skills-monitor

# 方式二:手动安装
python install_skills.py skills-monitor

初始化

# 初始化身份(生成 Agent ID + API Key)
skills-monitor init

# 查看身份信息
skills-monitor identity --show-key

基本使用

# 查看系统状态
skills-monitor status

# 列出已安装 Skills
skills-monitor list

# 运行单个 Skill 并采集数据
skills-monitor run  [task]

# 7因子综合评估
skills-monitor evaluate --skill 
skills-monitor evaluate              # 评估所有 Skills

# 基准评测
skills-monitor benchmark  --runs 20

# 查询大模型基准分数
skills-monitor baseline  --model claude-opus-4.6

# 对比分析
skills-monitor compare 

# 智能推荐
skills-monitor recommend

# 生成综合日报
skills-monitor report

# 生成诊断报告(含推送)
skills-monitor diagnose --send

# 上报数据到中心化服务器
skills-monitor upload --server https://your-server.com --register

启动 Dashboard

# 本地 Web 面板
skills-monitor web --port 5050

# 中心化服务器(含 API + 微信回调 + PWA)
skills-monitor server --port 5100

作为 Python 库使用

from skills_monitor import (
    SkillEvaluator,
    SkillRecommender,
    DiagnosticReporter,
    BatchBenchmark,
    ReportGenerator,
    DataUploader,
)

# 7因子评估
evaluator = SkillEvaluator(store, agent_id)
score = evaluator.evaluate_skill("your-skill-slug")

# 跨模型基准评测
bench = BatchBenchmark(mode="mock")
baseline = bench.get_baseline_for_skill("your-skill-slug", "claude-opus-4.6")

# 智能推荐
recommender = SkillRecommender(registry, store, agent_id)
recs = recommender.get_all_recommendations(max_per_type=5)

# 诊断报告
diag = DiagnosticReporter(store=store, registry=registry, agent_id=agent_id)
content, filepath = diag.generate_and_save(trigger="manual")

# 数据上报
uploader = DataUploader("https://your-server.com")
uploader.init(agent_id, api_key)
uploader.upload_daily()

📊 支持的命令

命令 说明
init 初始化身份(生成 Agent ID + API Key)
identity 查看身份信息
status 查看系统状态
list 列出已安装 Skills
evaluate 7因子综合评估
benchmark 基准评测运行
baseline 查询大模型基准分数
compare 对比分析
recommend 智能推荐
report 生成综合日报
diagnose 生成诊断报告(含推送)
upload 数据上报到中心化服务器
dashboard 启动 Web 面板
server 启动中心化服务器

🏗️ 架构

skills-monitor/
├── skills_monitor/              # 核心 Python 包
│   ├── core/                    # 核心逻辑层
│   │   ├── identity.py          # 身份管理
│   │   ├── evaluator.py         # 7因子评估引擎
│   │   ├── benchmark.py         # 基准运行器
│   │   ├── recommender.py       # 推荐引擎
│   │   ├── diagnostic.py        # 诊断报告
│   │   ├── reporter.py          # 报告生成器
│   │   ├── uploader.py          # 数据上报
│   │   ├── llm_baseline.py      # LLM 基准评测
│   │   └── ...                  # 更多模块
│   ├── adapters/                # 适配器层
│   │   ├── skill_registry.py    # Skill 注册发现
│   │   ├── clawhub_client.py    # ClawHub 社区
│   │   └── runners.py           # 运行适配器
│   └── data/                    # 数据层
│       ├── store.py             # SQLite 存储
│       ├── gdpr_manager.py      # GDPR 合规
│       └── top1000_skills_dataset.json
├── server/                      # 中心化服务器
├── miniprogram/                 # 微信小程序
├── main.py                      # Skill 入口
├── skill.json                   # Skill 配置
└── requirements.txt             # 依赖清单

📦 依赖

  • Python >= 3.9
  • Flask >= 2.3.0
  • Flask-SQLAlchemy >= 3.0.0
  • requests >= 2.28.0
  • pandas >= 1.5.0
  • APScheduler >= 3.10.0
  • keyring >= 25.0.0
  • python-dotenv >= 1.0.0

🔗 生态集成

  • ClawHub: 社区热度数据、Skill 下载安装
  • 企业微信: 诊断报告推送
  • 微信公众号: 报告查看 + 消息通知
  • 微信小程序: 移动端 Dashboard
  • PWA: 渐进式 Web 应用支持

📄 许可证

GPL-3.0

👤 作者

MerkyorLynn — GitHub

相关专题

更多
LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

2026.09.30

0

10

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

2026.09.30

0

14

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

2026.09.30

0

12

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

2026.09.30

0

26

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

2026.09.29

0

15

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

2026.09.23

0

15

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

2026.09.23

0

15

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

2026.09.23

0

15

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

2026.09.22

0

12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Codex官方文档
Codex官方文档

共0课时 | 0人学习

QClaw产品手册
QClaw产品手册

共0课时 | 0人学习