SkillEvaluator做有无Skill的配对评估:准备数据集、Docker运行和结果判断

酷丽吖_6875

酷丽吖_6875

2026-11-19

849人浏览

原创

skillevaluator的tier 3会把同一组任务分别交给带skill和不带skill的代理,比较配对结果。先审核evals/evals.json,再配置模型和docker、运行评估,最后结合覆盖率、skill激活情况和样本数量判断skill lift;结构检查通过或单次分数提高,都不能直接证明skill普遍有效。

准备工具和一种模型连接

当前文档要求Python 3.12至3.14、可运行的Docker和包含SKILL.md的Skill目录。以下沿用默认Harbor后端,安装全部评估功能。示例只说明配置步骤,不包含实际付费运行结果。

python -m pip install --upgrade "skillevaluator[all]"
export SKILL_EVAL_LLM_PROVIDER=nv_build
# 在同一终端从安全凭据管理方式设置NVIDIA_API_KEY,不写入仓库或数据集

NVIDIA Build路径在Docker内使用OpenCode;OpenAI路径使用openai提供方、OPENAI_API_KEY和Codex,不能把两套代理与凭据混用。代理将在容器内执行任务,先审查Skill、输入文件和可授予的访问范围;不要把生产密钥、私有素材或未经审查的外部Skill直接交给评估。

先写可公平判断的任务

创建eval-guidance.md,说明真实输入、可观察结果和至少一个不属于Skill范围的请求。比如文本分析任务可要求统计Red blue blue.的3个单词、14个字符及blue出现2次;负例可用2+2。判断结果是否正确,不要求代理必须读取Skill脚本,否则没有Skill的一组先天无法满足要求。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

SkillEvaluator官方任务指导与正负例示例(浏览器翻译视图)(浏览器翻译视图)

评估输入与成功条件应先准备,再生成供人工审阅的数据集。

skillevaluator create-eval-dataset ./my-skill --full --no-llm --prompt eval-guidance.md
test -f ./my-skill/evals/evals.json
skillevaluator tier3 validate ./my-skill --strict

--no-llm生成本地模板草稿,不产生模型编写的任务。官方示例得到3个正例和1个负例,但仍应逐条审阅提示、预期结果及附件。已有数据集默认保留,不要只为再次运行就加--force覆盖。先检查文件存在:缺失整个evals目录时,不能只依赖某次校验命令的退出码判断已准备完成。

Codex Profiler
Codex Profiler

通过 Telegram 命令管理 OpenAI Codex 配置文件,支持用量查询与 OAuth Token 刷新,并提供队列化安全应用(queued safe apply)及进度更新。

下载

检查就绪状态,再运行配对实验

skillevaluator doctor --env-mode docker
skillevaluator tier3 evaluate ./my-skill --env-mode docker --n-attempts 1
skillevaluator view ./my-skill

SkillEvaluator官方Docker评估命令和运行条件

官方Docker评估命令及运行条件(浏览器翻译视图);报告命令见正文。

先处理doctor失败项。n-attempts为每个任务、每个实验臂的尝试次数,一次配对不等于一次模型请求;代理与评判可能产生调用费用。不要把文件校验或模板生成说成已经做过实时评估。

先看是否可判,再看提升值

查看实际生成的HTML/JSON,先确认两组是否完成、是否有未评分任务,再看每个配对样本及Skill使用情况。正例全部未激活Skill时,结果可能为INCONCLUSIVE,并省略提升指标;缺少评判的任务不是自动计零。官方数据充分性策略还考察至少10个不同案例、至少1个负例、至少10个配对样本和Wilson区间半宽等条件。4个模板案例只能用于打通流程,不足以宣称稳定提升;扩充样本时应加入新的真实任务,而非重复同一句输入。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

docker codex

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

20

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

20

15

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

20

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

20

10

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

2026.11.17

20

11

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

2026.11.17

20

16

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

2026.11.12

180

15

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.12

120

15

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

2026.11.12

120

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Docker Desktop故障排查手册
Docker Desktop故障排查手册

共0课时 | 0人学习

Docker镜像构建手册
Docker镜像构建手册

共0课时 | 0人学习