在英特尔AI PC上使用Ultralytics + OpenVINO加速YOLO26。使用此技能导出压缩的FP32/INT8 OpenVINO模型,部署实时摄像头或视频...
YOLO26 OpenVINO Turbo for AI PC. 将一个YOLO26模型转换成本地的 AI PC 视觉应用:导出到 OpenVINO,将其与IN是一项面向实际任务的技能。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。
实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。
执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。
将 YOLO26 模型转化为本地 AI PC 视觉应用:导出为 OpenVINO 格式,通过 INT8 量化压缩模型体积,在 Intel CPU/GPU/NPU 上运行,并在无需构建重型推理栈的前提下完成加速效果对比。
本技能聚焦于快速部署:一段简短的、与 Ultralytics 深度集成的脚本即可完成 OpenVINO 导出与推理;同时提供封装层,使智能体(agent)可灵活选择目标设备、精度类型、模型尺寸、基准测试模式以及下游任务行为。
默认示例使用 yolo26n.pt,因为 nano 尺寸模型下载快、导出快、实时运行延迟低。当用户对检测精度要求更高,且能接受更高的延迟或内存开销时,也可选用其他 YOLO26 模型尺寸,例如 yolo26s.pt、yolo26m.pt 或 yolo26l.pt。
推荐的实现路径是官方 Ultralytics + OpenVINO 集成方案:调用 YOLO(...).export(format="openvino") 完成导出,再以 YOLO(...) 加载导出的 OpenVINO 模型目录,并通过 Intel 设备字符串(如 intel:cpu、intel:gpu 或 intel:npu)执行推理。该方式既保持了公开演示代码的简洁性,又完整利用了 OpenVINO 的硬件加速能力与设备调度功能。
本技能适用于以下用途:
在技能脚本目录中打开 PowerShell:
cd "{baseDir}scripts"
.setup_env.ps1
使用内置摄像头运行实时检测演示:
.run_ultralytics_demo.ps1 -Mode live -Source 0 -Device GPU -Model yolo26n.pt -Precision fp32
导出或准备 INT8 模型后运行:
.run_ultralytics_demo.ps1 -Mode export -Precision int8 .run_ultralytics_demo.ps1 -Mode live -Source 0 -Device NPU -Precision int8
当精度优先于速度时,选用更大的 YOLO26 变体:
.run_ultralytics_demo.ps1 -Mode export -Model yolo26s.pt -Precision int8 .run_ultralytics_demo.ps1 -Mode live -Source 0 -Device GPU -Model yolo26s.pt -Precision int8
从视频或摄像头帧中运行可复现的基准测试:
.run_ultralytics_demo.ps1 -Mode benchmark -Source 0 -Device CPU -Precision int8 -BenchmarkSeconds 8
运行下游任务演示:
.run_downstream_demo.ps1 -Source 0 -Device NPU -Precision int8 -Task inventory-count -Target bottle
主 YOLO 演示界面叠加层会实时显示当前设备、精度类型、实时 FPS、单帧推理延迟及检测目标数量。常规使用建议直接通过命令行参数指定设备、精度、模型尺寸、基准测试模式和下游任务,便于智能体动态控制。
从直观对比入手:
yolo26n.pt 分别导出为 OpenVINO FP32 和 INT8 格式。-CountZone 和 -DangerZone 参数适配用户真实场景中的感兴趣区域与危险区域。请从 {baseDir}scripts 目录中使用以下文件:
setup_env.ps1:创建 Python 虚拟环境 .venv 并安装依赖包。run_ultralytics_demo.ps1:PowerShell 封装脚本,支持 live(实时)、export(导出)和 benchmark(基准测试)三种模式;暴露 -Model、-Precision、-Device、OpenVINO 性能提示(performance hint)及异步请求控制参数。run_ultralytics_openvino_demo.py:Ultralytics + OpenVINO 的核心实现,支持运行时动态切换设备与精度。run_downstream_demo.ps1:PowerShell 封装脚本,用于人数统计、物品计数及安全区域告警等下游任务。run_downstream_demo.py:构建于 Ultralytics + OpenVINO 检测结果之上的下游动作逻辑层。requirements.txt:Python 依赖列表。demo_utils.py:轻量级界面叠加辅助模块。初始化环境及首次导出需联网访问:包括 Python 包、YOLO 模型权重文件,以及(若未缓存)INT8 校准所需数据。一旦 OpenVINO 模型目录生成完毕,后续实时推理即可完全离线运行。
默认模型为 yolo26n.pt。导出的 OpenVINO 模型保存在 {baseDir}scriptsintegrated_models 目录下,命名规则为模型名词干 + 精度类型,例如 yolo26n_int8_openvino_model 或 yolo26s_fp32_openvino_model。
若用户已存在导出好的 OpenVINO 模型目录,可通过 -OpenVinoModelDir 参数直接指定路径。
下游任务支持使用归一化坐标定义感兴趣区域(ROI):
-CountZone "x1,y1,x2,y2":仅对自定义区域内(如排队区、门口、会议室区域等)的人进行计数;留空表示全图范围。-DangerZone "x1,y1,x2,y2":仅当人员进入配置的危险区域时触发安全告警;默认区域为右上三分之一区域:0.667,0,1,0.333。当用户重视代码简洁性与快速上手体验时,请采用 Ultralytics 集成路径——这是最清晰、最易维护的公开技能路径。
仅当用户明确需要极致流水线控制能力(如自定义预处理、自定义异步调度、OpenVINO MULTI 吞吐流水线或深度性能调优)时,才应在本技能之外使用更低层级的 OpenVINO AsyncInferQueue 实现。当前提供的 Ultralytics 实时路径有意聚焦于代码可读性与 CPU/GPU/NPU 设备切换的便捷性。
仅在需要时查阅:
{baseDir}referencesdownstream_playbooks.md:下游交互设计思路与实现模式汇总。{baseDir}referencesperformance_notes.md:CPU/GPU/NPU 与 FP32/INT8 差异的解释方法与基准测试指南。相关专题
热门下载
相关下载
精品课程
共6课时 | 54.7万人学习
共89课时 | 134.1万人学习
共49课时 | 82.6万人学习
最新文章