YOLO26 OpenVINO for AI PCs

Polar Sponsor
爱发电 赞助
.NET 9.0

在英特尔AI PC上使用Ultralytics + OpenVINO加速YOLO26。使用此技能导出压缩的FP32/INT8 OpenVINO模型,部署实时摄像头或视频...

YOLO26 OpenVINO Turbo for AI PC. 将一个YOLO26模型转换成本地的 AI PC 视觉应用:导出到 OpenVINO,将其与IN

功能概述

YOLO26 OpenVINO Turbo for AI PC. 将一个YOLO26模型转换成本地的 AI PC 视觉应用:导出到 OpenVINO,将其与IN是一项面向实际任务的技能。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。

核心要点

  • 使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。
  • 该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。
  • 从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。

使用与执行

实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。

结果检查与注意事项

执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。

YOLO26 OpenVINO Turbo(面向 AI PC)

将 YOLO26 模型转化为本地 AI PC 视觉应用:导出为 OpenVINO 格式,通过 INT8 量化压缩模型体积,在 Intel CPU/GPU/NPU 上运行,并在无需构建重型推理栈的前提下完成加速效果对比。

本技能聚焦于快速部署:一段简短的、与 Ultralytics 深度集成的脚本即可完成 OpenVINO 导出与推理;同时提供封装层,使智能体(agent)可灵活选择目标设备、精度类型、模型尺寸、基准测试模式以及下游任务行为。

默认示例使用 yolo26n.pt,因为 nano 尺寸模型下载快、导出快、实时运行延迟低。当用户对检测精度要求更高,且能接受更高的延迟或内存开销时,也可选用其他 YOLO26 模型尺寸,例如 yolo26s.pt、yolo26m.pt 或 yolo26l.pt。

推荐的实现路径是官方 Ultralytics + OpenVINO 集成方案:调用 YOLO(...).export(format="openvino") 完成导出,再以 YOLO(...) 加载导出的 OpenVINO 模型目录,并通过 Intel 设备字符串(如 intel:cpu、intel:gpu 或 intel:npu)执行推理。该方式既保持了公开演示代码的简洁性,又完整利用了 OpenVINO 的硬件加速能力与设备调度功能。

最佳适用场景

本技能适用于以下用途:

  • 从笔记本摄像头或视频文件中进行实时目标检测。
  • 将 YOLO26 nano / small / medium / large 各尺寸模型分别压缩为 OpenVINO FP32 和 INT8 格式。
  • 借助统一精简的工作流,在 Intel CPU、GPU 和 NPU 上加速 YOLO26 推理。
  • 快速切换设备与精度类型,用于基准测试或实时性能对比。
  • 基于检测结果构建下游交互逻辑,例如人数统计、物品/库存计数、安全区域告警、以及基于检测对象的 UI 事件响应等。

30 秒快速启动

在技能脚本目录中打开 PowerShell:

cd "{baseDir}scripts"
.setup_env.ps1

使用内置摄像头运行实时检测演示:

.run_ultralytics_demo.ps1 -Mode live -Source 0 -Device GPU -Model yolo26n.pt -Precision fp32

导出或准备 INT8 模型后运行:

.run_ultralytics_demo.ps1 -Mode export -Precision int8
.run_ultralytics_demo.ps1 -Mode live -Source 0 -Device NPU -Precision int8

当精度优先于速度时,选用更大的 YOLO26 变体:

.run_ultralytics_demo.ps1 -Mode export -Model yolo26s.pt -Precision int8
.run_ultralytics_demo.ps1 -Mode live -Source 0 -Device GPU -Model yolo26s.pt -Precision int8

从视频或摄像头帧中运行可复现的基准测试:

.run_ultralytics_demo.ps1 -Mode benchmark -Source 0 -Device CPU -Precision int8 -BenchmarkSeconds 8

运行下游任务演示:

.run_downstream_demo.ps1 -Source 0 -Device NPU -Precision int8 -Task inventory-count -Target bottle

主 YOLO 演示界面叠加层会实时显示当前设备、精度类型、实时 FPS、单帧推理延迟及检测目标数量。常规使用建议直接通过命令行参数指定设备、精度、模型尺寸、基准测试模式和下游任务,便于智能体动态控制。

推荐的 AI PC 工作流

从直观对比入手:

  1. 将 yolo26n.pt 分别导出为 OpenVINO FP32 和 INT8 格式。
  2. 对同一段视频或摄像头输入,在 GPU、NPU 和 CPU 上分别运行。
  3. 通过界面叠加指标或基准测试模式对比结果,解释硬件加速与量化带来的性能差异。
  4. 由原始检测结果进阶至典型 AI PC 任务:人数统计、物品计数或安全区域告警。
  5. 使用 -CountZone 和 -DangerZone 参数适配用户真实场景中的感兴趣区域与危险区域。

脚本入口点

请从 {baseDir}scripts 目录中使用以下文件:

  • setup_env.ps1:创建 Python 虚拟环境 .venv 并安装依赖包。
  • run_ultralytics_demo.ps1:PowerShell 封装脚本,支持 live(实时)、export(导出)和 benchmark(基准测试)三种模式;暴露 -Model、-Precision、-Device、OpenVINO 性能提示(performance hint)及异步请求控制参数。
  • run_ultralytics_openvino_demo.py:Ultralytics + OpenVINO 的核心实现,支持运行时动态切换设备与精度。
  • run_downstream_demo.ps1:PowerShell 封装脚本,用于人数统计、物品计数及安全区域告警等下游任务。
  • run_downstream_demo.py:构建于 Ultralytics + OpenVINO 检测结果之上的下游动作逻辑层。
  • requirements.txt:Python 依赖列表。
  • demo_utils.py:轻量级界面叠加辅助模块。

模型与网络行为说明

初始化环境及首次导出需联网访问:包括 Python 包、YOLO 模型权重文件,以及(若未缓存)INT8 校准所需数据。一旦 OpenVINO 模型目录生成完毕,后续实时推理即可完全离线运行。

默认模型为 yolo26n.pt。导出的 OpenVINO 模型保存在 {baseDir}scriptsintegrated_models 目录下,命名规则为模型名词干 + 精度类型,例如 yolo26n_int8_openvino_model 或 yolo26s_fp32_openvino_model。

若用户已存在导出好的 OpenVINO 模型目录,可通过 -OpenVinoModelDir 参数直接指定路径。

基于区域的下游任务

下游任务支持使用归一化坐标定义感兴趣区域(ROI):

  • -CountZone "x1,y1,x2,y2":仅对自定义区域内(如排队区、门口、会议室区域等)的人进行计数;留空表示全图范围。
  • -DangerZone "x1,y1,x2,y2":仅当人员进入配置的危险区域时触发安全告警;默认区域为右上三分之一区域:0.667,0,1,0.333。

如何选择合适的演示路径

当用户重视代码简洁性与快速上手体验时,请采用 Ultralytics 集成路径——这是最清晰、最易维护的公开技能路径。

仅当用户明确需要极致流水线控制能力(如自定义预处理、自定义异步调度、OpenVINO MULTI 吞吐流水线或深度性能调优)时,才应在本技能之外使用更低层级的 OpenVINO AsyncInferQueue 实现。当前提供的 Ultralytics 实时路径有意聚焦于代码可读性与 CPU/GPU/NPU 设备切换的便捷性。

参考资料

仅在需要时查阅:

  • {baseDir}referencesdownstream_playbooks.md:下游交互设计思路与实现模式汇总。
  • {baseDir}referencesperformance_notes.md:CPU/GPU/NPU 与 FP32/INT8 差异的解释方法与基准测试指南。

相关专题

更多
Uvicorn 报错与问题解决教程
Uvicorn 报错与问题解决教程

本专题汇总了Uvicorn服务器常见问题与报错解决的教程合集,涵盖启动失败、端口占用、模块导入错误、事件循环冲突及热重载失效等典型故障的排查思路。同时整理了多进程与Worker配置、SSL/HTTPS证书报错、跨域与代理配置等实战解决方案,助你快速定位并解决Uvicorn运行中的各类问题。

2026.11.02

0

14

Uvicorn使用教程
Uvicorn使用教程

本专题汇总了Uvicorn使用教程与启动运行指南,涵盖其作为Python ASGI服务器的定位与特点,以及命令行启动(uvicorn main:app --reload)、参数配置(host/port/workers)、程序内嵌运行与Gunicorn结合部署等核心用法。同时整理了热重载调试、日志配置与生产环境部署优化等技巧,助你快速掌握Uvicorn的运行与配置。

2026.11.02

0

17

Uvicorn安装配置教程
Uvicorn安装配置教程

本专题汇总了Uvicorn的安装配置教程与部署指南,涵盖通过pip安装Uvicorn、启动FastAPI/Starlette应用、开发模式热重载(--reload)及多进程工作模式配置等核心操作。同时整理了结合Gunicorn的生产部署方案、HTTPS与反向代理配置及性能调优技巧,助你快速完成Uvicorn服务的安装与上线部署。

2026.11.02

0

17

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

2026.10.28

0

16

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

2026.10.28

0

15

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

2026.10.28

0

10

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

2026.10.22

0

11

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

2026.10.22

0

10

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

2026.10.22

0

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习