Skip to main content

AI推理

reCamera Pro 提供内置 AI 推理管理页面,用户可以直接在 Web UI 中完成模型管理、模型上传、模型转换、推理参数配置、实时推理状态查看以及推理结果输出配置。该页面适用于目标检测、工业识别、安防监控、事件触发和边缘 AI 应用开发等场景。

进入 Web UI 后,点击左侧菜单中的 AI 推理,即可进入 AI 推理配置页面。

功能概览

AI 推理页面主要包含以下功能模块:

  • 模型管理:查看、配置、删除或上传模型文件。
  • SenseCraft 模型转换:将 ONNX 模型转换为 reCamera Pro 可运行的 RKNN 模型。
  • 推理配置:选择运行模型,设置推理开关和推理频率。
  • 实时推理监控:查看模型实时输出结果和推理状态。
  • 推理输出配置:将推理结果通过 HTTP、MQTT 或 UART 输出到外部系统。

通过该页面,用户无需使用命令行,即可完成模型部署和推理配置。

模型管理

模型管理区域用于展示当前设备中已经上传或内置的 AI 模型。列表中会显示模型文件、模型名称、推理框架、算法类型、任务类型、版本、文件大小以及可执行操作。

常见字段说明如下:

字段说明
模型文件当前模型在设备中的文件名称
模型名称模型的显示名称
框架模型运行框架,例如 RKNN
算法模型算法类型,例如 YOLO、nanodet 等
类型模型任务类型,例如 Detection
版本模型版本信息
大小模型文件大小
操作支持模型配置或删除

reCamera Pro 可使用内置的检测模型,也支持用户上传自定义模型。对于目标检测场景,用户可以根据自己的应用需求选择不同模型,例如人员检测、安全帽检测、施工安全检测、车辆检测等。

上传模型

用户可以点击 上传模型 按钮,将本地模型文件上传到 reCamera Pro。上传窗口支持拖拽文件或手动选择文件。

当前页面支持上传 RKNN 模型文件。上传完成后,模型会出现在模型管理列表中,用户可以继续对模型信息、类别和后处理参数进行配置。

上传模型适用于以下场景:

  • 使用用户自行训练的检测模型
  • 替换默认模型
  • 部署特定行业模型
  • 根据项目需求添加新的识别类别

SenseCraft 模型转换

AI 推理页面提供 查看 SenseCraft 模型 入口,用户可以进入 SenseCraft 模型转换界面,将 ONNX 模型转换为 reCamera Pro 可运行的 RKNN 模型。

在模型转换界面中,用户可以创建转换任务,上传 ONNX 模型文件,并可选择上传量化数据集。如果不提供量化数据集,系统可使用默认数据集完成转换。

转换流程如下:

  1. 点击 查看 SenseCraft 模型
  2. 选择需要转换的 ONNX 模型文件。
  3. 根据需要上传量化数据集。
  4. 点击 开始转换
  5. 转换完成后,将生成的 RKNN 模型部署到 reCamera Pro 中运行。

该功能可以降低用户部署模型的门槛,使用户能够从自训练 ONNX 模型快速转换到设备端可运行模型。

模型配置

每个模型都可以进入 配置 页面,对模型基础信息、检测类别和后处理参数进行设置。

模型配置支持的内容包括:

配置项说明
模型名设置模型显示名称
框架选择模型运行框架,例如 RKNN
版本号设置模型版本信息
类型设置模型任务类型,例如目标检测
算法选择模型算法,例如 YOLOv5
作者填写模型作者信息
描述添加模型说明
检测类别设置模型输出类别名称
后处理配置设置 IOU、Confidence、max_obj 等参数

对于用户自定义检测模型,可以在配置页面中手动添加检测类别,也可以通过 TXT 文件批量导入类别列表。配置类别后,推理结果会按照用户定义的类别名称进行显示和输出。

后处理参数用于控制检测结果的过滤和输出,例如:

参数说明
IOU用于控制目标框去重的交并比阈值
Confidence目标检测置信度阈值
max_obj单帧最大输出目标数量

配置完成后,点击 保存 即可应用模型配置。

推理配置

推理配置区域用于控制 AI 推理任务的运行状态和运行模型。

用户可以配置以下参数:

参数说明
推理使能开启或关闭 AI 推理功能
运行模型选择当前需要运行的模型
推理频率(FPS)设置模型推理频率
推理状态显示当前推理任务是否正在运行
实时推理帧率显示当前实际推理帧率

用户可以从模型列表中选择一个模型作为当前运行模型,并通过滑块设置推理频率。设置完成后,点击 保存配置 即可启动或更新推理任务。

页面右侧会显示当前推理状态,例如 正在运行,并展示当前实际推理帧率,方便用户判断模型运行是否正常。

实时推理监控

AI 推理页面提供实时推理输出监控区域,用于查看模型推理结果。推理结果会以日志形式实时显示,便于开发者调试模型输出、检查检测框坐标、类别 ID、置信度和时间戳等信息。

实时输出中通常包含以下信息:

字段说明
timestamp推理结果时间戳
task_type当前任务类型
class_id检测类别 ID
class_name检测类别名称
score检测置信度
bbox检测框坐标
detection_count当前帧检测到的目标数量

页面提供实时输出控制功能,例如关闭监控、暂停实时显示、清空日志等,方便用户在调试过程中观察和管理输出内容。

推理输出配置

除了在 Web UI 中查看实时推理日志,reCamera Pro 还支持将推理结果输出到外部系统。用户可以在 推理输出配置 中选择输出模板、任务类型和输出方式。

支持的输出方式包括:

  • HTTP
  • MQTT
  • UART

技术支持与产品讨论

感谢您选择我们的产品!我们将为您提供多种支持,确保您在使用我们产品的过程中体验顺畅。我们提供多种沟通渠道,以满足不同的偏好和需求。

Loading Comments...