メインコンテンツまでスキップ

Ai 推論

reCamera Pro には AI 推論管理ページが組み込まれており、ユーザーは Web UI 内でモデルの管理、モデルのアップロード、モデルの変換、推論パラメータの設定、リアルタイム推論ステータスの確認、推論結果出力の設定を直接行うことができます。このページは、物体検出、産業用認識、防犯監視、イベントトリガー、エッジ AI アプリケーション開発などのシナリオに適しています。

Web UI に入った後、左側メニューの AI Inference をクリックして AI 推論設定ページにアクセスします。

機能概要

AI Inference ページには主に次の機能モジュールが含まれます:

  • モデル管理:モデルファイルの表示、設定、削除、またはアップロードを行います。
  • SenseCraft モデル変換:ONNX モデルを reCamera Pro 上で動作可能な RKNN モデルに変換します。
  • 推論設定:実行するモデルの選択、推論の有効/無効の設定、推論頻度の設定を行います。
  • リアルタイム推論モニタリング:モデルの出力結果と推論ステータスをリアルタイムで表示します。
  • 推論出力設定:HTTP、MQTT、UART を介して推論結果を外部システムへ出力します。

このページを通じて、ユーザーはコマンドラインを使用せずにモデルのデプロイと推論設定を完了できます。

モデル管理

モデル管理エリアは、すでにアップロードされた、または現在のデバイスに内蔵されている AI モデルを表示するために使用されます。リストには、モデルファイル、モデル名、推論フレームワーク、アルゴリズムタイプ、タスクタイプ、バージョン、ファイルサイズ、および利用可能な操作が表示されます。

一般的なフィールドの説明は次のとおりです:

FieldDescription
Model Fileデバイス上の現在のモデルのファイル名
Model Nameモデルの表示名
Frameworkモデルの実行時フレームワーク(例:RKNN)
Algorithmモデルのアルゴリズムタイプ(例:YOLO、nanodet)
Typeモデルのタスクタイプ(例:Detection)
Versionモデルのバージョン情報
Sizeモデルファイルサイズ
Operationsモデルの設定または削除をサポート

reCamera Pro は内蔵の検出モデルを使用できるほか、ユーザーによるカスタムモデルのアップロードにも対応しています。物体検出シナリオでは、人検出、ヘルメット検出、建設現場の安全検出、車両検出など、アプリケーションニーズに応じて異なるモデルを選択できます。

モデルのアップロード

ユーザーは Upload Model ボタンをクリックして、ローカルのモデルファイルを reCamera Pro にアップロードできます。アップロードウィンドウでは、ファイルのドラッグ&ドロップと手動でのファイル選択の両方に対応しています。

現在のページでは RKNN モデルファイルのアップロードに対応しています。アップロード後、モデルはモデル管理リストに表示され、ユーザーはモデル情報、カテゴリ、後処理パラメータの設定を続けて行うことができます。

モデルのアップロードは次のようなシナリオに適しています:

  • ユーザーが学習した検出モデルの利用
  • デフォルトモデルの置き換え
  • 業種特化モデルのデプロイ
  • プロジェクト要件に基づく新しい認識カテゴリの追加

SenseCraft モデル変換

AI Inference ページには View SenseCraft Models への入口が用意されています。ユーザーは SenseCraft モデル変換インターフェースに入り、ONNX モデルを reCamera Pro 上で実行可能な RKNN モデルに変換できます。

モデル変換インターフェースでは、ユーザーは変換タスクを作成し、ONNX モデルファイルをアップロードし、必要に応じて量子化データセットをアップロードできます。量子化データセットを提供しない場合、システムはデフォルトのデータセットを使用して変換を完了できます。

変換プロセスは次のとおりです:

  1. View SenseCraft Models をクリックします。
  2. 変換する ONNX モデルファイルを選択します。
  3. 必要に応じて量子化データセットをアップロードします。
  4. Start Conversion をクリックします。
  5. 変換完了後、生成された RKNN モデルを reCamera Pro にデプロイして実行します。

この機能により、ユーザーはモデルをデバイス上にデプロイする際のハードルを下げ、自身で学習した ONNX モデルを素早くデバイス実行可能なモデルへ変換できます。

モデル設定

各モデルは Configure ページに入り、基本的なモデル情報、検出カテゴリ、および後処理パラメータを設定できます。

モデル設定では次の項目をサポートします:

Configuration ItemDescription
Model Nameモデルの表示名を設定します
Frameworkモデルの実行時フレームワークを選択します(例:RKNN)
Versionモデルのバージョン情報を設定します
Typeモデルのタスクタイプを設定します(例:Object Detection)
Algorithmモデルのアルゴリズムを選択します(例:YOLOv5)
Authorモデルの作者情報を入力します
Descriptionモデルの説明を追加します
Detection Categoriesモデルの出力カテゴリ名を設定します
Post-processing ConfigurationIOU、Confidence、max_obj などのパラメータを設定します

ユーザー定義の検出モデルの場合、設定ページで検出カテゴリを手動で追加するか、TXT ファイルを介してカテゴリリストを一括インポートできます。カテゴリを設定すると、推論結果はユーザーが定義したカテゴリ名に従って表示および出力されます。

後処理パラメータは、検出結果のフィルタリングと出力を制御するために使用されます。例えば:

ParameterDescription
IOUバウンディングボックスの Non-Maximum Suppression に用いる Intersection over Union のしきい値
Confidence物体検出の信頼度しきい値
max_objフレームごとに出力する物体の最大数

設定後、Save をクリックしてモデル設定を適用します。

推論設定

推論設定エリアは、AI 推論タスクの実行状態と選択モデルを制御するために使用されます。

ユーザーは次のパラメータを設定できます:

ParameterDescription
Inference EnableAI 推論機能を有効または無効にします
Running Model現在実行するモデルを選択します
Inference Frequency (FPS)モデルの推論頻度を設定します
Inference Status現在の推論タスクが実行中かどうかを表示します
Real-time Inference FPS現在の実際の推論フレームレートを表示します

ユーザーはモデルリストからモデルを選択して現在の実行モデルとし、スライダーを使用して推論頻度を設定できます。設定後、Save Configuration をクリックして推論タスクを開始または更新します。

ページ右側には、Running などの現在の推論ステータスと、現在の実際の推論フレームレートが表示され、モデルが正常に動作しているかどうかを簡単に確認できます。

リアルタイム推論モニタリング

AI Inference ページには、モデル推論結果を確認するためのリアルタイム推論出力モニタリングエリアが用意されています。推論結果はログとしてリアルタイムに表示されるため、開発者はモデル出力のデバッグ、バウンディングボックス座標、クラス ID、信頼度スコア、タイムスタンプの確認を容易に行えます。

リアルタイム出力には通常、次の情報が含まれます:

FieldDescription
timestamp推論結果のタイムスタンプ
task_type現在のタスクタイプ
class_id検出されたクラス ID
class_name検出されたクラス名
score検出の信頼度
bboxバウンディングボックス座標
detection_count現在のフレームで検出された物体数

このページには、モニタリングの無効化、リアルタイム表示の一時停止、ログのクリアなどのリアルタイム出力制御機能が用意されており、デバッグ中に出力内容を観察・管理しやすくなっています。

推論出力設定

Web UI でリアルタイム推論ログを確認する以外に、reCamera Pro は推論結果を外部システムへ出力することもサポートしています。ユーザーは Inference Output Configuration で、出力テンプレート、タスクタイプ、および出力方法を選択できます。

サポートされている出力方法は次のとおりです:

  • HTTP
  • MQTT
  • UART

技術サポートと製品ディスカッション

弊社製品をお選びいただきありがとうございます。私たちは、製品をできるだけスムーズにご利用いただけるよう、さまざまなサポートを提供しています。お好みやニーズに応じてお選びいただけるよう、複数のコミュニケーションチャネルをご用意しています。

Loading Comments...