Ai 推論
reCamera Pro には AI 推論管理ページが組み込まれており、ユーザーは Web UI 内でモデルの管理、モデルのアップロード、モデルの変換、推論パラメータの設定、リアルタイム推論ステータスの確認、推論結果出力の設定を直接行うことができます。このページは、物体検出、産業用認識、防犯監視、イベントトリガー、エッジ AI アプリケーション開発などのシナリオに適しています。
Web UI に入った後、左側メニューの AI Inference をクリックして AI 推論設定ページにアクセスします。
機能概要
AI Inference ページには主に次の機能モジュールが含まれます:
- モデル管理:モデルファイルの表示、設定、削除、またはアップロードを行います。
- SenseCraft モデル変換:ONNX モデルを reCamera Pro 上で動作可能な RKNN モデルに変換します。
- 推論設定:実行するモデルの選択、推論の有効/無効の設定、推論頻度の設定を行います。
- リアルタイム推論モニタリング:モデルの出力結果と推論ステータスをリアルタイムで表示します。
- 推論出力設定:HTTP、MQTT、UART を介して推論結果を外部システムへ出力します。
このページを通じて、ユーザーはコマンドラインを使用せずにモデルのデプロイと推論設定を完了できます。
モデル管理
モデル管理エリアは、すでにアップロードされた、または現在のデバイスに内蔵されている AI モデルを表示するために使用されます。リストには、モデルファイル、モデル名、推論フレームワーク、アルゴリズムタイプ、タスクタイプ、バージョン、ファイルサイズ、および利用可能な操作が表示されます。
一般的なフィールドの説明は次のとおりです:
| Field | Description |
|---|---|
| Model File | デバイス上の現在のモデルのファイル名 |
| Model Name | モデルの表示名 |
| Framework | モデルの実行時フレームワーク(例:RKNN) |
| Algorithm | モデルのアルゴリズムタイプ(例:YOLO、nanodet) |
| Type | モデルのタスクタイプ(例:Detection) |
| Version | モデルのバージョン情報 |
| Size | モデルファイルサイズ |
| Operations | モデルの設定または削除をサポート |
reCamera Pro は内蔵の検出モデルを使用できるほか、ユーザーによるカスタムモデルのアップロードにも対応しています。物体検出シナリオでは、人検出、ヘルメット検出、建設現場の安全検出、車両検出など、アプリケーションニーズに応じて異なるモデルを選択できます。
モデルのアップロード
ユーザーは Upload Model ボタンをクリックして、ローカルのモデルファイルを reCamera Pro にアップロードできます。アップロードウィンドウでは、ファイルのドラッグ&ドロップと手動でのファイル選択の両方に対応しています。
現在のページでは RKNN モデルファイルのアップロードに対応しています。アップロード後、モデルはモデル管理リストに表示され、ユーザーはモデル情報、カテゴリ、後処理パラメータの設定を続けて行うことができます。
モデルのアップロードは次のようなシナリオに適しています:
- ユーザーが学習した検出モデルの利用
- デフォルトモデルの置き換え
- 業種特化モデルのデプロイ
- プロジェクト要件に基づく新しい認識カテゴリの追加
SenseCraft モデル変換
AI Inference ページには View SenseCraft Models への入口が用意されています。ユーザーは SenseCraft モデル変換インターフェースに入り、ONNX モデルを reCamera Pro 上で実行可能な RKNN モデルに変換できます。
モデル変換インターフェースでは、ユーザーは変換タスクを作成し、ONNX モデルファイルをアップロードし、必要に応じて量子化データセットをアップロードできます。量子化データセットを提供しない場合、システムはデフォルトのデータセットを使用して変換を完了できます。
変換プロセスは次のとおりです:
- View SenseCraft Models をクリックします。
- 変換する ONNX モデルファイルを選択します。
- 必要に応じて量子化データセットをアップロードします。
- Start Conversion をクリックします。
- 変換完了後、生成された RKNN モデルを reCamera Pro にデプロイして実行します。
この機能により、ユーザーはモデルをデバイス上にデプロイする際のハードルを下げ、自身で学習した ONNX モデルを素早くデバイス実行可能なモデルへ変換できます。
モデル設定
各モデルは Configure ページに入り、基本的なモデル情報、検出カテゴリ、および後処理パラメータを設定できます。
モデル設定では次の項目をサポートします:
| Configuration Item | Description |
|---|---|
| Model Name | モデルの表示名を設定します |
| Framework | モデルの実行時フレームワークを選択します(例:RKNN) |
| Version | モデルのバージョン情報を設定します |
| Type | モデルのタスクタイプを設定します(例:Object Detection) |
| Algorithm | モデルのアルゴリズムを選択します(例:YOLOv5) |
| Author | モデルの作者情報を入力します |
| Description | モデルの説明を追加します |
| Detection Categories | モデルの出力カテゴリ名を設定します |
| Post-processing Configuration | IOU、Confidence、max_obj などのパラメータを設定します |
ユーザー定義の検出モデルの場合、設定ページで検出カテゴリを手動で追加するか、TXT ファイルを介してカテゴリリストを一括インポートできます。カテゴリを設定すると、推論結果はユーザーが定義したカテゴリ名に従って表示および出力されます。
後処理パラメータは、検出結果のフィルタリングと出力を制御するために使用されます。例えば:
| Parameter | Description |
|---|---|
| IOU | バウンディングボックスの Non-Maximum Suppression に用いる Intersection over Union のしきい値 |
| Confidence | 物体検出の信頼度しきい値 |
| max_obj | フレームごとに出力する物体の最大数 |
設定後、Save をクリックしてモデル設定を適用します。
推論設定
推論設定エリアは、AI 推論タスクの実行状態と選択モデルを制御するために使用されます。
ユーザーは次のパラメータを設定できます:
| Parameter | Description |
|---|---|
| Inference Enable | AI 推論機能を有効または無効にします |
| Running Model | 現在実行するモデルを選択します |
| Inference Frequency (FPS) | モデルの推論頻度を設定します |
| Inference Status | 現在の推論タスクが実行中かどうかを表示します |
| Real-time Inference FPS | 現在の実際の推論フレームレートを表示します |
ユーザーはモデルリストからモデルを選択して現在の実行モデルとし、スライダーを使用して推論頻度を設定できます。設定後、Save Configuration をクリックして推論タスクを開始または更新します。
ページ右側には、Running などの現在の推論ステータスと、現在の実際の推論フレームレートが表示され、モデルが正常に動作しているかどうかを簡単に確認できます。
リアルタイム推論モニタリング
AI Inference ページには、モデル推論結果を確認するためのリアルタイム推論出力モニタリングエリアが用意されています。推論結果はログとしてリアルタイムに表示されるため、開発者はモデル出力のデバッグ、バウンディングボックス座標、クラス ID、信頼度スコア、タイムスタンプの確認を容易に行えます。
リアルタイム出力には通常、次の情報が含まれます:
| Field | Description |
|---|---|
| timestamp | 推論結果のタイムスタンプ |
| task_type | 現在のタスクタイプ |
| class_id | 検出されたクラス ID |
| class_name | 検出されたクラス名 |
| score | 検出の信頼度 |
| bbox | バウンディングボックス座標 |
| detection_count | 現在のフレームで検出された物体数 |
このページには、モニタリングの無効化、リアルタイム表示の一時停止、ログのクリアなどのリアルタイム出力制御機能が用意されており、デバッグ中に出力内容を観察・管理しやすくなっています。
推論出力設定
Web UI でリアルタイム推論ログを確認する以外に、reCamera Pro は推論結果を外部システムへ出力することもサポートしています。ユーザーは Inference Output Configuration で、出力テンプレート、タスクタイプ、および出力方法を選択できます。
サポートされている出力方法は次のとおりです:
- HTTP
- MQTT
- UART
技術サポートと製品ディスカッション
弊社製品をお選びいただきありがとうございます。私たちは、製品をできるだけスムーズにご利用いただけるよう、さまざまなサポートを提供しています。お好みやニーズに応じてお選びいただけるよう、複数のコミュニケーションチャネルをご用意しています。