Skip to main content

刀具检测：基于 reComputer 部署在 Triton 推理服务器上的目标检测模型

安检是为了乘客和交通运输部门的安全考虑，防止危险发生，通常应用于机场、火车站、地铁站等场所。在现有的安检领域，安检设备通常部署在公共交通的入口通道上。一般来说，需要多台设备同时工作。

然而，由于安检过程中检测物体的重叠，X 光图像中违禁物品的检测性能仍然不理想。为了解决这个问题，基于 Triton 接口服务器中的去遮挡模块，在 X 光图像中部署违禁物品检测算法可以实现更好的效果。

因此，感谢 Yanlu Wei, Renshuai Tao 等人，我们提供了这个基础项目，我们将在 reComputer J1010 上部署一个深度学习模型，该模型可以检测违禁物品（如刀具）。我们使用一个 reComputer J1010 作为推理服务器，并使用两个 Raspberry Pi 模拟安检设备发送图像。reComputer 1020、reComputer J2011、reComputer J2012 和 Nvidia Jetson AGX Xavier 也都支持。

入门指南​

Triton 推理服务器 提供了一个云端和边缘推理解决方案，针对 CPU 和 GPU 进行了优化。Triton 支持 HTTP/REST 和 GRPC 协议，允许远程客户端请求服务器管理的任何模型的推理。在这里，我们将使用 Triton（Triton 推理服务器）作为本地服务器来部署检测模型。

硬件​

所需硬件​

在本项目中，所需设备如下：

硬件设置​

两台 Raspberry Pi 和 reComputer 应该通电，并且它们都应处于同一网络下。在本项目中，我们使用两台 Raspberry Pi 来模拟安检设备的工作，因为在大多数情况下，安检设备是由多台设备共同使用的。因此，两台设备需要协同工作。

当然，也可以只使用一台 Raspberry Pi 来完成本项目。然而，在两台设备上同时进行刀具检测的演示可以更好地展示 Triton 推理服务器的动态批处理能力。在接下来的说明中，我们将介绍如何在 Raspberry Pi 和 reComputer J1010 上设置软件。

软件​

我们在这里使用 X 光图像数据集 作为我们的输入数据，这些数据将被放置在Raspberry Pi 上。随后，reComputer 会将处理后的推理结果输出到 Raspberry Pi。最后，Raspberry Pi 将完成最终的工作并显示在屏幕上，即推理模型的最后一层将部署在 Raspberry Pi 上。

设置 Raspberry Pi​

我们将在这里展示如何在 Raspberry Pi 上设置所需的软件，包括：

步骤 1. 从官方网站安装 Raspbian Buster 系统并进行基本配置。在本项目中，我们使用 RASPBERRY PI OS（64 位）作为操作系统。

步骤 2. 配置 Raspberry Pi 的 SSH 端口（可选）。

在部署环境之前，我们可以打开 Raspberry Pi 的 SSH 端口，并通过 SSH 接口 在电脑上远程调用。

注意：确保电脑和 Raspberry Pi 处于同一局域网下。

步骤 3. 配置 Python 环境。

我们需要为推理模型部署所需的环境，包括 Python、PyTorch、Tritonclient 和 TorchVision，以及用于图像显示的 OpenCV。以下是具体的安装说明：

Python

我们可以执行 python –V 并确保 Python 版本为 3.9.2。我们需要安装与 Python 3.9.2 版本对应的 PyTorch、Torchclient 和 TorchVision。您可以参考这里下载并安装。

PyTorch

如果 Python 版本正确，我们现在可以安装 PyTorch。

注意：在安装 PyTorch 之前，我们需要检查 Raspbian 的版本。

执行以下命令安装 PyTorch：

# 获取最新更新
sudo apt-get update
sudo apt-get upgrade

# 安装依赖项
sudo apt-get install python3-pip libjpeg-dev libopenblas-dev libopenmpi-dev libomp-dev

# setuptools 版本需低于 58.3.0
sudo -H pip3 install setuptools==58.3.0
sudo -H pip3 install Cython

# 安装 gdown 以从 Google Drive 下载文件
sudo -H pip3 install gdown

# Buster OS
# 下载 PyTorch 安装包
gdown https://drive.google.com/uc?id=1gAxP9q94pMeHQ1XOvLHqjEcmgyxjlY_R
# 安装 PyTorch 1.11.0
sudo -H pip3 install torch-1.11.0a0+gitbc2c6ed-cp39-cp39-linux_aarch64.whl
# 清理安装包
rm torch-1.11.0a0+gitbc2c6ed-cp39-cp39m-linux_aarch64.whl

在成功安装后，我们可以通过以下命令在启动 python 后检查 PyTorch：

import torch as tr
print(tr.__version__)

注意：适用于 Raspberry Pi 4 的 PyTorch 安装包可以在 https://github.com/Qengineering/PyTorch-Raspberry-Pi-64-OS 找到。

Tritonclient

我们可以通过执行 pip3 install tritonclient[all] 来下载 Tritonclient。

TorchVision

在安装 PyTorch 后，我们可以继续安装 TorchVision。以下是安装命令：

# 下载安装包
gdown https://drive.google.com/uc?id=1oDsJEHoVNEXe53S9f1zEzx9UZCFWbExh
# 安装 torchvision 0.12.0
sudo -H pip3 install torchvision-0.12.0a0+9b5a3fe-cp39-cp39-linux_aarch64.whl
# 清理安装包
rm torchvision-0.12.0a0+9b5a3fe-cp39-cp39-linux_aarch64.whl

OpenCV

我们可以直接执行 pip3 install opencv-python 来安装 OpenCV：

设置 reComputer J1010​

在本项目中，我们将把 Triton 推理服务器部署到 reComputer J1010 上。为了增强训练模型的交互性和部署便利性，我们将模型转换为 ONNX 格式。

步骤 1. 安装 Jetpack 4.6.1 到 reComputer J1010。

步骤 2. 在 “home/server/docs/examples/model_repository” 中创建一个新文件夹 “opi/1”，然后下载训练并转换后的 model.onnx 并将其放入 “1” 文件夹中。

如果您需要另一个通用服务器，可以执行以下步骤。

打开一个新的终端并执行：

git clone https://github.com/triton-inference-server/server
cd ~/server/docs/examples
sh fetch_models.sh

步骤 3. 安装适用于 JetPack 4.6.1 的 Triton 版本，相关文件包含在以下压缩包中：tritonserver2.21.0-jetpack5.0.tgz。

此压缩包包含 Triton 服务器可执行文件和共享库，包括 C++ 和 Python 客户端库及示例。有关如何在 JetPack 上安装和使用 Triton 的更多信息，请参考 这里。

步骤 4. 执行以下命令：

mkdir ~/TritonServer && tar -xzvf tritonserver2.19.0-jetpack4.6.1.tgz -C ~/TritonServer
cd ~/TritonServer/bin
./tritonserver --model-repository=/home/seeed/server/docs/examples/model_repository --backend-directory=/home/seeed/TritonServer/backends --strict-model-config=false --min-supported-compute-capability=5.3

现在，我们已经完成了所有准备工作。

运行程序​

由于所有必要的环境都已部署，我们可以按照以下步骤运行项目。

步骤 1. 下载模型和相关文件。

  1. 从 GitHub 克隆模块。

打开一个新的终端并执行以下命令：

git clone https://github.com/LemonCANDY42/Seeed_SMG_AIOT.git
cd Seeed_SMG_AIOT/
git clone https://github.com/LemonCANDY42/OPIXray.git
  1. 创建一个名为“weights”的新文件夹，用于存储该算法的训练权重文件“DOAM.pth”。下载权重文件并执行以下命令：
  • cd OPIXray/DOAM
  • mkdir weights
  1. 创建一个名为“Dataset”的新文件夹，用于存储X光图像数据集。

步骤 2. 运行推理模型。

执行以下命令：

python OPIXray_grpc_image_client.py -u 192.168.8.230:8001 -m opi Dataset

结果将显示如下图所示：

故障排除​

当您启动 Triton 服务器时，可能会遇到以下错误：

  1. 如果出现 libb64.so.0d 错误，请执行： sudo apt-get install libb64-0d
  1. 如果出现 libre2.so.2 错误，请执行： sudo apt-get install libre2-dev
  1. 如果出现错误：创建服务器失败：内部错误 - 无法加载所有模型，请执行： --exit-on-error=false

技术支持与产品讨论​

感谢您选择我们的产品！我们为您提供多种支持，以确保您使用我们的产品时体验顺畅。我们提供了多种沟通渠道，以满足不同的偏好和需求。

Loading Comments...