使用 Raspberry Pi AI Kit 在 RPi5 和 CM4 上运行 YOLOv8s 的基准测试
简介
YOLOv8(You Only Look Once 第 8 版)是 YOLO 系列中最受欢迎的实时姿态估计和目标检测模型。它在前代的基础上,通过在速度、精度和灵活性方面的多项改进,进一步提升了性能。Raspberry-pi-AI-kit 被用于加速推理速度,该套件配备了基于 Hailo-8L 芯片构建的 13 TOPS 神经网络推理加速器。
本文档展示了在 Raspberry Pi 5 和 Raspberry Pi Compute Module 4 上运行 YOLOv8s 进行姿态估计和目标检测的基准测试。所有测试均使用相同的模型(YOLOv8s),量化为 int8,输入分辨率为 640x640,批量大小设置为 1,输入为 240 FPS 的同一视频。
准备硬件
对于 CM4
对于 Raspberry Pi 5
运行此项目
- Pi5 基准测试
- CM4 基准测试
在 RPi5 上安装 AI 套件
请参考 此文档
安装 Hailo 软件并验证安装
更新系统:
sudo apt update
sudo apt full-upgrade
将 PCIe 设置为 gen2/gen3(gen3 比 gen2 更快):
在 /boot/firmware/config.txt
文件中添加以下内容:
# 启用 PCIe 外部连接器
dtparam=pciex1
# 强制使用 Gen 3.0 速度
dtparam=pciex1_gen=3
如果您想使用 gen2,请注释掉 dtparam=pciex1_gen=3
安装 hailo-all 并重启:
在 Raspberry Pi5 上打开终端,输入以下命令以安装 Hailo 软件。
sudo apt install hailo-all
sudo reboot
检查软件和硬件:
在 Raspberry Pi5 上打开终端,输入以下命令以检查是否已安装 hailo-all。
hailortcli fw-control identify
正确的结果如下所示:
在 Raspberry Pi5 上打开终端,输入以下命令以检查是否已连接 hailo-8L。
lspci | grep Hailo
正确的结果如下所示:
运行项目
- 运行姿态估计
- 运行目标检测
安装项目
git clone https://github.com/Seeed-Projects/Benchmarking-YOLOv8-on-Raspberry-PI-reComputer-r1000-and-AIkit-Hailo-8L.git
cd Benchmarking-YOLOv8-on-Raspberry-PI-reComputer-r1000-and-AIkit-Hailo-8L
运行项目
# 使用 AI 套件运行姿态估计
bash run.sh pose-estimation-hailo
# 不使用 AI 套件运行姿态估计
bash run.sh pose-estimation
结果
安装项目
git clone https://github.com/Seeed-Projects/Benchmarking-YOLOv8-on-Raspberry-PI-reComputer-r1000-and-AIkit-Hailo-8L.git
cd Benchmarking-YOLOv8-on-Raspberry-PI-reComputer-r1000-and-AIkit-Hailo-8L
运行项目
# 使用 AI 套件运行目标检测
bash run.sh object-detection-hailo
# 不使用 AI 套件运行目标检测
bash run.sh object-detection
结果
有关目标检测,请参考以下 Wiki: yolov8_object_detection_on_recomputer_r1000_with_hailo_8l
有关姿态估计,请参考以下 Wiki: yolov8_pose_estimation_on_recomputer_r1000_with_hailo_8l
结果
- batchsize=8
- batchsize=1
技术支持与产品讨论
感谢您选择我们的产品!我们致力于为您提供多种支持,确保您在使用我们的产品时拥有尽可能顺畅的体验。我们提供多种沟通渠道,以满足不同的偏好和需求。