Skip to main content

在 NVIDIA® Jetson 设备上使用 Scailable 入门

什么是 Scailable？​

Scailable 提供了一个用于大规模创建和管理边缘 AI 解决方案的平台。通过 Scailable，您可以轻松配置任何受支持的边缘设备（如路由器、网关或工业计算机），将其转变为“智能”设备。智能设备可以在输入数据（如视频流）上运行高级人工智能 (AI) 和机器学习 (ML) 模型，将输入数据转化为有意义的结果，例如统计视频中汽车的数量。

为什么在 NVIDIA Jetson 上使用 Scailable？​

NVIDIA Jetson 平台是运行 Scailable 的绝佳选择，因为作为一种边缘 AI 设备（包括 NVIDIA SoMs），它能够在这些设备上大规模部署各种 AI 管道后提供更好的推理性能。

本指南将逐步讲解如何在 NVIDIA Jetson 平台上轻松安装 Scailable AI Manager，并使用 Scailable 平台远程配置和管理您的 AI 解决方案。

前置条件​

  • 运行 NVIDIA JetPack 5.0+ 并连接到互联网的 NVIDIA Jetson 设备

  • 运行 Windows、Linux 或 Mac 并连接到互联网的主机电脑

安装 Scailable AI Manager​

步骤 1： 执行以下命令，在 Jetson Orin 设备上安装 Scailable AI Manager

sudo bash -ic "$(wget -q -O - https://get.sclbl.net)"
note

在安装过程中，您需要在提示是否启用 JetPack 5 支持时输入“y”。

步骤 2： 您可以在网页浏览器中输入 Jetson 设备的 IP 地址，后跟 :8081，或者直接输入命令行中显示的 URL，如下所示

注册 Scailable 账户​

步骤 1： 当 Scailable AI Manager 显示时，为设备命名并点击 Register 按钮

步骤 3： 确认您之前创建的设备名称，点击 Register，然后点击 Return to device

如果一切顺利，您将在 Status 标签下看到所有状态检查均成功，如下所示

运行 AI 应用程序​

Scailable 预装了许多不同的 AI 模型供您试用。不过，如果您想使用自己的 AI 模型，也可以将其导入。

步骤 1： 在 Model 标签下的 First Model 部分，点击 Assign Model

步骤 2： 在这里，您可以通过点击 add a model 添加自己的模型，或者使用预构建的模型。在此我们选择 Scailable Models

步骤 3： 作为示例，我们选择 People counter within a region 模型。点击 Use this model

现在您将看到模型已被选中

步骤 4： 在 Input 标签下，为输入驱动选择 Video driver

在这里，您可以选择视频流、图像或 Scailable 预加载的示例图像/视频

步骤 5： 例如，我们选择 Scailable 附带的预加载视频源 faces

步骤 6： 在 output 标签下，保持设置为默认值

步骤 7： 在 Options 标签下，保持设置为默认值

步骤 7： 在 Test 标签下，点击 Test configuration

如果测试成功，您将看到以下输出

步骤 8： 在 Run 标签下，点击 Run Model

如果运行成功，您将看到以下输出

步骤 9： 点击 View live visualization 以本地预览推理结果

步骤 10： 点击 View output in cloud 以下载 CSV 或 JSON 格式的结果

大规模部署 AI 模型​

使用 Scailable，您可以轻松地将单个模型部署到多个设备上。

步骤 1： 访问 此网页，登录到您的 Scailable 账户，您将看到如下仪表板：

步骤 2： 点击 DEVICES 后，您将看到所有与您的 Scailable 账户连接的设备：

步骤 3： 通过点击复选框选择所有设备，为设备组输入一个名称，然后点击 Save new groups：

步骤 4： 点击 Assign a model to all devices in group：

步骤 5： 像之前一样选择一个模型，该模型将被远程部署到组中的所有设备。

成功远程部署模型后，您将看到如下输出：

了解更多​

Scailable 提供非常详细和全面的文档，因此强烈建议您查看 这里。

技术支持与产品讨论​

感谢您选择我们的产品！我们致力于为您提供各种支持，以确保您使用我们的产品时体验顺畅。我们提供多种沟通渠道，以满足不同的偏好和需求。

Loading Comments...