Skip to main content

Primeros pasos con Docker

Este es un repost de este blog escrito por Ajeet en collabnix.com. Todos los créditos son para él.

La semana pasada, tuve la suerte de tener acceso al último dispositivo de inteligencia artificial en el borde de Seeed Studio reComputer J1020 por primera vez. La reComputer J1020 funciona con el kit de desarrollo Jetson Nano. Es una computadora pequeña, potente, del tamaño de una mano, que brinda el poder de la IA moderna a los desarrolladores e integradores. Este pequeño dispositivo de $259 está construido alrededor del SoM NVIDIA Jetson Nano y está diseñado para aplicaciones de Edge AI. Este dispositivo te permite ejecutar múltiples redes neuronales en paralelo para aplicaciones como clasificación de imágenes, detección de objetos, segmentación y procesamiento de voz. Con ricos módulos de extensión, periféricos industriales y gestión térmica, la reComputer J1020 está lista para ayudarte a acelerar y escalar tu producto de IA de próxima generación mediante la implementación de modelos DNN populares y marcos de aprendizaje automático en el borde e inferencias de alto rendimiento, para tareas como clasificación y detección de objetos en tiempo real, estimación de pose, segmentación semántica y procesamiento natural del lenguaje (NLP).

¿Qué tiene de especial la reComputer J1020?​

Seeed Studio reComputer J1020 viene con todo lo que necesitas para comenzar a crear tu aplicación basada en IA. En comparación con el kit de desarrollo Jetson Nano de NVIDIA, no requiere grabar el sistema operativo en una tarjeta SD desde cero. Viene con el sistema operativo Ubuntu ya preinstalado en una eMMC de 16 GB. Jetpack 4.6 preinstalado incluye un paquete de soporte de placa (BSP), sistema operativo Linux, bibliotecas de software NVIDIA CUDA, cuDNN y TensorRT para aprendizaje profundo, visión por computadora, computo GPU, procesamiento multimedia, etc. Es compatible con toda la pila de software Jetson y varias herramientas para desarrolladores para crear aplicaciones de IA rápidas y sólidas proporcionadas por los socios de Seeed Edge AI.

Características importantes​

  • 128 núcleos NVIDIA CUDA®: ofrecen 0,5 TFLOP (FP16) para ejecutar marcos y modelos de IA para aplicaciones como clasificación de imágenes, detección de objetos, segmentación y procesamiento de voz.
  • Equipada con procesador Armv8
  • Con NVIDIA Tegra X1(nvgpu)/Integrada
  • 16GB de memoria eMMC
  • 4GB de memoria
  • Sistema operativo de 64-bits
  • Ubuntu 18.04.5
  • Seeed Studio reComputer viene con el sistema JetPack 4.6 ya instalado
  • No necesitas flashear una tarjeta SD con algún sistema operativo ¡Porque ya viene instalado!
  • Soporte para CUDA 10.2.300
  • CUDA Arquitectura: 5.3
  • OpenCV versiónn: 4.1.1

Leer más sobre el diseño de la reComputer

Componentes de la reComputer​

Viene con los siguientes componentes:

  • NVIDIA Jetson Nano x1
  • Seed Carrier Board x1
  • Disipador pasivo de aluminio x1
  • Carcasa de aluminio x1
  • Adaptador de 12V x1
  • 4x Puertos USB 3.0
  • 2x Puertos HDMI
  • Conector para cámara MIPI-CSI
  • Header UART
  • Pin de expansión de 40-pin(GPIO, I2C, Header)
  • SODIMM 260-Pin
  • MicroUSB
  • Puerto Gigabit Ethernet
  • Luces LED

Configuración ddel Hardware​

Para comenzar, necesitas conectar como mínimo los siguientes componentes a tu reComputer:

  • Cable de potencia
  • Modulo Wifi / Cable Gigabit Ethernet
  • Receptor USB para teclado y mouse WiFi
  • Conectividad HDMI para tu pantalla

Ejecutando CUDA deviceQuery​

cd /usr/local/cuda/samples/1_Utilities/deviceQuery
sudo make 
./deviceQuery

Aquí están los resultados:

./deviceQuery Starting...

 CUDA Device Query (Runtime API) version (CUDART static linking
Detected 1 CUDA Capable device(s)

Device 0: "NVIDIA Tegra X1"
  CUDA Driver Version / Runtime Version          10.2 / 10.2
  CUDA Capability Major/Minor version number:    5.3
  Total amount of global memory:                 3956 MBytes (4148273152 bytes)
  ( 1) Multiprocessors, (128) CUDA Cores/MP:     128 CUDA Cores
  GPU Max Clock rate:                            922 MHz (0.92 GHz)
  Memory Clock rate:                             13 Mhz
  Memory Bus Width:                              64-bit
  L2 Cache Size:                                 262144 bytes
  Maximum Texture Dimension Size (x,y,z)         1D=(65536), 2D=(65536, 65536), 3D=(4096, 4096, 4096)
  Maximum Layered 1D Texture Size, (num) layers  1D=(16384), 2048 layers
  Maximum Layered 2D Texture Size, (num) layers  2D=(16384, 16384), 2048 layers
  Total amount of constant memory:               65536 bytes
  Total amount of shared memory per block:       49152 bytes
  Total number of registers available per block: 32768
  Warp size:                                     32
  Maximum number of threads per multiprocessor:  2048
  Maximum number of threads per block:           1024
  Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
  Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
  Maximum memory pitch:                          2147483647 bytes
  Texture alignment:                             512 bytes
  Concurrent copy and kernel execution:          Yes with 1 copy engine(s)
  Run time limit on kernels:                     Yes
  Integrated GPU sharing Host Memory:            Yes
  Support host page-locked memory mapping:       Yes
  Alignment requirement for Surfaces:            Yes
  Device has ECC support:                        Disabled
  Device supports Unified Addressing (UVA):      Yes
  Device supports Compute Preemption:            No
  Supports Cooperative Kernel Launch:            No
  Supports MultiDevice Co-op Kernel Launch:      No
  Device PCI Domain ID / Bus ID / location ID:   0 / 0 / 0
  Compute Mode:
     < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >
deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 10.2, CUDA Runtime Version = 10.2, NumDevs = 1

Result = PASS

Ejecutando Docker en la reComputer Jetson Nano​

Docker es un conjunto de herramientas de desarrollo de software para crear, compartir y ejecutar contenedores individuales. Es una plataforma de contenedorización que empaqueta tu aplicación y todas sus dependencias en forma de un contenedor acoplable para garantizar que tu aplicación funcione sin problemas en cualquier entorno. Docker Container es una unidad estandarizada que se puede crear sobre la marcha para implementar una aplicación o entorno particular.

Desarrollar cualquier tipo de aplicación hoy en día es complejo. Es mucho más que escribir código. Hay multitud de lenguajes de programación, marcos web, arquitecturas complejas e interfaces discontinuas entre herramientas para cada etapa del ciclo de vida y eso crea una enorme complejidad. Docker simplifica y acelera tu flujo de trabajo, al tiempo que brinda a los desarrolladores la libertad de innovar con su elección de herramientas, pilas de aplicaciones y entornos de implementación para cada proyecto. Te permite separar tus aplicaciones de tu infraestructura para que puedas entregar software rápidamente.

Docker es oficialmente compatible con la reComputer J1020, un kit de desarrollo impulsado por Jetson Nano. El kit viene con la última versión de Docker preinstalada de forma predeterminada. Puedes verificar la versión de Docker ejecutando el siguiente comando:

sudo docker version

Client: Docker Engine - Community
 Cloud integration: v1.0.25
 Version:           20.10.17
 API version:       1.41
 Go version:        go1.17.11
 Git commit:        100c701
 Built:             Mon Jun  6 23:02:19 2022
 OS/Arch:           linux/arm64
 Context:           default
 Experimental:      true


Server: Docker Engine - Community
 Engine:
  Version:          20.10.17
  API version:      1.41 (minimum version 1.12)
  Go version:       go1.17.11
  Git commit:       a89b842
  Built:            Mon Jun  6 23:00:46 2022
  OS/Arch:          linux/arm64
  Experimental:     false
 containerd:
  Version:          1.6.6
  GitCommit:        10c12954828e7c7c9b6e0ea9b0c02b01407d3ae1
 runc:
  Version:          1.1.2
  GitCommit:        v1.1.2-0-ga916309
 docker-init:
  Version:          0.19.0
  GitCommit:        de40ad0

Instalando Docker Compose​

La reComputer Jetson no viene con Docker Compose instalado. Puedes seguir los siguientes pasos para instalar Docker Compose en tu sistema:

export DOCKER_COMPOSE_VERSION=2.6.0
sudo apt-get install libhdf5-dev
sudo apt-get install libssl-dev
sudo pip3 install docker-compose=="${DOCKER_COMPOSE_VERSION}"
apt install python3
apt install python3-pip
pip install docker-compose

Instalar la última versión de CUDA toolkit​

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/sbsa/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.3.1/local_installers/cuda-repo-ubuntu1804-11-3-local_11.3.1-465.19.01-1_arm64.deb
sudo dpkg -i cuda-repo-ubuntu1804-11-3-local_11.3.1-465.19.01-1_arm64.deb
sudo apt-key add /var/cuda-repo-ubuntu1804-11-3-local/7fa2af80.pub
sudo apt-get update
sudo apt-get -y install cuda

Verificar Docker en tiempo de ejecución​

docker info | grep runtime

 Runtimes: nvidia runc io.containerd.runc.v2 io.containerd.runtime.v1.linuxs

Ejecutando tu primer contenedor con Python​

Probemos una imagen simple de Python Docker basada en Arm ejecutando el siguiente comando:

sudo docker run arm64v8/python:slim ls

Monitoreando la CPU, la GPU y la memoria usando JTOP Docker container​

En esta sección, verás cómo configurar una utilidad de monitoreo del sistema para monitorear la CPU, la RAM y la GPU. Usaremos la utilidad JTOP. Jtop es una utilidad de monitoreo del sistema que se ejecuta en el terminal para ver y controlar en tiempo real el estado y la frecuencia del kit Jetson Nano de tu reComputer. En esta sección aprenderás a utilizar JTOP. Empecemos

Primero, crea un archivo Dockerfile con el siguiente contenido:

FROM python:3-alpine

RUN apk update \

    && apk --no-cache add bash \

    && pip install jetson-stats \

    && rm -rf /var/cache/apk/*

La primera línea muestra que hemos elegido python:3-alpine como imagen base. La segunda línea instala jetson-stats y paquetes dependientes.

Compilando la imágen JTOP Docker​

Utiliza la CLI de Docker Build para crear la imagen de Docker

docker build -t ajeetraina/jetson-stats-nano .

Ejecutando el JTOP Docker Container​

Es hora de ejecutar el contenedor Docker pasando –gpus como parámetro y montándolo en el socket jtop.

docker run --rm -it --gpus all -v /run/jtop.sock:/run/jtop.sock ajeetraina/jetson-stats-nano jtop

Deberías observar el siguiente resultado:

En nuestra próxima publicación de blog, veremos cómo implementar la identificación de vehículos usando OpenDatacam ejecutándose dentro de un contenedor Docker. ¡Mantente al tanto!

¡Consulta el siguiente ejemplo de aplicación con tutoriales!

Sigue a Ajeet en:

Soporte Tech y discusión del producto​

¡Gracias por elegir nuestros productos! Estamos aquí para darte soporte y asegurar que tu experiencia con nuestros productos sea la mejor posible. Tenemos diversos canales de comunicación para adaptarnos distintas preferencias y necesidades.

Loading Comments...