Skip to main content

Implementar Live VLM WebUI en reComputer Jetson

Introducción​

Live VLM WebUI es una interfaz web universal para la interacción y evaluación comparativa en tiempo real de Modelos de Visión-Lenguaje. Puede transmitir tu cámara web a cualquier VLM y obtener análisis en vivo impulsado por IA - perfecto para probar modelos, evaluar rendimiento y explorar capacidades de IA de visión a través de múltiples dominios y plataformas de hardware.

Este wiki te mostrará cómo implementar Live VLM WebUI en el reComputer Super J4012.

Prerrequisitos​

  • reComputer Super J4012
  • Cámara USB
reComputer Super J4012 Cámara USB
Obtener Uno Ahora 🖱️
Obtener Uno Ahora 🖱️
info

Por favor asegúrate de que tu dispositivo Jetson tenga instalado el sistema operativo Jetpack 6.2.

info

Antes de configurar el software, por favor conecta la cámara USB al puerto Type-A del reComputer Super J4012.

Implementar Live VLM WebUI​

Paso 1. Instalar y ejecutar ollama en reComputer Jetson.

Ejecuta el siguiente comando en la ventana de terminal en reComputer Jetson.

curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.2-vision:11b
note

La descarga del modelo tomará aproximadamente 10 minutos. Por favor espera pacientemente.

Paso 2. Instalar Live VLM WebUI.

Ejecuta el siguiente comando en la ventana de terminal en reComputer Jetson.

# Install dependencies
sudo apt install openssl python3-pip

# Install the package
python3 -m pip install --user live-vlm-webui

# Add to PATH (one-time setup)
echo 'export PATH="$HOME/.local/bin:$PATH"' >> ~/.bashrc
source ~/.bashrc

# Run it
live-vlm-webui

Paso 3. Configurar e iniciar Live VLM WebUI.

Si la aplicación se ejecuta exitosamente, puedes abrir la WebUI ingresando https://localhost:8090 en el navegador.

  • En VLM API Configuration, selecciona el motor de inferencia ollama y el modelo llama3.2-vision que acabas de descargar.
  • En Camera and App Control, selecciona USB Camera.
  • Después de hacer clic en el botón Run, puedes esperar los resultados de inferencia del backend.

Demostración de Efectos​

Todo el flujo de trabajo puede ejecutarse normalmente en un dispositivo reComputer Super J4012 con 16GB de memoria. Sin embargo, durante las pruebas reales, se encontró que la velocidad de inferencia es muy lenta.

Referencias​

Soporte Técnico y Discusión de Productos​

¡Gracias por elegir nuestros productos! Estamos aquí para brindarte diferentes tipos de soporte para asegurar que tu experiencia con nuestros productos sea lo más fluida posible. Ofrecemos varios canales de comunicación para satisfacer diferentes preferencias y necesidades.

Loading Comments...