Pular para o conteúdo principal

Implantar Live VLM WebUI no reComputer Jetson

Introdução​

Live VLM WebUI é uma interface web universal para interação e avaliação em tempo real de Modelos Visão-Linguagem. Ele pode transmitir o vídeo da sua webcam para qualquer VLM e obter análise ao vivo com IA – perfeito para testar modelos, avaliar desempenho e explorar capacidades de visão com IA em múltiplos domínios e plataformas de hardware.

Este wiki mostrará como implantar o Live VLM WebUI no reComputer Super J4012.

Pré-requisitos​

  • reComputer Super J4012
  • Câmera USB
reComputer Super J4012 Câmera USB
Adquira Agora 🖱️
Adquira Agora 🖱️
info

Certifique-se de que o seu dispositivo Jetson tenha o sistema operacional Jetpack 6.2 instalado.

info

Antes de configurar o software, conecte a câmera USB à porta Type-A do reComputer Super J4012.

Implantar Live VLM WebUI​

Passo 1. Instale e execute o ollama no reComputer Jetson.

Execute o seguinte comando na janela do terminal no reComputer Jetson.

curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.2-vision:11b
nota

O download do modelo levará aproximadamente 10 minutos. Aguarde pacientemente.

Passo 2. Instale o Live VLM WebUI.

Execute o seguinte comando na janela do terminal no reComputer Jetson.

# Install dependencies
sudo apt install openssl python3-pip

# Install the package
python3 -m pip install --user live-vlm-webui

# Add to PATH (one-time setup)
echo 'export PATH="$HOME/.local/bin:$PATH"' >> ~/.bashrc
source ~/.bashrc

# Run it
live-vlm-webui

Passo 3. Configure e inicie o Live VLM WebUI.

Se o aplicativo for executado com sucesso, você poderá abrir o WebUI digitando https://localhost:8090 no navegador.

  • Em VLM API Configuration, selecione o mecanismo de inferência ollama e o modelo llama3.2-vision que você acabou de baixar.
  • Em Camera and App Control, selecione USB Camera.
  • Após clicar no botão Run, você poderá aguardar os resultados de inferência do backend.

Demonstração do Efeito​

Todo o fluxo de trabalho pode ser executado normalmente em um dispositivo reComputer Super J4012 com 16 GB de memória. No entanto, durante os testes reais, verificou-se que a velocidade de inferência é muito lenta.

Referências​

Suporte Técnico & Discussão de Produtos​

Obrigado por escolher nossos produtos! Estamos aqui para fornecer diferentes formas de suporte para garantir que sua experiência com nossos produtos seja a mais tranquila possível. Oferecemos vários canais de comunicação para atender a diferentes preferências e necessidades.

Loading Comments...