IA Generativa com reComputer-Jetson®
Generative AI é uma tecnologia de inteligência artificial que pode gerar novos dados, como imagens, textos ou áudios, aprendendo a partir de dados existentes. Nvidia Jetson é uma plataforma de IA de borda desenvolvida pela NVIDIA, com recursos de processamento de alto desempenho e design de baixo consumo de energia, adequada para diversos dispositivos embarcados e de IoT. Ela oferece suporte a aprendizagem profunda, visão computacional e outras aplicações de IA, fornecendo poder de computação robusto e um conjunto abrangente de ferramentas de desenvolvimento. A combinação de IA Generativa e Jetson permite geração e inferência locais em tempo real de forma eficiente em dispositivos de borda.
Geração de Texto
A geração de texto é uma tecnologia que utiliza aprendizagem profunda e modelos de linguagem de grande porte para gerar texto em linguagem natural. Esses modelos são treinados em conjuntos de dados massivos, o que lhes permite aprender o vocabulário, a gramática e a estrutura semântica da linguagem. Eles podem produzir textos fluentes e coerentes, não se limitando apenas a responder perguntas ou participar de conversas, mas também incluindo tarefas como escrever artigos, criar histórias, gerar código e traduzir idiomas. Aqui, estamos implantando algoritmos de geração de texto no Jetson para criar nosso próprio chatbot local.
| Assistente de IA Local | Chatbot de Voz Local |
|---|---|
 |  |
| Configurar uma base de conhecimento local em dispositivos Jetson com ollama e AnythingLLM. | Construindo um chatbot de voz operado localmente com Nvidia Riva e Meta Llama2. |
Geração de Imagem
A geração de imagem, ao interpretar descrições de texto de entrada, permite que modelos produzam imagens de alta qualidade que correspondem às descrições. Essa tecnologia tem ampla aplicação em campos como criação artística, design publicitário e desenvolvimento de jogos, possibilitando a geração automatizada de conteúdo visual que atenda às necessidades do usuário.
| Executar um LLM Local de Texto para Imagem |
|---|
 |
| Implantar o modelo de geração de imagem no Jetson e avaliar seu desempenho de inferência. |
Geração de Áudio
A geração de áudio pode produzir áudios realistas e de alta qualidade, incluindo fala, música e efeitos sonoros, utilizando redes neurais. Ao serem treinados em extensos conjuntos de dados, esses modelos aprendem a reproduzir padrões e nuances de sons naturais, permitindo aplicações como síntese de fala, composição automática de música e criação de efeitos sonoros.
| Geração de Legendas de Fala | Implantar Whisper no NVIDIA Jetson Orin |
|---|---|
 |  |
| Geração de legendas de fala no Jetson, que pode oferecer serviços de fala para legenda em tempo real enquanto evita vazamento de informações na internet. | Implantando Whisper no Jetson Orin para construir aplicações STT robustas e eficientes. |
Geração Multimodal
A tecnologia de geração multimodal combina diversas formas de dados, como texto, imagens e som, para criar conteúdo que integra múltiplos tipos de informação. Essa tecnologia utiliza modelos de aprendizagem profunda para processar e fundir dados de diferentes modalidades, resultando em conteúdo mais expressivo e diversificado. Por exemplo, modelos de texto para imagem podem gerar imagens correspondentes com base em descrições textuais, enquanto modelos de síntese de fala podem produzir fala a partir de texto e, simultaneamente, gerar imagens relacionadas. A geração multimodal apresenta amplas perspectivas de aplicação em realidade virtual, realidade aumentada e criação de conteúdo multimídia.
| Executar VLM no reComputer |
|---|
 |
| Este wiki fornece um tutorial sobre como executar VLM no reComputer J4012 Jetson Orin NX com Jetson Platform Services. |
Geração Aumentada por Recuperação
RAG (Retrieval-Augmented Generation) é uma tecnologia que combina mecanismos de recuperação com modelos de geração. O modelo RAG não só utiliza um modelo generativo para produzir respostas, como também incorpora técnicas de recuperação de informações para aumentar a precisão e a riqueza do conteúdo gerado, recuperando informações relevantes de grandes bases de dados. Essa tecnologia se destaca em aplicações como sistemas de perguntas e respostas, busca inteligente e geração de conteúdo. Ao aproveitar as informações recuperadas, os modelos RAG podem gerar respostas mais detalhadas e ricas em informações, melhorando assim a qualidade e a relevância do conteúdo gerado.
| Assistente de IA Local | RAG Local com LlamaIndex |
|---|---|
|  |
| Configure uma base de conhecimento local em dispositivos Jetson com ollama e AnythingLLM. | Com este projeto de RAG local, é possível proteger a privacidade dos seus dados e proporcionar uma experiência de comunicação com baixa latência. |
Outros
| Fazer Fine-Tuning de LLM no Jetson | LLM Quantizado com MLC | Detecção Zero-Shot |
|---|---|---|
 |  |  |
| Faça o deploy do Llama-Factory no Nvidia Jetson e use o Llama-Factory para treinar um grande modelo de linguagem. | Fazendo o deploy do Llama2-7B quantizado com MLC LLM no Jetson Orin NX. | O serviço de IA Zero Shot Detection expõe endpoints de REST API para controlar a entrada do stream e os objetos a serem detectados. |
| Formatar Saída com Langchain | ||
 | ||
| Use Langchain para formatar a saída de grandes modelos de linguagem e faça o deploy em dispositivos de computação de borda. | ||
Suporte Técnico & Discussão de Produto
Agradecemos por escolher nossos produtos! Estamos aqui para oferecer diferentes tipos de suporte para garantir que sua experiência com nossos produtos seja a mais tranquila possível. Oferecemos vários canais de comunicação para atender a diferentes preferências e necessidades.