Skip to main content

Convertir Modelo a Formato Edge TPU TFlite para Google Coral

Introducción​

El Acelerador Coral M.2 con Dual Edge TPU es un módulo M.2 que aporta dos coprocesadores Edge TPU a sistemas y productos existentes con una ranura M.2 E-key disponible. Tensorflow y Pytorch son los frameworks de aprendizaje profundo más populares. Así que para usar el Edge TPU, necesitamos compilar el modelo al formato Edge TPU.

Este artículo wiki te guiará a través del proceso de compilar un modelo y ejecutarlo en la TPU Google Coral, permitiéndote aprovechar sus capacidades para aplicaciones de aprendizaje automático de alto rendimiento.

Preparar Hardware​

Raspberry Pi 5 8GBRaspberry Pi M.2 HAT+Acelerador Coral M.2 B+M key
Obtener Ahora 🖱️
Obtener Ahora 🖱️
Obtener Ahora 🖱️

Instalar Hardware​

pir

Convertir Modelo​

note

Antes de comenzar, asegúrate de haber instalado el Google Coral TPU en el Pi 5 siguiendo la guía de instalación.

note

Todo el proceso ha sido probado en Python 3.11.9.

Instalar Tensorflow​

pip install tensorflow

Verificar tflite_converter​

tflite_convert -h

El resultado debería ser como este:

2024-07-23 10:41:03.750087: I tensorflow/core/platform/cpu_feature_guard.cc:182] This TensorFlow binary is optimized to use available CPU instructions in performance-critical operations.
To enable the following instructions: AVX2 FMA, in other operations, rebuild TensorFlow with the appropriate compiler flags.
2024-07-23 10:41:04.276520: W tensorflow/compiler/tf2tensorrt/utils/py_utils.cc:38] TF-TRT Warning: Could not find TensorRT
usage: tflite_convert [-h] --output_file OUTPUT_FILE [--saved_model_dir SAVED_MODEL_DIR | --keras_model_file KERAS_MODEL_FILE] [--saved_model_tag_set SAVED_MODEL_TAG_SET]
                      [--saved_model_signature_key SAVED_MODEL_SIGNATURE_KEY] [--enable_v1_converter] [--experimental_new_converter [EXPERIMENTAL_NEW_CONVERTER]]
                      [--experimental_new_quantizer [EXPERIMENTAL_NEW_QUANTIZER]]

Command line tool to run TensorFlow Lite Converter.

optional arguments:
  -h, --help            show this help message and exit
  --output_file OUTPUT_FILE
                        Full filepath of the output file.
  --saved_model_dir SAVED_MODEL_DIR
                        Full path of the directory containing the SavedModel.
  --keras_model_file KERAS_MODEL_FILE
                        Full filepath of HDF5 file containing tf.Keras model.
  --saved_model_tag_set SAVED_MODEL_TAG_SET
                        Comma-separated set of tags identifying the MetaGraphDef within the SavedModel to analyze. All tags must be present. In order to pass in an empty tag set, pass in "". (default "serve")
  --saved_model_signature_key SAVED_MODEL_SIGNATURE_KEY
                        Key identifying the SignatureDef containing inputs and outputs. (default DEFAULT_SERVING_SIGNATURE_DEF_KEY)
  --enable_v1_converter
                        Enables the TensorFlow V1 converter in 2.0
  --experimental_new_converter [EXPERIMENTAL_NEW_CONVERTER]
                        Experimental flag, subject to change. Enables MLIR-based conversion instead of TOCO conversion. (default True)
  --experimental_new_quantizer [EXPERIMENTAL_NEW_QUANTIZER]
                        Experimental flag, subject to change. Enables MLIR-based quantizer instead of flatbuffer conversion. (default True)

Convertir Modelo de Tensorflow a Modelo TFlite​

tflite_convert --saved_model_dir=YOUR_MODEL_PATH --output_file=YOUR_MODEL_NAME.tflite

Convertir Modelo TFlite a Modelo Edge TPU​

note

Debes optimizar tu modelo antes de convertir el modelo TFLite a un modelo Edge TPU. Por favor, consulta la guía Optimizar Modelo TensorFlow.

Instalar el compilador edgetpu​

curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo apt-key add -

echo "deb https://packages.cloud.google.com/apt coral-edgetpu-stable main" | sudo tee /etc/apt/sources.list.d/coral-edgetpu.list

sudo apt-get update

sudo apt-get install edgetpu-compiler

Transformar Modelo TFlite a Modelo Edge TPU​

edgetpu_compiler YOUR_MODEL_NAME.tflite

Y entonces deberías obtener un nuevo archivo llamado YOUR_MODEL_NAME_edgetpu.tflite

Soporte Técnico y Discusión de Productos​

¡Gracias por elegir nuestros productos! Estamos aquí para brindarte diferentes tipos de soporte para asegurar que tu experiencia con nuestros productos sea lo más fluida posible. Ofrecemos varios canales de comunicación para satisfacer diferentes preferencias y necesidades.

Loading Comments...