Exportação de Modelo
SSCMA atualmente oferece suporte aos seguintes métodos para converter e exportar modelos. Você pode consultar os tutoriais correspondentes para concluir a exportação do modelo e depois colocar o modelo exportado em implantação.
Por padrão, os modelos ONNX e TFLite são exportados. Se você precisar
exportar apenas um deles, pode usar o parâmetro --targets para especificar o
tipo de modelo exportado, por exemplo, --targets onnx ou --targets tflite.
-
PyTorch para ONNX: Converte o modelo PyTorch e pesos
.pthpara modelo ONNX.onnx -
PyTorch para TFLite: Converte o modelo PyTorch e pesos
.pthpara modelo TFLite.tflite
Antes de começar a exportar modelos, você precisa concluir a seção de
Treinamento e obter o arquivo de pesos do modelo .pth
antes de iniciar a exportação.
Descrições dos Parâmetros
Para mais parâmetros de exportação de modelos, você pode consultar o código abaixo.
python3 tools/export.py --help
# Convert and export PyTorch model to TFLite or ONNX models
# positional arguments:
# config the model config file path
# checkpoint the PyTorch checkpoint file path
# optional arguments:
# -h, --help show this help message and exit
# --targets TARGETS [TARGETS ...]
# the target type of model(s) to export e.g. tflite onnx
# --precisions PRECISIONS [PRECISIONS ...]
# the precisions exported model, e.g. 'int8', 'uint8', 'int16', 'float16' and 'float32'
# --work_dir WORK_DIR, --work-dir WORK_DIR
# the directory to save logs and models
# --output_stem OUTPUT_STEM, --output-stem OUTPUT_STEM
# the stem of output file name (with path)
# --device DEVICE the device used for convert & export
# --input_shape INPUT_SHAPE [INPUT_SHAPE ...], --input-shape INPUT_SHAPE [INPUT_SHAPE ...]
# the shape of input data, e.g. 1 3 224 224
# --input_type {audio,image,sensor}, --input-type {audio,image,sensor}
# the type of input data
# --cfg_options CFG_OPTIONS [CFG_OPTIONS ...], --cfg-options CFG_OPTIONS [CFG_OPTIONS ...]
# override some settings in the used config, the key-value pair in 'xxx=yyy' format will be merged into config file
# --simplify SIMPLIFY the level of graph simplification, 0 means disable, max: 5
# --opset_version OPSET_VERSION, --opset-version OPSET_VERSION
# ONNX: operator set version of exported model
# --dynamic_export, --dynamic-export
# ONNX: export with a dynamic input shape
# --algorithm {l2,kl} TFLite: conversion algorithm
# --backend {qnnpack,fbgemm}
# TFLite: converter backend
# --calibration_epochs CALIBRATION_EPOCHS, --calibration-epochs CALIBRATION_EPOCHS
# TFLite: max epoches for quantization calibration
# --mean MEAN [MEAN ...]
# TFLite: mean for model input (quantization), range: [0, 1], applied to all channels, using the average if multiple values are provided
# --mean_and_std MEAN_AND_STD [MEAN_AND_STD ...], --mean-and-std MEAN_AND_STD [MEAN_AND_STD ...]
# TFLite: mean and std for model input(s), default: [((0.0,), (1.0,))], calculated on normalized input(s), applied to all channel(s), using the average if multiple values are provided