トレーニング後の量子化 | TensorFlow Lite

この決定木は、ユースケースに最適なトレーニング後の量子化手法を選択するのに役立ちます。 ダイナミックレンジの量子化 ダイナミックレンジ量子化は、キャリブレーション用の代表的なデータセットを提供する必要なしにメモリ使用量を削減し、計算を高速化するため、開始点として推奨されます。このタイプの量子化は、変換時に浮動小数点から整数への重みのみを静的に量子化し、8 ビットの精度を提供します。 import tensorflow as tf converter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir) <b>converter.optimizations = [tf.lite.Optimize.DEFAULT]</b> tflite_quant_model = converter.convert() 推定中のレイテンシをさら