提交 da4507b7 编写于 作者: X xutianchun

fix post training quant

上级 21c644b5
...@@ -47,11 +47,11 @@ ...@@ -47,11 +47,11 @@
thread_num=1 thread_num=1
``` ```
校准数据集可以选择测试数据集的子集,要求`/dir/images`目录下存放的每个文件均是预处理好的输入数据,每个文件都可以直接用于推理的输入。 校准数据集可以选择测试数据集的子集,要求`/dir/images`目录下存放的每个文件均是预处理好的输入数据,每个文件都可以直接用于推理的输入。
3.TensorFlow Lite模型mnist.tflite为例,执行带训练后量化的模型转换命令: 3.MindSpore模型为例,执行带训练后量化的模型转换命令:
``` ```
./converter_lite --fmk=TFLITE --modelFile=mnist.tflite --outputFile=mnist_quant --quantType=PostTraining --config_file=config.cfg ./converter_lite --fmk=MS --modelFile=lenet.ms --outputFile=lenet_quant --quantType=PostTraining --config_file=config.cfg
``` ```
4. 上述命令执行成功后,便可得到量化后的模型mnist_quant.ms,通常量化后的模型大小会下降到FP32模型的1/4。 4. 上述命令执行成功后,便可得到量化后的模型lenet_quant.ms,通常量化后的模型大小会下降到FP32模型的1/4。
## 部分模型精度结果 ## 部分模型精度结果
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册