PaddleSlim 训练后 量化yolov3报错
Created by: chenxiaoyu3
- 版本、环境信息: 1)PaddlePaddle版本:a5a8d144 20191216 develop最新(因为1.6.2 release里没有包含 PostTrainingQuantization 类) 2)系统环境:paddle 提供的docker:latest, python3.5
使用同样的代码,mobilenetv1 和 resnet已经跑通,模型换成yoloV3后报错
----------------------
Error Message Summary:
----------------------
Error: Input(ImgSize) dim[0] and Input(X) dim[0] should be same.
[Hint: Expected dim_imgsize[0] == dim_x[0], but received dim_imgsize[0]:5 != dim_x[0]:10.] at (/paddle/paddle/fluid/operators/detection/yolo_box_op.cc:48)
[operator < yolo_box > error]
运行代码
model="xxxx/yolov3_darknet_voc"
python post_training_quantization.py \
--model_dir=${model} \
--model_filename="model" \
--params_filename="params" \
--data_path=${samples} \
--save_model_path="easydl_yolov3.int8" \
--algo="KL" \
--is_full_quantize=False \
--batch_size=10 \
--batch_nums=10 \
--use_gpu=False \
模型来自 paddle models 官方voc 训练的,在这里我也传了一份 可供验证: 链接: https://pan.baidu.com/s/1-_lksetEE6rxZIxXVGQwFQ 提取码: y9y7