Created by: wyc880622

tools/cpp_infer.py 进行推理发现速度慢，将batchsize增大 trt_fp32、trt_fp16、trt_int8 加速，但报错，不知道如何解决麻烦你们给解决下。 在Fluid模式下进行推理是没有问题的。目前版本1.7.2 master分支下