求问为什么Paddle tensorrt 性能比原生支持caffe模型的差?
Created by: procr
在V100的机器实测。 我先用caffe的模型用原生trt接口测试,再用caffe2fluid工具转换成paddle模型用paddle trt测试。 精度都是float [1, 3, 224, 224], 一次inference。 ResNet50,paddle trt: 2.959ms,caffe trt: 2.146 VGG19, 3.1ms vs 2.8ms AlexNet, 1.3ms vs 0.9ms MobileNetV2, 1.7ms vs 1.0ms