PaddleCV/image_classification 推理时间
Created by: dbcool
您好，我用自己训练的SE_ResNet50_vd模型，在NVIDIA® Tesla® P4，python下进行inference，平均一张图70ms，但是在官网给的Paddle Fluid inference time时间是10ms左右，如下所示:
| Model | Top-1 | Top-5 | Paddle Fluid inference time(ms) | Paddle TensorRT inference time(ms) |
|---|---|---|---|---|
| SE_ResNet50_vd | 79.52% | 94.75% | 10.345 | 7.662 |
所以有几个问题, 1)python下推理时间70ms左右是正常的嘛?python下有没有可能达到10ms? 2)官网给的是C++的时间嘛？