Paddle预测同一个网络不同step保存的模型预测性能差异大
Created by: aprilvkuo
一、训练paddle版本
2.0-alpha, 使用TracedLayer动转静部署。
二、 主要使用的op
GRUUnit, 固定了序列长度。
三、capi版本
1)PaddlePaddle版本:baidu/lib/paddlepaddle@v1.8.4-gcc82-mkl-avx-mkldnn_PD_BL
2)CPU
四、 模型以及耗时情况
- 100step的model, 单线程CPU, 每条query平均耗时约为3.5ms。
- 收敛后的model, 单线程CPU, 每条query平均耗时约为30ms。
五、 模型代码