Created by: OliverLPH

• 标题：[CPU预测]qat2 int8预测性能下降
• 版本、环境信息：    1）PaddlePaddle版本：52a61eda    2）CPU：Intel(R) Xeon(R) Gold 6271C CPU @ 2.60GHz，MKLDNN    3）GPU：无    4）系统环境：hub.baidubce.com/paddlepaddle/paddle:latest-dev， Ubuntu1604 -预测信息    1）C++预测：52a61eda    2）CMake命令

cmake .. -DWITH_PYTHON=ON \
-DWITH_SWIG_PY=OFF \
-DWITH_FLUID_ONLY=ON \
-DWITH_TESTING=OFF \
-DWITH_GPU=OFF \
-DWITH_MKL=ON \
-DWITH_MKLDNN=ON \
-DON_INFER=ON  \
-DCMAKE_BUILD_TYPE=Release

   3）API信息    4）预测库来源：本地编译

• 复现信息： 测试脚本：https://github.com/PaddlePaddle/Paddle/blob/develop/python/paddle/fluid/contrib/slim/tests/qat_int8_comparison.py 比较commit：b976ba3e和 commit：52a61eda，qat2量化的模型，fps都有一定程度的下降。

• 问题描述：

以mobilenetv2为例，fps从88下降到了83

mobilenetv1，fps从123下降到了117左右