用python api预测时打不打开mkldnn,预测耗时相同。
Created by: tianjie491
- 版本、环境信息: 1)PaddlePaddle版本:1.5.2 2)CPU:intel(R) Core(TM) i5-7500 3)系统环境:win10,Python版本 3.7.4
- 问题描述:transformer做seq2seq模型预测时,使用python api,配置AnalysisConfig时添不添加
config.disable_gpu()
config.enable_mkldnn()
预测时间相同,预测时间均为1.5秒左右。 我没有手动安装过mkldnn,也没重新编译过源码,请问直接pip install paddlepaddle是否已经集成安装mkldnn了吗?还是需要手动安装mkldnn?或者是哪里没配置好? 下面贴出部分代码:
law_scope = fluid.core.Scope()
with fluid.scope_guard(law_scope):
prog_file = "{}/model.pdmodel".format(args.model_path)
params_file = "{}/params.pdparams".format(args.model_path)
config = AnalysisConfig(prog_file, params_file)
if use_cuda:
config.enable_use_gpu(2000, 0)
else:
config.disable_gpu()
config.enable_mkldnn()
global predictor_law
predictor_law = create_paddle_predictor(config)