Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • models
  • Issue
  • #4151

M
models
  • 项目概览

PaddlePaddle / models
大约 2 年 前同步成功

通知 232
Star 6828
Fork 2962
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 602
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 255
  • Wiki 0
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
M
models
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 602
    • Issue 602
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 255
    • 合并请求 255
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 0
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板
已关闭
开放中
Opened 1月 01, 2020 by saxon_zh@saxon_zhGuest

使用 QuantizationFreezePass 量化模型报错

Created by: suishicity

我按照 PaddleDetection 中 slim\quantization\freeze.py 量化训练好的 MobileNetV1_SSD 模型,在使用 QuantizationFreezePass 时报错,主要代码如下

    use_gpu = cfg.model.use_gpu

    place = fluid.CUDAPlace(0) if use_gpu else fluid.CPUPlace()
    exe = fluid.Executor(place)
    exe.run(fluid.default_startup_program())

    test_prog, feed_var_names, fetch_vars = fluid.io.load_inference_model(model_path, exe)
    test_graph = IrGraph(fluid.core.Graph(test_prog.desc), for_test=True)
    
    # ret = eval_run(cfg, exe, test_prog, feed_var_names, fetch_vars)

    freeze_pass = QuantizationFreezePass(fluid.global_scope(), place)
    freeze_pass.apply(test_graph)
    float_prog = test_graph.to_program()

    basename = os.path.basename(model_path)
    tmp_path = os.path.join(output_path, basename+'_float')
    checkpoint.save_inference_model(tmp_path, exe, float_prog, feed_var_names, fetch_vars)

错误信息如下

Traceback (most recent call last):
  File ".\freeze_model.py", line 91, in quantize
    freeze_pass.apply(test_graph)
  File "C:\Users\morgan\Miniconda3\lib\site-packages\paddle\fluid\contrib\slim\quantization\quantization_pass.py", line 683, in apply
    self._insert_post_dequant_op(graph, op_node)
  File "C:\Users\morgan\Miniconda3\lib\site-packages\paddle\fluid\contrib\slim\quantization\quantization_pass.py", line 789, in _insert_post_dequant_op
    scale_v = self._var_scale_map[original_var_name]
KeyError: 'conv7_1_sep_weights'

使用环境为:win10, Python 3.6.8, paddle 1.6.2. 加载的模型能够正确预测,QuantizationFreezePass 每次报错 KeyError 都不一样,我是新手,请问训练后量化怎么做才是正确的呢?

指派人
分配到
无
里程碑
无
分配里程碑
工时统计
无
截止日期
无
标识: paddlepaddle/models#4151
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7