Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • PaddleSlim
  • Issue
  • #437

P
PaddleSlim
  • 项目概览

PaddlePaddle / PaddleSlim
大约 2 年 前同步成功

通知 51
Star 1434
Fork 344
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 53
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 16
  • Wiki 0
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
P
PaddleSlim
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 53
    • Issue 53
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 16
    • 合并请求 16
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 0
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板
已关闭
开放中
Opened 9月 03, 2020 by saxon_zh@saxon_zhGuest

模型量化之后怎么加载int数据类型

Created by: thunder95

量化训练之后有float和int两种数类型的模型文件

float加载推理没有任何问题,但是int该怎么加载? 运行命令如下:

 python deploy/python/infer.py --model_dir=myfiles/quant_export/int --image_file=/d/hl_files/4_10_2_0003.jpg --use_gpu=True  --run_mode fluid --run_benchmark=True

------------------------------------------
Python Call Stacks (More useful to users):
------------------------------------------
  File "/opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/paddle/fluid/framework.py", line 2610, in append_op
    attrs=kwargs.get("attrs", None))
  File "/opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/paddle/fluid/layer_helper.py", line 43, in append_op
    return self.main_program.current_block().append_op(*args, **kwargs)
  File "/opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/paddle/fluid/layers/nn.py", line 2933, in conv2d
    "data_format": data_format,
  File "/home/aistudio/work/PaddleDetection/ppdet/modeling/backbones/mobilenet.py", line 84, in _conv_norm
    bias_attr=False)
  File "/home/aistudio/work/PaddleDetection/ppdet/modeling/backbones/mobilenet.py", line 159, in __call__
    input, 3, int(32 * scale), 2, 1, name=self.prefix_name + "conv1")
  File "/home/aistudio/work/PaddleDetection/ppdet/modeling/architectures/yolo.py", line 61, in build
    body_feats = self.backbone(im)
  File "/home/aistudio/work/PaddleDetection/ppdet/modeling/architectures/yolo.py", line 162, in test
    return self.build(feed_vars, mode='test')
  File "export_model.py", line 77, in main
    test_fetches = model.test(feed_vars)
  File "export_model.py", line 122, in <module>
    main()

----------------------
Error Message Summary:
----------------------
InvalidArgumentError: input and filter data type should be consistent
  [Hint: Expected input_data_type == filter_data_type, but received input_data_type:5 != filter_data_type:21.] at (/d/hl_files/Paddle/paddle/fluid/operators/conv_op.cc:173)
  [operator < conv2d > error]
指派人
分配到
无
里程碑
无
分配里程碑
工时统计
无
截止日期
无
标识: paddlepaddle/PaddleSlim#437
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7