Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • Paddle
  • 合并请求
  • !17819

P
Paddle
  • 项目概览

PaddlePaddle / Paddle
大约 2 年 前同步成功

通知 2325
Star 20933
Fork 5424
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 1423
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 543
  • Wiki 0
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
P
Paddle
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 1,423
    • Issue 1,423
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 543
    • 合并请求 543
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 0
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板

QAT int8 MKL-DNN transformation pass !17819

  • Report abuse
!17819 已合并 6月 04, 2019 由 saxon_zh@saxon_zh 创建
#<User:0x00007f7eaae78df0>
  • 概览 8
  • 提交 13
  • 变更 3

Created by: bingyanghuang

This PR is to convert QuantizationFreezePass generated IrGraph to MKL-DNN support INT8 runnable IrGraph. Following transformations have been done in this pass:

    1. Convert int8 range weights with float type, (which generated by the QuantizationFreezePass), to fp32 range weights with float dtype by the corresponding scales.
    2. Create the new conv2d op with the converted weights and link its output to fake_dequantize_abs_max output and set conv2d's attribute "force_fp32_output" as true
    3. Transform fake_quantize_xx to quantize op
    4. Remove fake_dequantize_abs_max op
Unit test is testing based on the Graph already applied QuantizationTransformPass and QuantizationFreezePass, it will check if:
    1. conv2d's output is rightly linked to the fake_dequantize op's output
    2. conv2d's weights has been converted to fp32 range, they are not integer any more
    3. check the graph locally to make sure that op's type have been transformed as we expected.
The latest accuracy of full ImageNet validation set on Cascade Lake (new generation Xeon) is as below:

image

指派人
分配到
审核者
Request review from
v1.5 for Intel
里程碑
v1.5 for Intel
分配里程碑
工时统计
标识: paddlepaddle/Paddle!17819
Source branch: github/fork/bingyanghuang/int8/mkldnn_quantization_pass
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7