Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
MegEngine 天元
MegEngine
提交
e718a498
MegEngine
项目概览
MegEngine 天元
/
MegEngine
1 年多 前同步成功
通知
404
Star
4705
Fork
582
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
MegEngine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
提交
e718a498
编写于
4月 03, 2023
作者:
M
Megvii Engine Team
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix(mge/quantization): support for initializing LSQ from Qparams
GitOrigin-RevId: 860e378271f02466e18ad6329d10c1a776815124
上级
f7cbb065
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
7 addition
and
7 deletion
+7
-7
imperative/python/megengine/quantization/fake_quant.py
imperative/python/megengine/quantization/fake_quant.py
+7
-7
未找到文件。
imperative/python/megengine/quantization/fake_quant.py
浏览文件 @
e718a498
...
@@ -139,22 +139,22 @@ class LSQ(_FakeQuantize, QParamsModuleMixin):
...
@@ -139,22 +139,22 @@ class LSQ(_FakeQuantize, QParamsModuleMixin):
self
.
zero_point
=
Tensor
(
0.0
,
dtype
=
"float32"
)
self
.
zero_point
=
Tensor
(
0.0
,
dtype
=
"float32"
)
self
.
grad_scale
=
Tensor
(
1.0
,
dtype
=
"float32"
)
self
.
grad_scale
=
Tensor
(
1.0
,
dtype
=
"float32"
)
def
set_qparams
(
self
,
qparams
:
LS
QParams
):
def
set_qparams
(
self
,
qparams
:
QParams
):
self
.
mode
=
qparams
.
mode
self
.
mode
=
qparams
.
mode
if
qparams
.
mode
==
QuantMode
.
ASYMMERTIC
:
if
qparams
.
mode
==
QuantMode
.
ASYMMERTIC
:
self
.
zero_point
=
qparams
.
zero_point
self
.
zero_point
=
qparams
.
zero_point
else
:
else
:
self
.
zero_point
=
Tensor
(
[
0.0
]
,
dtype
=
"float32"
)
self
.
zero_point
=
Tensor
(
0.0
,
dtype
=
"float32"
)
if
qparams
.
scale
is
None
:
if
qparams
.
scale
is
None
:
raise
AssertionError
(
"Can not get an initialized scale"
)
raise
AssertionError
(
"Can not get an initialized scale"
)
init_step_size
=
qparams
.
scale
init_step_size
=
qparams
.
scale
if
init_step_size
<
self
.
eps
:
if
init_step_size
<
self
.
eps
:
init_step_size
=
0
init_step_size
=
Tensor
(
0.0
,
dtype
=
"float32"
)
else
:
else
:
init_step_size
=
init_step_size
-
self
.
eps
init_step_size
=
Tensor
(
init_step_size
-
self
.
eps
)
self
.
step_size
=
Parameter
(
init_step_size
,
dtype
=
"float32"
)
self
.
step_size
=
Parameter
(
init_step_size
.
item
()
,
dtype
=
"float32"
)
if
isinstance
(
qparams
,
LSQParams
):
self
.
grad_scale
=
qparams
.
grad_scale
self
.
grad_scale
=
qparams
.
grad_scale
def
fake_quant_forward
(
self
,
inp
,
qparams
:
LSQParams
=
None
):
def
fake_quant_forward
(
self
,
inp
,
qparams
:
LSQParams
=
None
):
step_size
=
F
.
abs
(
self
.
step_size
)
+
self
.
eps
step_size
=
F
.
abs
(
self
.
step_size
)
+
self
.
eps
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录