Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
BaiXuePrincess
Paddle
提交
81fd2fff
P
Paddle
项目概览
BaiXuePrincess
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
81fd2fff
编写于
7月 06, 2022
作者:
H
handiz
提交者:
GitHub
7月 06, 2022
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix quant scale name (#44116)
上级
d7f4599d
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
7 addition
and
7 deletion
+7
-7
python/paddle/fluid/contrib/slim/quantization/post_training_quantization.py
...d/contrib/slim/quantization/post_training_quantization.py
+2
-2
python/paddle/fluid/contrib/slim/quantization/quantization_pass.py
...ddle/fluid/contrib/slim/quantization/quantization_pass.py
+5
-5
未找到文件。
python/paddle/fluid/contrib/slim/quantization/post_training_quantization.py
浏览文件 @
81fd2fff
...
@@ -963,10 +963,10 @@ class PostTrainingQuantization(object):
...
@@ -963,10 +963,10 @@ class PostTrainingQuantization(object):
else
:
else
:
scale_dict
=
self
.
_quantized_threshold
scale_dict
=
self
.
_quantized_threshold
for
key
,
val
in
scale_dict
.
items
():
for
key
,
val
in
scale_dict
.
items
():
utils
.
set_variable_data
(
self
.
_scope
,
self
.
_place
,
key
+
"
.
scale"
,
utils
.
set_variable_data
(
self
.
_scope
,
self
.
_place
,
key
+
"
@
scale"
,
np
.
array
([
val
],
dtype
=
np
.
float32
))
np
.
array
([
val
],
dtype
=
np
.
float32
))
utils
.
set_variable_data
(
self
.
_scope
,
self
.
_place
,
utils
.
set_variable_data
(
self
.
_scope
,
self
.
_place
,
key
+
".quant_dequant
.
scale"
,
key
+
".quant_dequant
@
scale"
,
np
.
array
([
val
],
dtype
=
np
.
float32
))
np
.
array
([
val
],
dtype
=
np
.
float32
))
if
not
self
.
_onnx_format
:
if
not
self
.
_onnx_format
:
...
...
python/paddle/fluid/contrib/slim/quantization/quantization_pass.py
浏览文件 @
81fd2fff
...
@@ -906,7 +906,7 @@ class QuantizationTransformPass(object):
...
@@ -906,7 +906,7 @@ class QuantizationTransformPass(object):
"""
"""
Return the scale name of quantized variable for the input `var_name`.
Return the scale name of quantized variable for the input `var_name`.
"""
"""
return
"%s
.
scale"
%
(
var_name
)
return
"%s
@
scale"
%
(
var_name
)
def
_is_skip_quant
(
self
,
graph
,
op_node
):
def
_is_skip_quant
(
self
,
graph
,
op_node
):
"""
"""
...
@@ -1246,8 +1246,8 @@ class QuantizationFreezePass(object):
...
@@ -1246,8 +1246,8 @@ class QuantizationFreezePass(object):
return
var_name
[:
-
len
(
'.quantized'
)]
return
var_name
[:
-
len
(
'.quantized'
)]
if
var_name
.
endswith
(
'.dequantized'
):
if
var_name
.
endswith
(
'.dequantized'
):
return
var_name
[:
-
len
(
'.dequantized'
)]
return
var_name
[:
-
len
(
'.dequantized'
)]
if
var_name
.
endswith
(
'
.
scale'
):
if
var_name
.
endswith
(
'
@
scale'
):
return
var_name
[:
-
len
(
'
.
scale'
)]
return
var_name
[:
-
len
(
'
@
scale'
)]
else
:
else
:
return
var_name
return
var_name
...
@@ -1705,7 +1705,7 @@ class AddQuantDequantPass(object):
...
@@ -1705,7 +1705,7 @@ class AddQuantDequantPass(object):
shape
=
var_node
.
shape
(),
shape
=
var_node
.
shape
(),
var_dtype
=
var_node
.
dtype
())
var_dtype
=
var_node
.
dtype
())
scale_in_node
=
graph
.
create_persistable_node
(
scale_in_node
=
graph
.
create_persistable_node
(
name
=
"{}.quant_dequant
.
scale"
.
format
(
var_node
.
name
()),
name
=
"{}.quant_dequant
@
scale"
.
format
(
var_node
.
name
()),
var_type
=
core
.
VarDesc
.
VarType
.
LOD_TENSOR
,
var_type
=
core
.
VarDesc
.
VarType
.
LOD_TENSOR
,
shape
=
[
1
],
shape
=
[
1
],
var_dtype
=
var_node
.
dtype
())
var_dtype
=
var_node
.
dtype
())
...
@@ -1922,7 +1922,7 @@ class InsertQuantizeLinear(object):
...
@@ -1922,7 +1922,7 @@ class InsertQuantizeLinear(object):
"""
"""
Return the scale name of quantized variable for the input `var_name`.
Return the scale name of quantized variable for the input `var_name`.
"""
"""
return
"%s
.
scale"
%
(
var_name
)
return
"%s
@
scale"
%
(
var_name
)
def
_zero_point_name
(
self
,
var_name
):
def
_zero_point_name
(
self
,
var_name
):
"""
"""
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录