Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
MegEngine 天元
MegEngine
提交
40e778fb
MegEngine
项目概览
MegEngine 天元
/
MegEngine
1 年多 前同步成功
通知
403
Star
4705
Fork
582
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
MegEngine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
提交
40e778fb
编写于
9月 08, 2020
作者:
M
Megvii Engine Team
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix(mgb): fix-deconv-io16c32-pass-fail
GitOrigin-RevId: 4b44cb48cb15206c4f5735f33927200407dbd283
上级
9f4bffbd
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
51 addition
and
0 deletion
+51
-0
src/gopt/impl/inference.cpp
src/gopt/impl/inference.cpp
+24
-0
src/gopt/test/inference.cpp
src/gopt/test/inference.cpp
+27
-0
未找到文件。
src/gopt/impl/inference.cpp
浏览文件 @
40e778fb
...
...
@@ -771,6 +771,29 @@ std::unique_ptr<ConvertF32ToF16Pass> ConvertF32ToF16Pass::make(
return
new_conv_opr
.
node
()
->
owner_opr
();
};
auto
replace_deconv_opr
=
[
use_f32_comp
](
OperatorNodeBase
*
opr
,
const
VarNodeArray
&
new_inp
)
{
mgb_assert
(
opr
->
input
().
size
()
==
new_inp
.
size
());
auto
&
deconv_opr
=
opr
->
cast_final_safe
<
opr
::
ConvolutionBackwardData
>
();
auto
new_param
=
deconv_opr
.
param
();
if
(
use_f32_comp
)
{
new_param
.
compute_mode
=
megdnn
::
param
::
Convolution
::
ComputeMode
::
FLOAT32
;
}
mgb_assert
(
new_inp
[
0
]
->
dtype
()
==
dtype
::
Float16
(),
"inp %s:%s, owner_opr:%s"
,
new_inp
[
0
]
->
dtype
().
name
(),
new_inp
[
0
]
->
name
().
c_str
(),
new_inp
[
0
]
->
owner_opr
()
->
name
().
c_str
());
mgb_assert
(
new_inp
[
1
]
->
dtype
()
==
dtype
::
Float16
(),
"inp %s:%s, owner_opr:%s"
,
new_inp
[
1
]
->
dtype
().
name
(),
new_inp
[
1
]
->
name
().
c_str
(),
new_inp
[
1
]
->
owner_opr
()
->
name
().
c_str
());
auto
new_deconv_opr
=
opr
::
ConvolutionBackwardData
::
make
(
new_inp
[
0
],
new_inp
[
1
],
new_param
,
deconv_opr
.
execution_policy
(),
deconv_opr
.
config
());
return
new_deconv_opr
.
node
()
->
owner_opr
();
};
auto
replace_convbias_opr
=
[
use_f32_comp
](
OperatorNodeBase
*
opr
,
const
VarNodeArray
&
new_inp
)
{
auto
&
convbias_opr
=
opr
->
cast_final_safe
<
opr
::
ConvBiasForward
>
();
...
...
@@ -941,6 +964,7 @@ std::unique_ptr<ConvertF32ToF16Pass> ConvertF32ToF16Pass::make(
replace_func
[
opr
::
Host2DeviceCopy
::
typeinfo
()]
=
replace_h2d_opr
;
replace_func
[
opr
::
SharedDeviceTensor
::
typeinfo
()]
=
replace_sdt_opr
;
replace_func
[
opr
::
Convolution
::
typeinfo
()]
=
replace_conv_opr
;
replace_func
[
opr
::
ConvolutionBackwardData
::
typeinfo
()]
=
replace_deconv_opr
;
replace_func
[
opr
::
ConvBias
::
typeinfo
()]
=
replace_convbias_opr
;
replace_func
[
opr
::
MatrixMul
::
typeinfo
()]
=
replace_matmul_opr
;
replace_func
[
opr
::
Reduce
::
typeinfo
()]
=
replace_reduce_opr
;
...
...
src/gopt/test/inference.cpp
浏览文件 @
40e778fb
...
...
@@ -710,6 +710,33 @@ TEST(TestGoptInference, Float16IOFloat32Compute) {
MGB_ASSERT_TENSOR_NEAR
(
host_y
,
host_y_opt
,
1e-3
);
}
TEST
(
TestGoptInference
,
Float16IOFloat32ComputeDeConv
)
{
constexpr
size_t
INP_H
=
10
,
INP_W
=
10
;
HostTensorGenerator
<>
gen
;
auto
graph
=
ComputingGraph
::
make
();
auto
mkvar
=
[
&
](
const
char
*
name
,
const
TensorShape
&
shp
)
{
return
opr
::
Host2DeviceCopy
::
make
(
*
graph
,
gen
(
shp
)).
rename
(
name
);
};
graph
->
options
().
graph_opt_level
=
0
;
auto
s0
=
mkvar
(
"s0"
,
{
5
,
5
,
3
,
3
}),
s1
=
mkvar
(
"s1"
,
{
1
,
5
,
INP_H
,
INP_W
});
auto
y
=
opr
::
ConvolutionBackwardData
::
make
(
s0
,
s1
,
{},
{});
SymbolVar
y_opt
;
auto
options
=
gopt
::
OptimizeForInferenceOptions
{};
options
.
enable_f16_io_f32_comp
();
unpack_vector
(
gopt
::
optimize_for_inference
({
y
},
options
),
y_opt
);
ASSERT_EQ
(
find_opr
<
opr
::
ConvolutionBackwardData
>
(
y_opt
).
param
().
compute_mode
,
opr
::
ConvBias
::
Param
::
ConvBias
::
ComputeMode
::
FLOAT32
);
ASSERT_EQ
(
y_opt
.
dtype
(),
dtype
::
Float32
());
HostTensorND
host_y
,
host_y_opt
;
auto
func
=
graph
->
compile
({
make_callback_copy
(
y
,
host_y
),
make_callback_copy
(
y_opt
,
host_y_opt
)});
func
->
execute
();
MGB_ASSERT_TENSOR_NEAR
(
host_y
,
host_y_opt
,
1e-2
);
}
TEST
(
TestGoptInference
,
Float16IOFloat32ComputeWarpPerspective
)
{
constexpr
size_t
INP_H
=
10
,
INP_W
=
10
,
N
=
2
;
HostTensorGenerator
<>
gen
;
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录