Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
MegEngine 天元
MegEngine
提交
b9e0319f
MegEngine
项目概览
MegEngine 天元
/
MegEngine
1 年多 前同步成功
通知
403
Star
4705
Fork
582
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
MegEngine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
提交
b9e0319f
编写于
7月 24, 2023
作者:
M
Megvii Engine Team
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix(imperative): fix format transformation handle nchw format tensor
GitOrigin-RevId: f5838c1f7fbc1a1f4ffd9fc8951ed0cbdd422dc2
上级
fca4ae57
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
14 addition
and
1 deletion
+14
-1
imperative/python/test/unit/core/test_formatted_tensor.py
imperative/python/test/unit/core/test_formatted_tensor.py
+4
-0
imperative/src/impl/transformations/format.cpp
imperative/src/impl/transformations/format.cpp
+10
-1
未找到文件。
imperative/python/test/unit/core/test_formatted_tensor.py
浏览文件 @
b9e0319f
...
@@ -20,6 +20,10 @@ def test_basic():
...
@@ -20,6 +20,10 @@ def test_basic():
b
=
tensor
(
a
)
b
=
tensor
(
a
)
assert
b
.
format
==
"nhwc"
assert
b
.
format
==
"nhwc"
b
=
tensor
(
data
,
format
=
"nchw"
)
result
=
F
.
pad
(
b
,
((
0
,
0
),
(
0
,
0
),
(
1
,
1
),
(
1
,
1
)),
mode
=
"reflect"
)
assert
result
.
format
==
"default"
# TODO: init from tensor with new format
# TODO: init from tensor with new format
# c = tensor(a, format="nchw")
# c = tensor(a, format="nchw")
# assert c.format == "nchw"
# assert c.format == "nchw"
...
...
imperative/src/impl/transformations/format.cpp
浏览文件 @
b9e0319f
...
@@ -435,13 +435,22 @@ inline FT get_inputs_format(Span<ValueRef>& inputs, const FormatTransformation&
...
@@ -435,13 +435,22 @@ inline FT get_inputs_format(Span<ValueRef>& inputs, const FormatTransformation&
return
format
;
return
format
;
}
}
inline
bool
if_convert_format
(
const
Format
src_fmt
,
const
FT
&
dst_fmt
)
{
if
((
src_fmt
==
FT
::
NCHW
&&
dst_fmt
==
FT
::
DEFAULT
)
||
(
src_fmt
==
FT
::
DEFAULT
&&
dst_fmt
==
FT
::
NCHW
))
{
return
false
;
}
else
{
return
true
;
}
}
inline
ValueRefList
unify_inputs_format
(
inline
ValueRefList
unify_inputs_format
(
const
Span
<
ValueRef
>&
inputs
,
const
FT
&
dst_fmt
,
const
std
::
string
&
scope
,
const
Span
<
ValueRef
>&
inputs
,
const
FT
&
dst_fmt
,
const
std
::
string
&
scope
,
const
FormatTransformation
&
t
)
{
const
FormatTransformation
&
t
)
{
ValueRefList
unified_inputs
(
inputs
.
size
());
ValueRefList
unified_inputs
(
inputs
.
size
());
for
(
size_t
i
=
0
;
i
<
inputs
.
size
();
++
i
)
{
for
(
size_t
i
=
0
;
i
<
inputs
.
size
();
++
i
)
{
auto
&&
inp
=
inputs
[
i
].
cast
(
t
.
value_type
());
auto
&&
inp
=
inputs
[
i
].
cast
(
t
.
value_type
());
if
(
inp
.
format
()
!=
dst_fmt
)
{
if
(
inp
.
format
()
!=
dst_fmt
&&
if_convert_format
(
inp
.
format
(),
dst_fmt
)
)
{
unified_inputs
[
i
]
=
t
.
to
(
inp
,
dst_fmt
,
scope
);
unified_inputs
[
i
]
=
t
.
to
(
inp
,
dst_fmt
,
scope
);
}
else
{
}
else
{
unified_inputs
[
i
]
=
inputs
[
i
];
unified_inputs
[
i
]
=
inputs
[
i
];
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录