Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OPTHREE
Paddle
提交
52d6b306
P
Paddle
项目概览
OPTHREE
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
未验证
提交
52d6b306
编写于
2月 10, 2022
作者:
W
wenbin
提交者:
GitHub
2月 10, 2022
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
mkldnn layout issue fix (#39422)
* mkldnn conv fix * definetion
上级
c47d6729
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
30 addition
and
1 deletion
+30
-1
paddle/fluid/inference/api/details/zero_copy_tensor.cc
paddle/fluid/inference/api/details/zero_copy_tensor.cc
+27
-0
python/paddle/fluid/tests/unittests/ir/inference/test_conv_bn_fuse_pass.py
...id/tests/unittests/ir/inference/test_conv_bn_fuse_pass.py
+3
-1
未找到文件。
paddle/fluid/inference/api/details/zero_copy_tensor.cc
浏览文件 @
52d6b306
...
...
@@ -429,6 +429,33 @@ std::vector<int> Tensor::shape() const {
PADDLE_ENFORCE_NOT_NULL
(
tensor_
,
paddle
::
platform
::
errors
::
PreconditionNotMet
(
"Not found tensor called %s in the scope"
,
name_
));
// mkldnn may does layout transform internally, so need to reorder before
// return
#ifdef PADDLE_WITH_MKLDNN
if
(
tensor
->
layout
()
==
paddle
::
framework
::
DataLayout
::
kMKLDNN
)
{
paddle
::
framework
::
DataLayout
out_layout
=
paddle
::
platform
::
MKLDNNDeviceContext
::
tls
()
.
get_cur_paddle_data_layout
();
// Set default as NCHW in case not specified
out_layout
=
out_layout
==
paddle
::
framework
::
DataLayout
::
kAnyLayout
?
paddle
::
framework
::
DataLayout
::
kNCHW
:
out_layout
;
// In these data layouts, channel dimension is either on 2nd position: nChw
// or
// at last nhwC, so for dim==2 these layouts are the same and nothing should
// be done. Similarly for dim==1 when you have just one possible
// combination.
if
(
tensor
->
dims
().
size
()
<
3
)
return
paddle
::
framework
::
vectorize
<
int
>
(
tensor
->
dims
());
if
(
out_layout
==
paddle
::
framework
::
DataLayout
::
kNHWC
)
{
auto
dims
=
paddle
::
framework
::
vectorize
<
int
>
(
tensor
->
dims
());
std
::
rotate
(
dims
.
begin
()
+
1
,
dims
.
begin
()
+
2
,
dims
.
end
());
return
dims
;
}
else
{
return
paddle
::
framework
::
vectorize
<
int
>
(
tensor
->
dims
());
}
}
#endif
return
paddle
::
framework
::
vectorize
<
int
>
(
tensor
->
dims
());
}
...
...
python/paddle/fluid/tests/unittests/ir/inference/test_conv_bn_fuse_pass.py
浏览文件 @
52d6b306
...
...
@@ -183,7 +183,9 @@ class TestConvBnFusePass(PassAutoScanTest):
def
add_ignore_pass_case
(
self
):
def
teller1
(
program_config
,
predictor_config
):
if
program_config
.
ops
[
0
].
attrs
[
'data_format'
]
==
"NHWC"
:
if
program_config
.
ops
[
0
].
attrs
[
'data_format'
]
==
"NHWC"
and
not
predictor_config
.
mkldnn_enabled
(
):
return
True
return
False
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录