Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
BaiXuePrincess
Paddle
提交
bbc837ee
P
Paddle
项目概览
BaiXuePrincess
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
bbc837ee
编写于
10月 13, 2020
作者:
S
Shang Zhizhou
提交者:
GitHub
10月 13, 2020
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
add info log for trt input dynamic shape check (#27796)
* add info log for trt input dynamic shape check * fix error msg error
上级
445634fa
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
12 addition
and
0 deletion
+12
-0
paddle/fluid/inference/tensorrt/convert/op_converter.h
paddle/fluid/inference/tensorrt/convert/op_converter.h
+12
-0
未找到文件。
paddle/fluid/inference/tensorrt/convert/op_converter.h
浏览文件 @
bbc837ee
...
@@ -164,6 +164,7 @@ class OpConverter {
...
@@ -164,6 +164,7 @@ class OpConverter {
const
std
::
unordered_set
<
std
::
string
>&
parameters
,
const
std
::
unordered_set
<
std
::
string
>&
parameters
,
const
std
::
vector
<
std
::
string
>&
outputs
,
TensorRTEngine
*
engine
)
{
const
std
::
vector
<
std
::
string
>&
outputs
,
TensorRTEngine
*
engine
)
{
engine
->
InitNetwork
();
engine
->
InitNetwork
();
bool
all_dynamic_shape_set
=
true
;
for
(
auto
&
input
:
inputs
)
{
for
(
auto
&
input
:
inputs
)
{
if
(
parameters
.
count
(
input
))
continue
;
if
(
parameters
.
count
(
input
))
continue
;
auto
*
var
=
block_desc
->
FindVar
(
input
);
auto
*
var
=
block_desc
->
FindVar
(
input
);
...
@@ -181,6 +182,13 @@ class OpConverter {
...
@@ -181,6 +182,13 @@ class OpConverter {
auto
max_input_shape
=
engine
->
max_input_shape
()[
input
];
auto
max_input_shape
=
engine
->
max_input_shape
()[
input
];
auto
optim_input_shape
=
engine
->
optim_input_shape
()[
input
];
auto
optim_input_shape
=
engine
->
optim_input_shape
()[
input
];
size_t
ranks
=
min_input_shape
.
size
();
size_t
ranks
=
min_input_shape
.
size
();
if
(
ranks
==
0
)
{
all_dynamic_shape_set
=
false
;
LOG
(
INFO
)
<<
"trt input ["
<<
input
.
c_str
()
<<
"] dynamic shape info not set, please check and retry."
;
// check other input
continue
;
}
std
::
vector
<
int64_t
>
input_shape
;
std
::
vector
<
int64_t
>
input_shape
;
input_shape
.
push_back
(
-
1
);
input_shape
.
push_back
(
-
1
);
for
(
size_t
i
=
1
;
i
<
ranks
;
i
++
)
{
for
(
size_t
i
=
1
;
i
<
ranks
;
i
++
)
{
...
@@ -207,6 +215,10 @@ class OpConverter {
...
@@ -207,6 +215,10 @@ class OpConverter {
Vec2TRT_Dims
(
var_shape
,
input
));
Vec2TRT_Dims
(
var_shape
,
input
));
}
}
}
}
PADDLE_ENFORCE_EQ
(
all_dynamic_shape_set
,
true
,
platform
::
errors
::
InvalidArgument
(
"some trt inputs dynamic shape info not set, "
"check the INFO log above for more details."
));
framework
::
proto
::
BlockDesc
*
block_proto
=
block_desc
->
Proto
();
framework
::
proto
::
BlockDesc
*
block_proto
=
block_desc
->
Proto
();
ConvertBlock
(
*
block_proto
,
parameters
,
scope
,
engine
);
ConvertBlock
(
*
block_proto
,
parameters
,
scope
,
engine
);
for
(
auto
&
output
:
outputs
)
{
for
(
auto
&
output
:
outputs
)
{
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录