Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
机器未来
Paddle
提交
1321c479
P
Paddle
项目概览
机器未来
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
1321c479
编写于
3月 05, 2021
作者:
P
Pei Yang
提交者:
GitHub
3月 05, 2021
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
add more info in trt engine serialization (#31434)
上级
9ebf05b0
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
22 addition
and
3 deletion
+22
-3
paddle/fluid/inference/analysis/ir_passes/tensorrt_subgraph_pass.cc
...id/inference/analysis/ir_passes/tensorrt_subgraph_pass.cc
+22
-3
未找到文件。
paddle/fluid/inference/analysis/ir_passes/tensorrt_subgraph_pass.cc
浏览文件 @
1321c479
...
...
@@ -83,16 +83,29 @@ void analysis::TensorRtSubgraphPass::ApplyImpl(
std
::
string
GenerateEngineKey
(
const
std
::
set
<
std
::
string
>
&
engine_inputs
,
const
std
::
set
<
std
::
string
>
&
engine_outputs
,
const
std
::
string
&
predictor_id
)
{
const
std
::
string
&
predictor_id
,
const
std
::
string
&
max_batch_size
,
const
std
::
string
&
precision
,
const
std
::
string
&
use_calib_mode
)
{
std
::
string
engine_hash_key
=
""
;
for
(
auto
name
:
engine_inputs
)
{
engine_hash_key
+=
name
;
engine_hash_key
+=
"#"
;
}
for
(
auto
name
:
engine_outputs
)
{
engine_hash_key
+=
name
;
engine_hash_key
+=
"#"
;
}
engine_hash_key
+=
predictor_id
;
engine_hash_key
+=
"#"
;
engine_hash_key
+=
max_batch_size
;
engine_hash_key
+=
"#"
;
engine_hash_key
+=
precision
;
engine_hash_key
+=
"#"
;
engine_hash_key
+=
use_calib_mode
;
auto
engine_key
=
std
::
to_string
(
std
::
hash
<
std
::
string
>
()(
engine_hash_key
));
VLOG
(
2
)
<<
"TRT engine hash key: "
<<
engine_hash_key
;
VLOG
(
2
)
<<
"TRT engine key: "
<<
engine_key
;
return
engine_key
;
}
...
...
@@ -245,8 +258,11 @@ void TensorRtSubgraphPass::CreateTensorRTOp(
// TODO(NHZlX)
// There are models with the same structure but the different parameters,
// when running in the 'use_serialize' mode, there is a bug.
auto
engine_key
=
GenerateEngineKey
(
input_names_with_id
,
output_names_with_id
,
std
::
to_string
(
0
));
auto
engine_key
=
GenerateEngineKey
(
input_names_with_id
,
output_names_with_id
,
std
::
to_string
(
0
),
std
::
to_string
(
Get
<
int
>
(
"max_batch_size"
)),
std
::
to_string
(
static_cast
<
int
>
(
precision_mode
)),
std
::
to_string
(
static_cast
<
int
>
(
use_calib_mode
)));
auto
predictor_id
=
Get
<
int
>
(
"predictor_id"
);
// Get "" when there is no cached calibration table data.
...
...
@@ -359,6 +375,9 @@ void TensorRtSubgraphPass::CreateTensorRTOp(
GetTrtEngineSerializedPath
(
Get
<
std
::
string
>
(
"model_opt_cache_dir"
),
engine_key
),
trt_engine_serialized_data
);
LOG
(
INFO
)
<<
"Save TRT Optimized Info to "
<<
GetTrtEngineSerializedPath
(
Get
<
std
::
string
>
(
"model_opt_cache_dir"
),
engine_key
);
}
}
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录