Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
FluidDoc
提交
a6c56a92
F
FluidDoc
项目概览
PaddlePaddle
/
FluidDoc
通知
5
Star
2
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
23
列表
看板
标记
里程碑
合并请求
111
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
F
FluidDoc
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
23
Issue
23
列表
看板
标记
里程碑
合并请求
111
合并请求
111
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
a6c56a92
编写于
10月 11, 2018
作者:
N
nhzlx
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix comments
上级
775b32ed
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
23 addition
and
19 deletion
+23
-19
doc/fluid/user_guides/howto/inference/paddle_tensorrt_infer.md
...luid/user_guides/howto/inference/paddle_tensorrt_infer.md
+23
-19
未找到文件。
doc/fluid/user_guides/howto/inference/paddle_tensorrt_infer.md
浏览文件 @
a6c56a92
...
@@ -3,15 +3,16 @@
...
@@ -3,15 +3,16 @@
NVIDIA TensorRT 是一个高性能的深度学习预测库,可为深度学习推理应用程序提供低延迟和高吞吐量。Paddle 1.0 采用了子图的形式对TensorRT进行了初步集成,即我们可以使用该模块来提升Paddle模型的预测性能。该模块依旧在持续开发中,目前已支持的模型有:AlexNet, MobileNet, ResNet50, VGG19, ResNext, MobileNet-SSD等。在这篇文档中,我们将会对Paddle-TensorRT库的获取、使用和原理进行介绍。
NVIDIA TensorRT 是一个高性能的深度学习预测库,可为深度学习推理应用程序提供低延迟和高吞吐量。Paddle 1.0 采用了子图的形式对TensorRT进行了初步集成,即我们可以使用该模块来提升Paddle模型的预测性能。该模块依旧在持续开发中,目前已支持的模型有:AlexNet, MobileNet, ResNet50, VGG19, ResNext, MobileNet-SSD等。在这篇文档中,我们将会对Paddle-TensorRT库的获取、使用和原理进行介绍。
##
获取Paddle
预测库
##
编译带`TensorRT`的
预测库
**
一:
使用Docker编译预测库**
**使用Docker编译预测库**
1.
下载Paddle
1.
下载Paddle
```
```
git clone https://github.com/PaddlePaddle/Paddle.git
git clone https://github.com/PaddlePaddle/Paddle.git
```
```
2.
获取docker镜像
2.
获取docker镜像
```
```
...
@@ -42,7 +43,9 @@ NVIDIA TensorRT 是一个高性能的深度学习预测库,可为深度学习
...
@@ -42,7 +43,9 @@ NVIDIA TensorRT 是一个高性能的深度学习预测库,可为深度学习
## Paddle TensorRT使用
## Paddle TensorRT使用
[
`paddle_inference_api.h`
](
'https://github.com/PaddlePaddle/Paddle/blob/develop/paddle/fluid/inference/api/paddle_inference_api.h'
)
定义了使用TensorRT的所有接口。总体上分为以下步骤:
[
`paddle_inference_api.h`
](
'https://github.com/PaddlePaddle/Paddle/blob/develop/paddle/fluid/inference/api/paddle_inference_api.h'
)
定义了使用TensorRT的所有接口。
总体上分为以下步骤:
1.
创建合适的配置MixedRTConfig.
1.
创建合适的配置MixedRTConfig.
2.
根据配合创建
`PaddlePredictor`
.
2.
根据配合创建
`PaddlePredictor`
.
3.
创建输入的tensor.
3.
创建输入的tensor.
...
@@ -51,30 +54,26 @@ NVIDIA TensorRT 是一个高性能的深度学习预测库,可为深度学习
...
@@ -51,30 +54,26 @@ NVIDIA TensorRT 是一个高性能的深度学习预测库,可为深度学习
以下的代码展示了完整的过程:
以下的代码展示了完整的过程:
```
c++
```
c++
#include "paddle
/fluid/inference/api/paddle
_inference_api.h"
#include "paddle_inference_api.h"
using
paddle
::
contrib
::
MixedRTConfig
;
using
paddle
::
contrib
::
MixedRTConfig
;
namespace
paddle
{
namespace
paddle
{
MixedRTConfig
GetConfigTRT
()
{
void
RunTensorRT
(
int
batch_size
,
std
::
string
model_dirname
)
{
// 1. 创建MixedRTConfig
MixedRTConfig
config
;
MixedRTConfig
config
;
config
.
model_dir
=
model_dirname
;
config
.
use_gpu
=
true
;
// 此处必须为true
config
.
use_gpu
=
true
;
// 此处必须为true
config
.
fraction_of_gpu_memory
=
0.2
;
config
.
fraction_of_gpu_memory
=
0.2
;
config
.
device
=
0
;
// gpu id
config
.
device
=
0
;
// gpu id
config
.
max_batch_size
=
3
;
// 支持最大的batch size,运行时batch必须小于等于此值
return
config
;
}
void
CompareTensorRTWithFluid
(
int
batch_size
,
std
::
string
model_dirname
)
{
MixedRTConfig
config
=
GetConfigTRT
();
config
.
model_dir
=
model_dirname
;
// TensorRT 根据max batch size大小给op选择合适的实现,
// TensorRT 根据max batch size大小给op选择合适的实现,
// 因此max batch size大小和运行时batch的值最好相同。
// 因此max batch size大小和运行时batch的值最好相同。
config
.
max_batch_size
=
batch_size
;
config
.
max_batch_size
=
batch_size
;
// 2. 根据config 创建predictor
auto
predictor
=
CreatePaddlePredictor
<
MixedRTConfig
>
(
config
);
auto
predictor
=
CreatePaddlePredictor
<
MixedRTConfig
>
(
config
);
// 创建输入 tensor
//
3.
创建输入 tensor
int
height
=
224
;
int
height
=
224
;
int
width
=
224
;
int
width
=
224
;
float
data
[
batch_size
*
3
*
height
*
width
]
=
{
0
};
float
data
[
batch_size
*
3
*
height
*
width
]
=
{
0
};
...
@@ -86,9 +85,9 @@ void CompareTensorRTWithFluid(int batch_size, std::string model_dirname) {
...
@@ -86,9 +85,9 @@ void CompareTensorRTWithFluid(int batch_size, std::string model_dirname) {
tensor
.
dtype
=
PaddleDType
::
FLOAT32
;
tensor
.
dtype
=
PaddleDType
::
FLOAT32
;
std
::
vector
<
PaddleTensor
>
paddle_tensor_feeds
(
1
,
tensor
);
std
::
vector
<
PaddleTensor
>
paddle_tensor_feeds
(
1
,
tensor
);
// 创建输出 tensor
//
4.
创建输出 tensor
std
::
vector
<
PaddleTensor
>
outputs
;
std
::
vector
<
PaddleTensor
>
outputs
;
// 预测
//
5.
预测
predictor
->
Run
(
paddle_tensor_feeds
,
&
outputs
,
batch_size
);
predictor
->
Run
(
paddle_tensor_feeds
,
&
outputs
,
batch_size
);
const
size_t
num_elements
=
outputs
.
front
().
data
.
length
()
/
sizeof
(
float
);
const
size_t
num_elements
=
outputs
.
front
().
data
.
length
()
/
sizeof
(
float
);
...
@@ -101,15 +100,16 @@ void CompareTensorRTWithFluid(int batch_size, std::string model_dirname) {
...
@@ -101,15 +100,16 @@ void CompareTensorRTWithFluid(int batch_size, std::string model_dirname) {
int
main
()
{
int
main
()
{
// 模型下载地址 http://paddle-inference-dist.cdn.bcebos.com/tensorrt_test/mobilenet.tar.gz
// 模型下载地址 http://paddle-inference-dist.cdn.bcebos.com/tensorrt_test/mobilenet.tar.gz
paddle
::
CompareTensorRTWithFluid
(
1
,
“
.
/
mobilenet
");
paddle
::
RunTensorRT
(
1
,
“
.
/
mobilenet
");
return 0;
return 0;
}
}
```
```
编译过程可以参照
[
`这里。`
](
https://github.com/PaddlePaddle/Paddle/tree/develop/paddle/fluid/inference/api/demo_ci
)
编译过程可以参照
[
这里
](
https://github.com/PaddlePaddle/Paddle/tree/develop/paddle/fluid/inference/api/demo_ci
)
。
## 子图运行原理
## 子图运行原理
PaddlePaddle采用子图的形式对TensorRT进行集成,当模型加载后,神经网络可以表示为由变量和运算节点组成的计算图。Paddle TensorRT实现的功能是能够对整个图进行扫描,发现图中可以使用TensorRT优化的子图,并使用TensorRT节点替换它们。在模型的推断期间,如果遇到TensorRT节点,Paddle会调用TensoRT库对该节点进行优化,其他的节点调用Paddle的原生实现。TensorRT在推断期间能够进行Op的横向和纵向融合,过滤掉冗余的Op,并对特定平台下的特定的Op选择合适的kenel等进行优化,能够加快模型的预测速度。
PaddlePaddle采用子图的形式对TensorRT进行集成,当模型加载后,神经网络可以表示为由变量和运算节点组成的计算图。Paddle TensorRT实现的功能是能够对整个图进行扫描,发现图中可以使用TensorRT优化的子图,并使用TensorRT节点替换它们。在模型的推断期间,如果遇到TensorRT节点,Paddle会调用TensoRT库对该节点进行优化,其他的节点调用Paddle的原生实现。TensorRT在推断期间能够进行Op的横向和纵向融合,过滤掉冗余的Op,并对特定平台下的特定的Op选择合适的kenel等进行优化,能够加快模型的预测速度。
下图使用一个简单的模型展示了这个过程。我们可以在原始模型网络中看到,绿色节点表示可以被TensorRT支持的节点,红色节点表示网络中的变量,黄色表示Paddle只能被Paddle原生实现执行的节点。那些在原始网络中的绿色节点被提取出来汇集成子图,并由一个TensorRT节点代替,成为转换网络中的block-25 节点。在网络运行过程中,如果遇到该节点,Paddle将调用TensorRT库来对其执行。
下图使用一个简单的模型展示了这个过程:
**原始网络**
**原始网络**
<p
align=
"center"
>
<p
align=
"center"
>
...
@@ -122,6 +122,10 @@ int main() {
...
@@ -122,6 +122,10 @@ int main() {
</p>
</p>
我们可以在原始模型网络中看到,绿色节点表示可以被TensorRT支持的节点,红色节点表示网络中的变量,黄色表示Paddle只能被Paddle原生实现执行的节点。那些在原始网络中的绿色节点被提取出来汇集成子图,并由一个TensorRT节点代替,成为转换网络中的
`block-25`
节点。在网络运行过程中,如果遇到该节点,Paddle将调用TensorRT库来对其执行。
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录