diff --git a/doc/fluid/user_guides/howto/inference/image/model_graph_original.png b/doc/fluid/user_guides/howto/inference/image/model_graph_original.png new file mode 100644 index 0000000000000000000000000000000000000000..c1ce03d1cd77f7a8d07ccbca3964642f2faefe00 Binary files /dev/null and b/doc/fluid/user_guides/howto/inference/image/model_graph_original.png differ diff --git a/doc/fluid/user_guides/howto/inference/image/model_graph_trt.png b/doc/fluid/user_guides/howto/inference/image/model_graph_trt.png new file mode 100644 index 0000000000000000000000000000000000000000..6db0d35f0a9bdd7ec9376eb71f69b0ab16924181 Binary files /dev/null and b/doc/fluid/user_guides/howto/inference/image/model_graph_trt.png differ diff --git a/doc/fluid/user_guides/howto/inference/index.rst b/doc/fluid/user_guides/howto/inference/index.rst index 5b85747b52639b5edb0f45711b6388e320da7955..b6452e09fb00cee52e96b2eeafeb7a657a22e785 100644 --- a/doc/fluid/user_guides/howto/inference/index.rst +++ b/doc/fluid/user_guides/howto/inference/index.rst @@ -9,3 +9,4 @@ PaddlePaddle Fluid 提供了 C++ API 来支持模型的部署上线 build_and_install_lib_cn.rst native_infer.md + paddle_tensorrt_infer.md diff --git a/doc/fluid/user_guides/howto/inference/paddle_tensorrt_infer.md b/doc/fluid/user_guides/howto/inference/paddle_tensorrt_infer.md new file mode 100644 index 0000000000000000000000000000000000000000..30f1a915953c7b426e41c881fede1cae548ddf47 --- /dev/null +++ b/doc/fluid/user_guides/howto/inference/paddle_tensorrt_infer.md @@ -0,0 +1,132 @@ +# 使用Paddle TensorRT预测 + +NVIDIA TensorRT 是一个高性能的深度学习预测库,可为深度学习推理应用程序提供低延迟和高吞吐量。Paddle 1.0 采用了子图的形式对TensorRT进行了初步集成,即我们可以使用该模块来提升Paddle模型的预测性能。该模块依旧在持续开发中,目前已支持的模型有:AlexNet, MobileNet, ResNet50, VGG19, ResNext, MobileNet-SSD等。在这篇文档中,我们将会对Paddle-TensorRT库的获取、使用和原理进行介绍。 + + +## 编译带`TensorRT`的预测库 + +**使用Docker编译预测库** + +1. 下载Paddle + + ``` + git clone https://github.com/PaddlePaddle/Paddle.git + ``` + +2. 获取docker镜像 + + ``` + nvidia-docker run --name paddle_trt -v $PWD/Paddle:/Paddle -it hub.baidubce.com/paddlepaddle/paddle:latest-dev /bin/bash + ``` + +3. 编译Paddle TensorRT + + ``` + # 在docker容器中执行以下操作 + cd /Paddle + mkdir build + cd build + cmake .. \ + -DWITH_FLUID_ONLY=ON \ + -DWITH_CONTRIB=OFF \ + -DWITH_MKL=OFF \ + -DWITH_MKLDNN=OFF \ + -DWITH_TESTING=ON \ + -DCMAKE_BUILD_TYPE=Release \ + -DWITH_PYTHON=OFF + + # 编译 + make -j 10 + # 生成预测库 + make inference_lib_dist -j + ``` + +## Paddle TensorRT使用 + +[`paddle_inference_api.h`]('https://github.com/PaddlePaddle/Paddle/blob/develop/paddle/fluid/inference/api/paddle_inference_api.h') 定义了使用TensorRT的所有接口。 + +总体上分为以下步骤: +1. 创建合适的配置MixedRTConfig. +2. 根据配合创建 `PaddlePredictor`. +3. 创建输入的tensor. +4. 获取输出的tensor,输出结果. + +以下的代码展示了完整的过程: + +```c++ +#include "paddle_inference_api.h" + +using paddle::contrib::MixedRTConfig; +namespace paddle { + +void RunTensorRT(int batch_size, std::string model_dirname) { + // 1. 创建MixedRTConfig + MixedRTConfig config; + config.model_dir = model_dirname; + config.use_gpu = true; // 此处必须为true + config.fraction_of_gpu_memory = 0.2; + config.device = 0; // gpu id + // TensorRT 根据max batch size大小给op选择合适的实现, + // 因此max batch size大小和运行时batch的值最好相同。 + config.max_batch_size = batch_size; + + // 2. 根据config 创建predictor + auto predictor = CreatePaddlePredictor(config); + + // 3. 创建输入 tensor + int height = 224; + int width = 224; + float data[batch_size * 3 * height * width] = {0}; + + PaddleTensor tensor; + tensor.shape = std::vector({batch_size, 3, height, width}); + tensor.data = PaddleBuf(static_cast(data), + sizeof(float) * (batch_size * 3 * height * width)); + tensor.dtype = PaddleDType::FLOAT32; + std::vector paddle_tensor_feeds(1, tensor); + + // 4. 创建输出 tensor + std::vector outputs; + // 5. 预测 + predictor->Run(paddle_tensor_feeds, &outputs, batch_size); + + const size_t num_elements = outputs.front().data.length() / sizeof(float); + auto *data = static_cast(outputs.front().data.data()); + for (size_t i = 0; i < num_elements; i++) { + std::cout << "output: " << data[i] << std::endl; + } +} +} // namespace paddle + +int main() { + // 模型下载地址 http://paddle-inference-dist.cdn.bcebos.com/tensorrt_test/mobilenet.tar.gz + paddle::RunTensorRT(1, “./mobilenet"); + return 0; +} +``` +编译过程可以参照[这里](https://github.com/PaddlePaddle/Paddle/tree/develop/paddle/fluid/inference/api/demo_ci)。 + +## 子图运行原理 + PaddlePaddle采用子图的形式对TensorRT进行集成,当模型加载后,神经网络可以表示为由变量和运算节点组成的计算图。Paddle TensorRT实现的功能是能够对整个图进行扫描,发现图中可以使用TensorRT优化的子图,并使用TensorRT节点替换它们。在模型的推断期间,如果遇到TensorRT节点,Paddle会调用TensoRT库对该节点进行优化,其他的节点调用Paddle的原生实现。TensorRT在推断期间能够进行Op的横向和纵向融合,过滤掉冗余的Op,并对特定平台下的特定的Op选择合适的kenel等进行优化,能够加快模型的预测速度。 + +下图使用一个简单的模型展示了这个过程: + +**原始网络** +

+ +

+ +**转换的网络** +

+ +

+ + + 我们可以在原始模型网络中看到,绿色节点表示可以被TensorRT支持的节点,红色节点表示网络中的变量,黄色表示Paddle只能被Paddle原生实现执行的节点。那些在原始网络中的绿色节点被提取出来汇集成子图,并由一个TensorRT节点代替,成为转换网络中的`block-25` 节点。在网络运行过程中,如果遇到该节点,Paddle将调用TensorRT库来对其执行。 + + + + + + +