From 2c1c809335472b05c329e7d51dd78c217b2ae453 Mon Sep 17 00:00:00 2001 From: hong19860320 <9973393+hong19860320@users.noreply.github.com> Date: Fri, 1 May 2020 10:07:24 +0800 Subject: [PATCH] [Doc] Add MTK APU doc and refine RK NPU doc (#3548) (#3549) --- docs/demo_guides/mediatek_apu.md | 173 ++++++++++++++++++ .../demo_guides/{rknpu.md => rockchip_npu.md} | 109 ++++++----- docs/index.rst | 3 +- 3 files changed, 237 insertions(+), 48 deletions(-) create mode 100644 docs/demo_guides/mediatek_apu.md rename docs/demo_guides/{rknpu.md => rockchip_npu.md} (59%) diff --git a/docs/demo_guides/mediatek_apu.md b/docs/demo_guides/mediatek_apu.md new file mode 100644 index 0000000000..a232c1c5f1 --- /dev/null +++ b/docs/demo_guides/mediatek_apu.md @@ -0,0 +1,173 @@ +# PaddleLite使用MTK APU预测部署 + +Paddle Lite已支持MTK APU的预测部署。 +其接入原理是与之前华为NPU类似，即加载并分析Paddle模型，将Paddle算子转成MTK的Neuron adapter API（类似Android NN API）进行网络构建，在线生成并执行模型。 + +## 支持现状 + +### 已支持的芯片 + +- [MT8168](https://www.mediatek.cn/products/tablets/mt8168)/[MT8175](https://www.mediatek.cn/products/tablets/mt8175)。 + +### 已支持的设备 + +- MT8168-P2V1 Tablet。 + +### 已支持的Paddle模型 + +- [全量化MobileNetV1](https://paddlelite-demo.bj.bcebos.com/devices/mediatek/mobilenet_v1_int8_224_fluid.tar.gz) + +### 已支持（或部分支持）的Paddle算子 + +- relu +- conv2d +- depthwise_conv2d +- elementwise_add +- elementwise_mul +- fc +- pool2d +- softmax + +## 参考示例演示 + +### 测试设备(MT8168-P2V1 Tablet) + +![mt8168_p2v1_tablet_front](https://paddlelite-demo.bj.bcebos.com/devices/mediatek/mt8168_p2v1_tablet_front.jpg) + +![mt8168_p2v1_tablet_back](https://paddlelite-demo.bj.bcebos.com/devices/mediatek/mt8168_p2v1_tablet_back.jpg) + +### 准备设备环境 + +- 由于需要依赖特定版本的firmware，感兴趣的同学通过MTK官网[https://www.mediatek.cn/about/contact-us](https://www.mediatek.cn/about/contact-us)提供的联系方式（类别请选择"销售"），获取测试设备和firmware； + +### 准备交叉编译环境 + +- 为了保证编译环境一致，建议参考[源码编译](../user_guides/source_compile)中的Docker开发环境进行配置。 + +### 运行图像分类示例程序 + +- 从[https://paddlelite-demo.bj.bcebos.com/devices/mediatek/PaddleLite-android-demo.tar.gz](https://paddlelite-demo.bj.bcebos.com/devices/mediatek/PaddleLite-android-demo.tar.gz)下载示例程序，解压后清单如下： + +```shell +- PaddleLite-android-demo + - image_classification_demo + - assets + - images + - tabby_cat.jpg # 测试图片 + - labels + - synset_words.txt # 1000分类label文件 + - models + - mobilenet_v1_int8_224_for_cpu.nb # 已通过opt转好的、适合arm cpu的mobilenetv1量化模型 + - mobilenet_v1_int8_224_for_apu.nb # 已通过opt转好的、适合mtk apu的mobilenetv1量化模型 + - shell # android shell端的示例程序 + - CMakeLists.txt # 示例程序CMake脚本 + - build + - image_classification_demo # 已编译好的android shell端的示例程序 + - image_classification_demo.cc # 示例程序源码 + - build.sh # 示例程序编译脚本 + - run.sh # 示例程序运行脚本 + - apk # 常规android应用程序 + - app + - src + - main + - java # java层代码 + - cpp # 自定义的jni实现 + - app.iml + - build.gradle + - gradle + ... + - libs + - PaddleLite + - arm64-v8a + - include # PaddleLite头文件 + - lib + - libc++_shared.so + - libpaddle_light_api_shared.so # 预编译PaddleLite库 + - OpenCV # OpenCV 4.2 for android +``` + +- Android shell端的示例程序 + - 进入PaddleLite-android-demo/image_classification_demo/shell，直接执行./run.sh即可，注意：run.sh不能在docker环境执行，否则可能无法找到设备； + - 如果需要更改测试图片，可将图片拷贝到PaddleLite-android-demo/image_classification_demo/assets/images目录下，然后将run.sh的IMAGE_NAME设置成指定文件名即可； + - 如果需要重新编译示例程序，直接运行./build.sh即可，注意：build.sh的执行必须在docker环境中，否则可能编译出错； + - 需要说明的是，由于MTK APU暂时只支持NHWC的数据布局格式，而PaddleLite默认使用NCHW的数据布局格式，导致额外增加了预测中输入张量的NCHW到NHWC的转换，大约耗费8~9ms。 +```shell +$ cd PaddleLite-android-demo/image_classification_demo/shell +$ ./run.sh +... +warmup: 5 repeat: 10, average: 30.998502 ms, max: 31.049002 ms, min: 30.937002 ms +results: 3 +Top0 Egyptian cat - -0.122845 +Top1 tabby, tabby cat - -0.122845 +Top2 tiger cat - -0.544028 +Preprocess time: 3.620000 ms +Prediction time: 30.998502 ms +Postprocess time: 0.069000 ms + +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1b00000, pa = 0xfb3f9000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1af8000, pa = 0xfb3fa000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1af7000, pa = 0xf8ffe000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1af6000, pa = 0xf7bfe000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1af5000, pa = 0xf7bfd000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1b0c000, pa = 0xfb3fe000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1b0b000, pa = 0xfb3ff000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1b0a000, pa = 0xf31ff000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1b09000, pa = 0xfb3f6000, len = 255 +[vpuBuffer] vpuMemAllocator::freeMem: type = 1, va = 0x7ed1b08000, pa = 0xf7bff000, len = 255 +``` + +- 常规Android应用程序 + - 安装Android Studio 3.4 + - 打开Android Studio，在"Welcome to Android Studio"窗口点击"Open an existing Android Studio project"，在弹出的路径选择窗口中进入"image_classification_demo"目录，然后点击右下角的"Open"按钮即可导入工程 + - 通过USB连接Android手机、平板或开发板； + - 临时关闭selinux模式，允许app调用系统库； +```shell +$ adb root +# setenforce 0 +``` + - 载入工程后，点击菜单栏的Run->Run 'App'按钮，在弹出的"Select Deployment Target"窗口选择已经连接的Android设备，然后点击"OK"按钮； + - 等待大约1分钟后（第一次时间比较长，需要耐心等待），app已经安装到设备上。默认使用ARM CPU模型进行预测，由于MT8168的CPU由四核Arm-Cortex A53组成，性能较一般手机的A7x系列要弱很多，如下图所示，只有6fps； + +![mt8168_p2v1_tablet_cpu](https://paddlelite-demo.bj.bcebos.com/devices/mediatek/mt8168_p2v1_tablet_cpu.jpg) + + - 点击app界面右下角的设置按钮，在弹出的设置页面点击"Choose pre-installed models"，选择"mobilenet_v1_int8_for_apu"，点击返回按钮后，app将切换到APU模型，如下图所示，帧率提高到14fps。 + +![mt8168_p2v1_tablet_apu](https://paddlelite-demo.bj.bcebos.com/devices/mediatek/mt8168_p2v1_tablet_apu.jpg) + + +### 更新模型 + +- 通过Paddle Fluid训练，或X2Paddle转换得到MobileNetv1 foat32模型[mobilenet_v1_fp32_224_fluid](https://paddlelite-demo.bj.bcebos.com/models/mobilenet_v1_fp32_224_fluid.tar.gz)； +- 参考[模型量化-有校准数据训练后量化](../user_guides/post_quant_with_data)使用PaddleSlim对float32模型进行量化（注意：由于MTK APU只支持量化OP，在启动量化脚本时请注意相关参数的设置），最终得到全量化MobileNetV1模型[mobilenet_v1_int8_224_fluid](https://paddlelite-demo.bj.bcebos.com/devices/mediatek/mobilenet_v1_int8_224_fluid.tar.gz)； +- 参考[模型转化方法](../user_guides/model_optimize_tool)，利用opt工具转换生成MTK APU模型，仅需要将valid_targets设置为apu,arm即可。 +```shell +$ ./opt --model_dir=mobilenet_v1_int8_224_fluid \ + --optimize_out_type=naive_buffer \ + --optimize_out=mobilenet_v1_int8_224_for_apu \ + --valid_targets=apu,arm +``` +- 注意：opt生成的模型只是标记了MTK APU支持的Paddle算子，并没有真正生成MTK APU模型，只有在执行时才会将标记的Paddle算子转成MTK Neuron adapter API调用实现组网，最终生成并执行模型。 + +### 更新支持RK NPU的Paddle Lite库 + +- 下载PaddleLite源码和APU DDK； +```shell +$ git clone https://github.com/PaddlePaddle/Paddle-Lite.git +$ cd Paddle-Lite +$ git checkout +$ wget https://paddlelite-demo.bj.bcebos.com/devices/mediatek/apu_ddk.tar.gz +$ tar -xvf apu_ddk.tar.gz +``` +- 编译full_publish and tiny_publish for MT8168-P2V1 Tablet +```shell +$ ./lite/tools/build.sh --arm_os=android --arm_abi=armv8 --arm_lang=gcc --android_stl=c++_shared --build_extra=ON --with_log=ON --build_apu=ON --apu_ddk_root=./apu_ddk full_publish +$ ./lite/tools/build.sh --arm_os=android --arm_abi=armv8 --arm_lang=gcc --android_stl=c++_shared --build_extra=ON --with_log=ON --build_apu=ON --apu_ddk_root=./apu_ddk tiny_publish +``` +- 将编译生成的build.lite.android.armv8.gcc/inference_lite_lib.android.armv8.apu/cxx/include替换PaddleLite-android-demo/libs/PaddleLite/arm64-v8a/include目录； +- 将编译生成的build.lite.android.armv8.gcc/inference_lite_lib.android.armv8.apu/cxx/lib/libpaddle_light_api_shared.so替换PaddleLite-android-demo/libs/PaddleLite/arm64-v8a/lib/libpaddle_light_api_shared.so文件。 + + +## 其它说明 + +- 由于涉及到License的问题，无法提供用于测试的firmware，我们深感抱歉。如果确实对此非常感兴趣，可以参照之前提到的联系方式，直接联系MTK的销售； +- MTK研发同学正在持续增加用于适配Paddle算子bridge/converter，以便适配更多Paddle模型。 diff --git a/docs/demo_guides/rknpu.md b/docs/demo_guides/rockchip_npu.md similarity index 59% rename from docs/demo_guides/rknpu.md rename to docs/demo_guides/rockchip_npu.md index d1fdb68903..5f87320c3b 100644 --- a/docs/demo_guides/rknpu.md +++ b/docs/demo_guides/rockchip_npu.md @@ -7,12 +7,11 @@ Paddle Lite已支持RK NPU的预测部署。 ### 已支持的芯片 -- RK1808, RK1806 -- RK1126, RK1109 +- RK1808, RK1806，暂时不支持RK3399Pro。 ### 已支持的设备 -- RK1808 EVB，暂时不支持RK3399Pro。 +- RK1808/1806 EVB。 ### 已支持的Paddle模型 @@ -35,7 +34,7 @@ Paddle Lite已支持RK NPU的预测部署。 ## 参考示例演示 -### 测试设备 +### 测试设备(RK1808 EVB) ![rk1808_evb_front](https://paddlelite-demo.bj.bcebos.com/devices/rockchip/rk1808_evb_front.jpg) @@ -58,50 +57,59 @@ Paddle Lite已支持RK NPU的预测部署。 ```shell - PaddleLite-armlinux-demo - image_classification_demo - - images - - tabby_cat.jpg # 测试图片 - - tabby_cat.raw # 已处理成raw数据的测试图片 - - labels - - synset_words.txt # 1000分类label文件 - - models - - mobilenet_v1_int8_224_for_rknpu.nb # 已通过opt转好的mobilenetv1全量化模型 - - CMakeLists.txt # 示例程序CMake脚本 - - build - - image_classification_demo # 已编译好的示例程序 - - image_classification_demo.cc # 示例程序源码 - - convert_to_raw_image.py # 将测试图片保存为raw数据的python脚本 - - build.sh # 示例程序编译脚本 - - run.sh # 示例程序运行脚本 - - Paddle-Lite - - include # PaddleLite头文件 - - libs - - armv8 - - libGAL.so # RK DDK库 - - libOpenVX.so - - libVSC.so - - librknpu_ddk.so - - libgomp.so.1 # gnuomp库 - - libpaddle_light_api_shared.so # 预编译PaddleLite库 + - assets + - images + - tabby_cat.jpg # 测试图片 + - tabby_cat.raw # 已处理成raw数据的测试图片 + - labels + - synset_words.txt # 1000分类label文件 + - models + - mobilenet_v1_int8_224_for_cpu.nb # 已通过opt转好的、适合arm cpu的mobilenetv1量化模型 + - mobilenet_v1_int8_224_for_rknpu.nb # 已通过opt转好的、适合rknpu的mobilenetv1量化模型 + - shell + - CMakeLists.txt # 示例程序CMake脚本 + - build + - image_classification_demo # 已编译好的示例程序 + - image_classification_demo.cc # 示例程序源码 + - convert_to_raw_image.py # 将测试图片保存为raw数据的python脚本 + - build.sh # 示例程序编译脚本 + - run.sh # 示例程序运行脚本 + - libs + - PaddleLite + - arm64 + - include # PaddleLite头文件 + - lib + - libGAL.so # RK DDK库 + - libOpenVX.so + - libVSC.so + - librknpu_ddk.so + - libgomp.so.1 # gnuomp库 + - libpaddle_light_api_shared.so # 预编译PaddleLite库 + - armhf + - include # PaddleLite头文件 + - lib + - libGAL.so + - libOpenVX.so + - libVSC.so + - librknpu_ddk.so + - libgomp.so.1 + - libpaddle_light_api_shared.so ``` -- 进入PaddleLite-armlinux-demo/image_classification_demo，再定频后直接执行./run.sh即可，注意：run.sh的执行不能在docker环境，否则无法找到设备； +- 进入PaddleLite-armlinux-demo/image_classification_demo/shell，直接执行./run.sh arm64即可，注意：run.sh不能在docker环境执行，否则无法找到设备； ```shell -$ cd PaddleLite-armlinux-demo/image_classification_demo -$ adb shell - / # echo userspace > /sys/devices/system/cpu/cpu0/cpufreq/scaling_governor - / # echo 1608000 > /sys/devices/system/cpu/cpu0/cpufreq/scaling_setspeed - / # echo userspace > /sys/devices/system/cpu/cpu1/cpufreq/scaling_governor - / # echo 1608000 > /sys/devices/system/cpu/cpu1/cpufreq/scaling_setspeed -$ ./run.sh +$ cd PaddleLite-armlinux-demo/image_classification_demo/shell +$ ./run.sh arm64 # For RK1808 EVB +$ ./run.sh armhf # For RK1806 EVB ... -warmup: 5 repeat: 10, average: 6.486600 ms, max: 6.544000 ms, min: 6.450000 ms +warmup: 5 repeat: 10, average: 6.499500 ms, max: 6.554000 ms, min: 6.468000 ms results: 3 -Top0 tabby, tabby cat - 0.438732 -Top1 Egyptian cat - 0.438732 -Top2 tiger cat - 0.116995 -Preprocess time: 2.447000 ms -Prediction time: 6.486600 ms -Postprocess time: 0.101000 ms +Top0 Egyptian cat - 0.532328 +Top1 tabby, tabby cat - 0.345136 +Top2 tiger cat - 0.111146 +Preprocess time: 2.414000 ms +Prediction time: 6.499500 ms +Postprocess time: 0.414000 ms ``` - 如果需要更改测试图片，可通过convert_to_raw_image.py工具生成； - 如果需要重新编译示例程序，直接运行./build.sh即可，注意：build.sh的执行必须在docker环境中，否则可能编译出错。 @@ -118,7 +126,7 @@ $ ./opt --model_dir=mobilenet_v1_int8_224_fluid \ --optimize_out=mobilenet_v1_int8_224_for_rknpu \ --valid_targets=rknpu,arm ``` -- 注意：opt生成的模型只是标记了RKNPU支持的Paddle算子，并没有真正生成RK NPU模型，只有在执行时才会将标记的Paddle算子转成RK NPU组网API，最终生成并执行HiAI模型。 +- 注意：opt生成的模型只是标记了RKNPU支持的Paddle算子，并没有真正生成RK NPU模型，只有在执行时才会将标记的Paddle算子转成RK NPU组网API，最终生成并执行模型。 ### 更新支持RK NPU的Paddle Lite库 @@ -129,13 +137,20 @@ $ cd Paddle-Lite $ git checkout $ git clone https://github.com/airockchip/rknpu_ddk.git ``` -- 编译full_publish and tiny_publish for armv8（注意：RKNPU_DDK只支持armv8） +- 编译full_publish and tiny_publish for RK1808 and RK1806 EVB ```shell +For RK1808 EVB $ ./lite/tools/build.sh --arm_os=armlinux --arm_abi=armv8 --arm_lang=gcc --build_extra=ON --with_log=ON --build_rknpu=ON --rknpu_ddk_root=./rknpu_ddk full_publish $ ./lite/tools/build.sh --arm_os=armlinux --arm_abi=armv8 --arm_lang=gcc --build_extra=ON --with_log=ON --build_rknpu=ON --rknpu_ddk_root=./rknpu_ddk tiny_publish + +For RK1806 EVB +$ ./lite/tools/build.sh --arm_os=armlinux --arm_abi=armv7 --arm_lang=gcc --build_extra=ON --with_log=ON --build_rknpu=ON --rknpu_ddk_root=./rknpu_ddk full_publish +$ ./lite/tools/build.sh --arm_os=armlinux --arm_abi=armv7 --arm_lang=gcc --build_extra=ON --with_log=ON --build_rknpu=ON --rknpu_ddk_root=./rknpu_ddk tiny_publish ``` -- 将编译生成的build.lite.armlinux.armv8.gcc/inference_lite_lib.armlinux.armv8.rknpu/cxx/include替换PaddleLite-armlinux-demo/Paddle-Lite/include目录； -- 将编译生成的build.lite.armlinux.armv8.gcc/inference_lite_lib.armlinux.armv8.rknpu/cxx/lib/libpaddle_light_api_shared.so替换PaddleLite-armlinux-demo/Paddle-Lite/libs/armv8/libpaddle_light_api_shared.so文件。 +- 将编译生成的build.lite.armlinux.armv8.gcc/inference_lite_lib.armlinux.armv8.rknpu/cxx/include替换PaddleLite-armlinux-demo/libs/PaddleLite/arm64/include目录； +- 将编译生成的build.lite.armlinux.armv8.gcc/inference_lite_lib.armlinux.armv8.rknpu/cxx/lib/libpaddle_light_api_shared.so替换PaddleLite-armlinux-demo/libs/PaddleLite/arm64/lib/libpaddle_light_api_shared.so文件； +- 将编译生成的build.lite.armlinux.armv7.gcc/inference_lite_lib.armlinux.armv7.rknpu/cxx/include替换PaddleLite-armlinux-demo/libs/PaddleLite/armhf/include目录； +- 将编译生成的build.lite.armlinux.armv7.gcc/inference_lite_lib.armlinux.armv7.rknpu/cxx/lib/libpaddle_light_api_shared.so替换PaddleLite-armlinux-demo/libs/PaddleLite/armhf/lib/libpaddle_light_api_shared.so文件。 ## 其它说明 diff --git a/docs/index.rst b/docs/index.rst index 8d71125bc3..452136e0f0 100644 --- a/docs/index.rst +++ b/docs/index.rst @@ -54,7 +54,8 @@ Welcome to Paddle-Lite's documentation! demo_guides/opencl demo_guides/fpga demo_guides/npu - demo_guides/rknpu + demo_guides/rockchip_npu + demo_guides/mediatek_apu .. toctree:: :maxdepth: 1 -- GitLab