diff --git a/README_ch.md b/README_ch.md index 2ca73fdc5b2c1b1e504cf4ec8eef2d0dcb13deb4..8797222703b0651e9ed7a38609a4f60f1e7442d4 100644 --- a/README_ch.md +++ b/README_ch.md @@ -4,38 +4,29 @@ ## 简介 -飞桨图像识别套件PaddleClas是飞桨为工业界和学术界所准备的一个图像识别和图像分类任务的工具集，助力使用者训练出更好的视觉模型和应用落地。 - -
- -

PULC实用图像分类模型效果展示

-
-  - +飞桨图像识别套件PaddleClas是飞桨为工业界和学术界所准备的一个图像识别和图像分类任务的工具集，助力使用者训练出更好的视觉模型和应用落地。 
-

PP-ShiTu图像识别系统效果展示

+

PP-ShiTuV2图像识别系统效果展示

-## 近期更新 -- 📢将于**6月15-6月17日晚20:30** 进行为期三天的课程直播，详细介绍超轻量图像分类方案，对各场景模型优化原理及使用方式进行拆解，之后还有产业案例全流程实操，对各类痛难点解决方案进行手把手教学，加上现场互动答疑，抓紧扫码上车吧！
- + +

PULC实用图像分类模型效果展示

-- 🔥️ 2022.6.15 发布[PULC超轻量图像分类实用方案](docs/zh_CN/PULC/PULC_train.md)，CPU推理3ms，精度比肩SwinTransformer，覆盖人、车、OCR场景九大常见任务。 -- 2022.5.26 [飞桨产业实践范例直播课](http://aglc.cn/v-c4FAR)，解读**超轻量重点区域人员出入管理方案**。 -- 2022.5.23 新增[人员出入管理范例库](https://aistudio.baidu.com/aistudio/projectdetail/4094475)，具体内容可以在 AI Studio 上体验。 +## 近期更新 +- 🔥️ 发布[PP-ShiTuV2](./docs/zh_CN/PPShiTu/PPShiTuV2_introduction.md)，recall1精度提升10个点，覆盖20+识别场景，新增库管理工具，Android Demo全新体验。 +- 2022.9.4 新增[生鲜产品自主结算范例库](https://aistudio.baidu.com/aistudio/projectdetail/4486158)，具体内容可以在AI Studio上体验。 +- 2022.6.15 发布[PULC超轻量图像分类实用方案](docs/zh_CN/PULC/PULC_train.md)，CPU推理3ms，精度比肩SwinTransformer，覆盖人、车、OCR场景九大常见任务。 +- 2022.5.23 新增[人员出入管理范例库](https://aistudio.baidu.com/aistudio/projectdetail/4094475)，具体内容可以在 AI Studio 上体验。 - 2022.5.20 上线[PP-HGNet](./docs/zh_CN/models/PP-HGNet.md), [PP-LCNetv2](./docs/zh_CN/models/PP-LCNetV2.md)。 - -- 2022.4.21 新增 CVPR2022 oral论文 [MixFormer](https://arxiv.org/pdf/2204.02557.pdf) 相关[代码](https://github.com/PaddlePaddle/PaddleClas/pull/1820/files)。 - - [more](./docs/zh_CN/others/update_history.md) ## 特性 @@ -47,21 +38,40 @@ PaddleClas发布了[PP-HGNet](docs/zh_CN/models/PP-HGNet.md)、[PP-LCNetv2](docs ## 欢迎加入技术交流群 -* 您可以扫描下面的微信/QQ二维码（添加小助手微信并回复“C”），加入PaddleClas微信交流群，获得更高效的问题答疑，与各行各业开发者充分交流，期待您的加入。 +* 欢迎加入PaddleClas 微信用户群（扫码填写问卷即可入群）
- - +
+ ## 快速体验 PULC超轻量图像分类方案快速体验：[点击这里](docs/zh_CN/PULC/PULC_quickstart.md) PP-ShiTu图像识别快速体验：[点击这里](./docs/zh_CN/quick_start/quick_start_recognition.md) +
+ +

PP-ShiTuV2 Android Demo

+
+ ## 文档教程 - [环境准备](docs/zh_CN/installation/install_paddleclas.md) +- [PP-ShiTuV2图像识别系统介绍](./docs/zh_CN/PPShiTu/PPShiTuV2_introduction.md) + - [图像识别快速体验](docs/zh_CN/quick_start/quick_start_recognition.md) + - 模块介绍 + - [主体检测](./docs/zh_CN/image_recognition_pipeline/mainbody_detection.md) + - [特征提取模型](./docs/zh_CN/image_recognition_pipeline/feature_extraction.md) + - [向量检索](./docs/zh_CN/image_recognition_pipeline/vector_search.md) + - [哈希编码](docs/zh_CN/image_recognition_pipeline/) + - [模型训练](docs/zh_CN/models_training/recognition.md) + - 推理部署 + - [基于python预测引擎推理](docs/zh_CN/inference_deployment/python_deploy.md#2) + - [基于C++预测引擎推理](deploy/cpp_shitu/readme.md) + - [服务化部署](docs/zh_CN/inference_deployment/recognition_serving_deploy.md) + - [端侧部署](docs/zh_CN/inference_deployment/lite_shitu.md) + - [库管理工具](docs/zh_CN/inference_deployment/shitu_gallery_manager.md) - [PULC超轻量图像分类实用方案](docs/zh_CN/PULC/PULC_train.md) - [超轻量图像分类快速体验](docs/zh_CN/PULC/PULC_quickstart.md) - [超轻量图像分类模型库](docs/zh_CN/PULC/PULC_model_list.md) @@ -82,19 +92,6 @@ PP-ShiTu图像识别快速体验：[点击这里](./docs/zh_CN/quick_start/quick - [端侧部署](docs/zh_CN/inference_deployment/paddle_lite_deploy.md) - [Paddle2ONNX模型转化与预测](deploy/paddle2onnx/readme.md) - [模型压缩](deploy/slim/README.md) -- [PP-ShiTu图像识别系统介绍](#图像识别系统介绍) - - [图像识别快速体验](docs/zh_CN/quick_start/quick_start_recognition.md) - - 模块介绍 - - [主体检测](./docs/zh_CN/image_recognition_pipeline/mainbody_detection.md) - - [特征提取模型](./docs/zh_CN/image_recognition_pipeline/feature_extraction.md) - - [向量检索](./docs/zh_CN/image_recognition_pipeline/vector_search.md) - - [哈希编码](docs/zh_CN/image_recognition_pipeline/) - - [模型训练](docs/zh_CN/models_training/recognition.md) - - 推理部署 - - [基于python预测引擎推理](docs/zh_CN/inference_deployment/python_deploy.md#2) - - [基于C++预测引擎推理](deploy/cpp_shitu/readme.md) - - [服务化部署](docs/zh_CN/inference_deployment/recognition_serving_deploy.md) - - [端侧部署](deploy/lite_shitu/README.md) - PP系列骨干网络模型 - [PP-HGNet](docs/zh_CN/models/PP-HGNet.md) - [PP-LCNetv2](docs/zh_CN/models/PP-LCNetV2.md) @@ -117,59 +114,75 @@ PP-ShiTu图像识别快速体验：[点击这里](./docs/zh_CN/quick_start/quick - [许可证书](#许可证书) - [贡献代码](#贡献代码) - - -## PULC超轻量图像分类方案 -
- -
-PULC融合了骨干网络、数据增广、蒸馏等多种前沿算法，可以自动训练得到轻量且高精度的图像分类模型。 -PaddleClas提供了覆盖人、车、OCR场景九大常见任务的分类模型，CPU推理3ms，精度比肩SwinTransformer。 - + ## PP-ShiTu图像识别系统
-PP-ShiTu是一个实用的轻量级通用图像识别系统，主要由主体检测、特征学习和向量检索三个模块组成。该系统从骨干网络选择和调整、损失函数的选择、数据增强、学习率变换策略、正则化参数选择、预训练模型使用以及模型裁剪量化8个方面，采用多种策略，对各个模块的模型进行优化，最终得到在CPU上仅0.2s即可完成10w+库的图像识别的系统。更多细节请参考[PP-ShiTu技术方案](https://arxiv.org/pdf/2111.00775.pdf)。 - -## PULC实用图像分类模型效果展示 -
- -
+PP-ShiTu是一个实用的轻量级通用图像识别系统，主要由主体检测、特征学习和向量检索三个模块组成。该系统从骨干网络选择和调整、损失函数的选择、数据增强、学习率变换策略、正则化参数选择、预训练模型使用以及模型裁剪量化8个方面，采用多种策略，对各个模块的模型进行优化，最终得到在CPU上仅0.2s即可完成10w+库的图像识别的系统。更多细节请参考[PP-ShiTu技术方案](https://arxiv.org/pdf/2111.00775.pdf)。 + ## PP-ShiTu图像识别系统效果展示 + - 瓶装饮料识别 +
+ - 商品识别 +
+ - 动漫人物识别 +
+ - logo识别 +
+ - 车辆识别 +
+ + + +## PULC超轻量图像分类方案 +
+ +
+PULC融合了骨干网络、数据增广、蒸馏等多种前沿算法，可以自动训练得到轻量且高精度的图像分类模型。 +PaddleClas提供了覆盖人、车、OCR场景九大常见任务的分类模型，CPU推理3ms，精度比肩SwinTransformer。 + + + +## PULC实用图像分类模型效果展示 +
+ +
+ + ## 许可证书 diff --git a/deploy/lite_shitu/README.md b/deploy/lite_shitu/README.md deleted file mode 100644 index 02b491977ca76e32362483222fecb8b5a2909d2b..0000000000000000000000000000000000000000 --- a/deploy/lite_shitu/README.md +++ /dev/null @@ -1,359 +0,0 @@ -# PP-ShiTu在Paddle-Lite端侧部署 - -本教程将介绍基于[Paddle Lite](https://github.com/PaddlePaddle/Paddle-Lite) 在移动端部署PaddleClas PP-ShiTu模型的详细步骤。 - -Paddle Lite是飞桨轻量化推理引擎，为手机、IoT端提供高效推理能力，并广泛整合跨平台硬件，为端侧部署及应用落地问题提供轻量化的部署方案。 - -## 1. 准备环境 - -### 运行准备 -- 电脑（编译Paddle Lite） -- 安卓手机（armv7或armv8） - -### 1.1 准备交叉编译环境 -交叉编译环境用于编译 Paddle Lite 和 PaddleClas 的PP-ShiTu Lite demo。 -支持多种开发环境，不同开发环境的编译流程请参考对应文档，请确保安装完成Java jdk、Android NDK(R17以上)。 - -1. [Docker](https://paddle-lite.readthedocs.io/zh/latest/source_compile/compile_env.html#docker) -2. [Linux](https://paddle-lite.readthedocs.io/zh/latest/source_compile/compile_env.html#linux) -3. [MAC OS](https://paddle-lite.readthedocs.io/zh/latest/source_compile/compile_env.html#mac-os) - -```shell -# 配置完成交叉编译环境后，更新环境变量 -# for docker、Linux -source ~/.bashrc -# for Mac OS -source ~/.bash_profile -``` - -### 1.2 准备预测库 - -预测库有两种获取方式： -1. [**建议**]直接下载，预测库下载链接如下： - |平台| 架构 | 预测库下载链接| - |-|-|-| - |Android| arm7 | [inference_lite_lib](https://github.com/PaddlePaddle/Paddle-Lite/releases/download/v2.10-rc/inference_lite_lib.android.armv7.clang.c++_static.with_extra.with_cv.tar.gz) | - | Android | arm8 | [inference_lite_lib](https://github.com/PaddlePaddle/Paddle-Lite/releases/download/v2.10-rc/inference_lite_lib.android.armv8.clang.c++_static.with_extra.with_cv.tar.gz) | - | Android | arm8(FP16) | [inference_lite_lib](https://github.com/PaddlePaddle/Paddle-Lite/releases/download/v2.10-rc/inference_lite_lib.android.armv8_clang_c++_static_with_extra_with_cv_with_fp16.tiny_publish_427e46.zip) | - -**注意**：1. 如果是从 Paddle-Lite [官方文档](https://paddle-lite.readthedocs.io/zh/latest/quick_start/release_lib.html#android-toolchain-gcc)下载的预测库，注意选择`with_extra=ON，with_cv=ON`的下载链接。2. 目前只提供Android端demo，IOS端demo可以参考[Paddle-Lite IOS demo](https://github.com/PaddlePaddle/Paddle-Lite-Demo/tree/master/PaddleLite-ios-demo) - - -2. 编译Paddle-Lite得到预测库，Paddle-Lite的编译方式如下： -```shell -git clone https://github.com/PaddlePaddle/Paddle-Lite.git -cd Paddle-Lite -# 如果使用编译方式，建议使用develop分支编译预测库 -git checkout develop -# FP32 -./lite/tools/build_android.sh --arch=armv8 --toolchain=clang --with_cv=ON --with_extra=ON -# FP16 -./lite/tools/build_android.sh --arch=armv8 --toolchain=clang --with_cv=ON --with_extra=ON --with_arm82_fp16=ON -``` - -**注意**：编译Paddle-Lite获得预测库时，需要打开`--with_cv=ON --with_extra=ON`两个选项，`--arch`表示`arm`版本，这里指定为armv8，更多编译命令介绍请参考[链接](https://paddle-lite.readthedocs.io/zh/latest/source_compile/compile_andriod.html#id2)。 - -直接下载预测库并解压后，可以得到`inference_lite_lib.android.armv8.clang.c++_static.with_extra.with_cv/`文件夹，通过编译Paddle-Lite得到的预测库位于`Paddle-Lite/build.lite.android.armv8.gcc/inference_lite_lib.android.armv8/`文件夹下。 -预测库的文件目录如下： - -``` -inference_lite_lib.android.armv8/ -|-- cxx C++ 预测库和头文件 -| |-- include C++ 头文件 -| | |-- paddle_api.h -| | |-- paddle_image_preprocess.h -| | |-- paddle_lite_factory_helper.h -| | |-- paddle_place.h -| | |-- paddle_use_kernels.h -| | |-- paddle_use_ops.h -| | `-- paddle_use_passes.h -| `-- lib C++预测库 -| |-- libpaddle_api_light_bundled.a C++静态库 -| `-- libpaddle_light_api_shared.so C++动态库 -|-- java Java预测库 -| |-- jar -| | `-- PaddlePredictor.jar -| |-- so -| | `-- libpaddle_lite_jni.so -| `-- src -|-- demo C++和Java示例代码 -| |-- cxx C++ 预测库demo -| `-- java Java 预测库demo -``` - -## 2 模型准备 - -### 2.1 模型准备 - -PaddleClas 提供了转换并优化后的推理模型，可以直接参考下方 2.1.1 小节进行下载。如果需要使用其他模型，请参考后续 2.1.2 小节自行转换并优化模型。 - -#### 2.1.1 使用PaddleClas提供的推理模型 - -```shell -# 进入lite_ppshitu目录 -cd $PaddleClas/deploy/lite_shitu -wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/lite/ppshitu_lite_models_v1.2.tar -tar -xf ppshitu_lite_models_v1.2.tar -rm -f ppshitu_lite_models_v1.2.tar -``` - -#### 2.1.2 使用其他模型 - -Paddle-Lite 提供了多种策略来自动优化原始的模型，其中包括量化、子图融合、混合调度、Kernel优选等方法，使用Paddle-Lite的`opt`工具可以自动对inference模型进行优化，目前支持两种优化方式，优化后的模型更轻量，模型运行速度更快。 - -**注意**：如果已经准备好了 `.nb` 结尾的模型文件，可以跳过此步骤。 - -##### 2.1.2.1 安装paddle_lite_opt工具 - -安装`paddle_lite_opt`工具有如下两种方法： - -1. [**建议**]pip安装paddlelite并进行转换 - ```shell - pip install paddlelite==2.10rc - ``` - -2. 源码编译Paddle-Lite生成`paddle_lite_opt`工具 - - 模型优化需要Paddle-Lite的`opt`可执行文件，可以通过编译Paddle-Lite源码获得，编译步骤如下： - ```shell - # 如果准备环境时已经clone了Paddle-Lite，则不用重新clone Paddle-Lite - git clone https://github.com/PaddlePaddle/Paddle-Lite.git - cd Paddle-Lite - git checkout develop - # 启动编译 - ./lite/tools/build.sh build_optimize_tool - ``` - - 编译完成后，`opt`文件位于`build.opt/lite/api/`下，可通过如下方式查看`opt`的运行选项和使用方式； - ```shell - cd build.opt/lite/api/ - ./opt - ``` - - `opt`的使用方式与参数与上面的`paddle_lite_opt`完全一致。 - -之后使用`paddle_lite_opt`工具可以进行inference模型的转换。`paddle_lite_opt`的部分参数如下： - -|选项|说明| -|-|-| -|--model_file|待优化的PaddlePaddle模型（combined形式）的网络结构文件路径| -|--param_file|待优化的PaddlePaddle模型（combined形式）的权重文件路径| -|--optimize_out_type|输出模型类型，目前支持两种类型：protobuf和naive_buffer，其中naive_buffer是一种更轻量级的序列化/反序列化实现，默认为naive_buffer| -|--optimize_out|优化模型的输出路径| -|--valid_targets|指定模型可执行的backend，默认为arm。目前可支持x86、arm、opencl、npu、xpu，可以同时指定多个backend(以空格分隔)，Model Optimize Tool将会自动选择最佳方式。如果需要支持华为NPU（Kirin 810/990 Soc搭载的达芬奇架构NPU），应当设置为npu, arm| - -更详细的`paddle_lite_opt`工具使用说明请参考[使用opt转化模型文档](https://paddle-lite.readthedocs.io/zh/latest/user_guides/opt/opt_bin.html) - -`--model_file`表示inference模型的model文件地址，`--param_file`表示inference模型的param文件地址；`optimize_out`用于指定输出文件的名称（不需要添加`.nb`的后缀）。直接在命令行中运行`paddle_lite_opt`，也可以查看所有参数及其说明。 - - -##### 2.1.2.2 转换示例 - -下面介绍使用`paddle_lite_opt`完成主体检测模型和识别模型的预训练模型，转成inference模型，最终转换成Paddle-Lite的优化模型的过程。 - -1. 转换主体检测模型 - -```shell -# 当前目录为 $PaddleClas/deploy/lite_shitu -# $code_path需替换成相应的运行目录,可以根据需要，将$code_path设置成需要的目录 -export code_path=~ -cd $code_path -git clone https://github.com/PaddlePaddle/PaddleDetection.git -# 进入PaddleDetection根目录 -cd PaddleDetection -# 将预训练模型导出为inference模型 -python tools/export_model.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml -o weights=https://paddledet.bj.bcebos.com/models/picodet_lcnet_x2_5_640_mainbody.pdparams export_post_process=False --output_dir=inference -# 将inference模型转化为Paddle-Lite优化模型 -paddle_lite_opt --model_file=inference/picodet_lcnet_x2_5_640_mainbody/model.pdmodel --param_file=inference/picodet_lcnet_x2_5_640_mainbody/model.pdiparams --optimize_out=inference/picodet_lcnet_x2_5_640_mainbody/mainbody_det -# 将转好的模型复制到lite_shitu目录下 -cd $PaddleClas/deploy/lite_shitu -mkdir models -cp $code_path/PaddleDetection/inference/picodet_lcnet_x2_5_640_mainbody/mainbody_det.nb $PaddleClas/deploy/lite_shitu/models -``` - -2. 转换识别模型 - -```shell -# 识别模型下载 -wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/general_PPLCNet_x2_5_lite_v1.0_infer.tar -# 解压模型 -tar -xf general_PPLCNet_x2_5_lite_v1.0_infer.tar -# 转换为Paddle-Lite模型 -paddle_lite_opt --model_file=general_PPLCNet_x2_5_lite_v1.0_infer/inference.pdmodel --param_file=general_PPLCNet_x2_5_lite_v1.0_infer/inference.pdiparams --optimize_out=general_PPLCNet_x2_5_lite_v1.0_infer/rec -# 将模型文件拷贝到lite_shitu下 -cp general_PPLCNet_x2_5_lite_v1.0_infer/rec.nb deploy/lite_shitu/models/ -``` - -**注意**：`--optimize_out` 参数为优化后模型的保存路径，无需加后缀`.nb`；`--model_file` 参数为模型结构信息文件的路径，`--param_file` 参数为模型权重信息文件的路径，请注意文件名。 - -### 2.2 生成新的检索库 - -由于lite 版本的检索库用的是`faiss1.5.3`版本，与新版本不兼容，因此需要重新生成index库 - -#### 2.2.1 数据及环境配置 - -```shell -# 进入PaddleClas根目录 -cd $PaddleClas -# 安装PaddleClas -python setup.py install -cd deploy -# 下载瓶装饮料数据集 -wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/data/drink_dataset_v1.0.tar && tar -xf drink_dataset_v1.0.tar -rm -rf drink_dataset_v1.0.tar -rm -rf drink_dataset_v1.0/index - -# 安装1.5.3版本的faiss -pip install faiss-cpu==1.5.3 - -# 下载通用识别模型，可替换成自己的inference model -wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/general_PPLCNet_x2_5_lite_v1.0_infer.tar -tar -xf general_PPLCNet_x2_5_lite_v1.0_infer.tar -rm -rf general_PPLCNet_x2_5_lite_v1.0_infer.tar -``` - -#### 2.2.2 生成新的index文件 - -```shell -# 生成新的index库，注意指定好识别模型的路径，同时将index_mothod修改成Flat，HNSW32和IVF在此版本中可能存在bug，请慎重使用。 -# 如果使用自己的识别模型，对应的修改inference model的目录 -python python/build_gallery.py -c configs/inference_drink.yaml -o Global.rec_inference_model_dir=general_PPLCNet_x2_5_lite_v1.0_infer -o IndexProcess.index_method=Flat - -# 进入到lite_shitu目录 -cd lite_shitu -mv ../drink_dataset_v1.0 . -``` - -### 2.3 将yaml文件转换成json文件 - -```shell -# 如果测试单张图像 -python generate_json_config.py --det_model_path ppshitu_lite_models_v1.2/mainbody_PPLCNet_x2_5_640_v1.2_lite.nb --rec_model_path ppshitu_lite_models_v1.2/general_PPLCNet_x2_5_lite_v1.2_infer.nb --img_path images/demo.jpeg -# or -# 如果测试多张图像 -python generate_json_config.py --det_model_path ppshitu_lite_models_v1.2/mainbody_PPLCNet_x2_5_640_v1.2_lite.nb --rec_model_path ppshitu_lite_models_v1.2/general_PPLCNet_x2_5_lite_v1.2_infer.nb --img_dir images -# 执行完成后，会在lit_shitu下生成shitu_config.json配置文件 -``` - -### 2.4 index字典转换 -由于python的检索库字典，使用`pickle`进行的序列化存储，导致C++不方便读取，因此需要进行转换 - -```shell - -# 转化id_map.pkl为id_map.txt -python transform_id_map.py -c ../configs/inference_drink.yaml -``` -转换成功后，会在`IndexProcess.index_dir`目录下生成`id_map.txt`。 - - -### 2.5 与手机联调 - -首先需要进行一些准备工作。 -1. 准备一台arm8的安卓手机，如果编译的预测库是armv7，则需要arm7的手机，并修改Makefile中`ARM_ABI=arm7`。 -2. 电脑上安装ADB工具，用于调试。 ADB安装方式如下： - - 2.1. MAC电脑安装ADB: - - ```shell - brew cask install android-platform-tools - ``` - 2.2. Linux安装ADB - ```shell - sudo apt update - sudo apt install -y wget adb - ``` - 2.3. Window安装ADB - - win上安装需要去谷歌的安卓平台下载ADB软件包进行安装：[链接](https://developer.android.com/studio) - -3. 手机连接电脑后，开启手机`USB调试`选项，选择`文件传输`模式，在电脑终端中输入： - -```shell -adb devices -``` -如果有device输出，则表示安装成功，如下所示： -``` -List of devices attached -744be294 device -``` - -4. 编译lite部署代码生成移动端可执行文件 - -```shell -cd $PaddleClas/deploy/lite_shitu -# ${lite prediction library path}下载的Paddle-Lite库路径 -inference_lite_path=${lite prediction library path}/inference_lite_lib.android.armv8.gcc.c++_static.with_extra.with_cv/ -mkdir $inference_lite_path/demo/cxx/ppshitu_lite - -cp -r * $inference_lite_path/demo/cxx/ppshitu_lite -cd $inference_lite_path/demo/cxx/ppshitu_lite - -# 执行编译，等待完成后得到可执行文件main -make ARM_ABI=arm8 -#如果是arm7，则执行 make ARM_ABI = arm7 (或者在Makefile中修改该项) -``` - -5. 准备优化后的模型、预测库文件、测试图像。 - -```shell -mkdir deploy -mv ppshitu_lite_models_v1.1 deploy/ -mv drink_dataset_v1.0 deploy/ -mv images deploy/ -mv shitu_config.json deploy/ -cp pp_shitu deploy/ - -# 将C++预测动态库so文件复制到deploy文件夹中 -cp ../../../cxx/lib/libpaddle_light_api_shared.so deploy/ -``` - -执行完成后，deploy文件夹下将有如下文件格式： - -```shell -deploy/ -|-- ppshitu_lite_models_v1.1/ -| |--mainbody_PPLCNet_x2_5_640_quant_v1.1_lite.nb 优化后的主体检测模型文件 -| |--general_PPLCNet_x2_5_lite_v1.1_infer.nb 优化后的识别模型文件 -|-- images/ -| |--demo.jpg 图片文件 -|-- drink_dataset_v1.0/ 瓶装饮料demo数据 -| |--index 检索index目录 -|-- pp_shitu 生成的移动端执行文件 -|-- shitu_config.json 执行时参数配置文件 -|-- libpaddle_light_api_shared.so Paddle-Lite库文件 -``` - -**注意：** -* `shitu_config.json` 包含了目标检测的超参数，请按需进行修改 - -6. 启动调试，上述步骤完成后就可以使用ADB将文件夹 `deploy/` push到手机上运行，步骤如下： - -```shell -# 将上述deploy文件夹push到手机上 -adb push deploy /data/local/tmp/ - -adb shell -cd /data/local/tmp/deploy -export LD_LIBRARY_PATH=/data/local/tmp/deploy:$LD_LIBRARY_PATH - -# 修改权限为可执行 -chmod 777 pp_shitu -# 执行程序 -./pp_shitu shitu_config.json -``` - -如果对代码做了修改，则需要重新编译并push到手机上。 - -运行效果如下： -``` -images/demo.jpeg: - result0: bbox[344, 98, 527, 593], score: 0.811656, label: 红牛-强化型 - result1: bbox[0, 0, 600, 600], score: 0.729664, label: 红牛-强化型 -``` - -## FAQ -Q1：如果想更换模型怎么办，需要重新按照流程走一遍吗？ -A1：如果已经走通了上述步骤，更换模型只需要替换 `.nb` 模型文件即可，同时要注意修改下配置文件中的 `.nb` 文件路径以及类别映射文件（如有必要）。 - -Q2：换一个图测试怎么做？ -A2：替换 deploy 下的测试图像为你想要测试的图像，并重新生成json配置文件（或者直接修改图像路径），使用 ADB 再次 push 到手机上即可。 diff --git a/deploy/lite_shitu/README.md b/deploy/lite_shitu/README.md new file mode 120000 index 0000000000000000000000000000000000000000..862cca14887f2a4c49f653f468081f8da500891e --- /dev/null +++ b/deploy/lite_shitu/README.md @@ -0,0 +1 @@ +../../docs/zh_CN/inference_deployment/lite_shitu.md \ No newline at end of file diff --git a/docs/images/det/PaddleDetection_config.png b/docs/images/det/PaddleDetection_config.png index d18932b66cc148b7796fe4b319ad9eb82c2a2868..53248227535c9089ca1f70fbba0d69f224fd8a54 100644 Binary files a/docs/images/det/PaddleDetection_config.png and b/docs/images/det/PaddleDetection_config.png differ diff --git a/docs/images/quick_start/android_demo/PPShiTu_qcode.png b/docs/images/quick_start/android_demo/PPShiTu_qrcode.png similarity index 100% rename from docs/images/quick_start/android_demo/PPShiTu_qcode.png rename to docs/images/quick_start/android_demo/PPShiTu_qrcode.png diff --git a/docs/images/shitu_index_manager/creat_images.png b/docs/images/shitu_index_manager/creat_images.png new file mode 100644 index 0000000000000000000000000000000000000000..8a2d7914c754b4b9d810ed3ac094bbae57dc0758 Binary files /dev/null and b/docs/images/shitu_index_manager/creat_images.png differ diff --git a/docs/images/shitu_index_manager/image_operation.png b/docs/images/shitu_index_manager/image_operation.png new file mode 100644 index 0000000000000000000000000000000000000000..86457fe5e439d793cd7920a746e9500f758f9bf5 Binary files /dev/null and b/docs/images/shitu_index_manager/image_operation.png differ diff --git a/docs/images/shitu_index_manager/main_page.png b/docs/images/shitu_index_manager/main_page.png new file mode 100644 index 0000000000000000000000000000000000000000..2b69ca7f4efb12ff1724a2a2598a8b7f8b0ca241 Binary files /dev/null and b/docs/images/shitu_index_manager/main_page.png differ diff --git a/docs/images/shitu_index_manager/menu.png b/docs/images/shitu_index_manager/menu.png new file mode 100644 index 0000000000000000000000000000000000000000..90dd4c709a85b76f3f284069c04ff74d1ed25720 Binary files /dev/null and b/docs/images/shitu_index_manager/menu.png differ diff --git a/docs/zh_CN/image_recognition_pipeline/mainbody_detection.md b/docs/zh_CN/image_recognition_pipeline/mainbody_detection.md index 828fdf4f1f017d524aa9ebea1f1a409dee0eaf43..c2c6d884fe560ecb1231a7caf8ff43a875de890f 100644 --- a/docs/zh_CN/image_recognition_pipeline/mainbody_detection.md +++ b/docs/zh_CN/image_recognition_pipeline/mainbody_detection.md @@ -12,7 +12,6 @@ - [1. 数据集](#1) - [2. 模型选择](#2) - [2.1 轻量级主体检测模型](#2.1) - - [2.2 服务端主体检测模型](#2.2) - [3. 模型训练](#3) - [3.1 环境准备](#3.1) - [3.2 数据准备](#3.2) @@ -45,14 +44,13 @@ ## 2. 模型选择 -目标检测方法种类繁多，比较常用的有两阶段检测器（如 FasterRCNN 系列等）；单阶段检测器（如 YOLO、SSD 等）；anchor-free 检测器（如 PicoDet、FCOS 等）。PaddleDetection 中针对服务端使用场景，自研了 PP-YOLO 系列模型；针对端侧（CPU 和移动端等）使用场景，自研了 PicoDet 系列模型，在服务端和端侧均处于业界较为领先的水平。 +目标检测方法种类繁多，比较常用的有两阶段检测器（如 FasterRCNN 系列等）；单阶段检测器（如 YOLO、SSD 等）；anchor-free 检测器（如 PicoDet、FCOS 等）。在主体检测中，我们使用[PicoDet](https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.5/configs/picodet)系列模型，其在CPU端与移动端，速度较快、精度较好，处于较为领先的业界水平。 -基于上述研究，PaddleClas 中提供了 2 个通用主体检测模型，为轻量级与服务端主体检测模型，分别适用于端侧场景以及服务端场景。下面的表格中给出了在上述 5 个数据集上的平均 mAP 以及它们的模型大小、预测速度对比信息。 +基于上述研究，PaddleClas 中提供了 1 个通用主体检测模型，既轻量级主体检测模型，分别适用于端侧场景以及服务端场景。下面的表格中给出了在上述 5 个数据集上的平均 mAP 以及它们的模型大小、预测速度对比信息。 -| 模型 | 模型结构 | 预训练模型下载地址 | inference 模型下载地址 | mAP | inference 模型大小(MB) | 单张图片预测耗时(不包含预处理)(ms) | -| ------------------ | --------- | ------------------------------------------------------------ | ------------------------------------------------------------ | ----- | ---------------------- | ---------------------------------- | -| 轻量级主体检测模型 | PicoDet | [地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/pretrain/picodet_PPLCNet_x2_5_mainbody_lite_v1.0_pretrained.pdparams) | [tar 格式文件地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/picodet_PPLCNet_x2_5_mainbody_lite_v1.0_infer.tar) [zip 格式文件地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/picodet_PPLCNet_x2_5_mainbody_lite_v1.0_infer.zip) | 40.1% | 30.1 | 29.8 | -| 服务端主体检测模型 | PP-YOLOv2 | [地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/pretrain/ppyolov2_r50vd_dcn_mainbody_v1.0_pretrained.pdparams) | [tar 格式文件地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/ppyolov2_r50vd_dcn_mainbody_v1.0_infer.tar) [zip 格式文件地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/ppyolov2_r50vd_dcn_mainbody_v1.0_infer.zip) | 42.5% | 210.5 | 466.6 | +| 模型 | 模型结构 | 预训练模型下载地址 | inference 模型下载地址 | mAP | inference 模型大小(MB) | +| ------------------ | -------- | ------------------------------------------------------------ | ------------------------------------------------------------ | ----- | ---------------------- | +| 轻量级主体检测模型 | PicoDet | [地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/pretrain/picodet_PPLCNet_x2_5_mainbody_lite_v1.0_pretrained.pdparams) | [tar 格式文件地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/picodet_PPLCNet_x2_5_mainbody_lite_v1.0_infer.tar) [zip 格式文件地址](https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/picodet_PPLCNet_x2_5_mainbody_lite_v1.0_infer.zip) | 41.5% | 30.1 | * 注意 * 由于部分解压缩软件在解压上述 `tar` 格式文件时存在问题，建议非命令行用户下载 `zip` 格式文件并解压。`tar` 格式文件建议使用命令 `tar xf xxx.tar` 解压。 @@ -65,37 +63,16 @@ PicoDet 由 [PaddleDetection](https://github.com/PaddlePaddle/PaddleDetection) 提出，是一个适用于 CPU 或者移动端场景的目标检测算法。具体地，它融合了下面一系列优化算法。 -- [ATSS](https://arxiv.org/abs/1912.02424) -- [Generalized Focal Loss](https://arxiv.org/abs/2006.04388) +- [VFL](https://arxiv.org/abs/2008.13367) + [GFL](https://arxiv.org/abs/2006.04388) +- 新的PAN Neck结构 - 余弦学习率策略 - Cycle-EMA -- 轻量级检测 head +- [ATSS](https://arxiv.org/abs/1912.02424)及[SimOTA](https://arxiv.org/abs/2107.08430) 标签分配策略 -更多关于 PicoDet 的优化细节与 benchmark 可以参考 [PicoDet 系列模型介绍](https://github.com/PaddlePaddle/PaddleDetection/blob/develop/configs/picodet/README.md)。 +更多关于 PicoDet 的优化细节与 benchmark 可以参考 [PicoDet 系列模型介绍](https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.5/configs/picodet)。 -在轻量级主体检测任务中，为了更好地兼顾检测速度与效果，我们使用 PPLCNet_x2_5 作为主体检测模型的骨干网络，同时将训练与预测的图像尺度修改为了 640x640，其余配置与 [picodet_lcnet_1_5x_416_coco.yml](https://github.com/PaddlePaddle/PaddleDetection/blob/develop/configs/picodet/more_config/picodet_lcnet_1_5x_416_coco.yml) 完全一致。将数据集更换为自定义的主体检测数据集，进行训练，最终得到检测模型。 - - - -### 2.2 服务端主体检测模型 - -PP-YOLO 由 [PaddleDetection](https://github.com/PaddlePaddle/PaddleDetection) 提出，从骨干网络、数据增广、正则化策略、损失函数、后处理等多个角度对 yolov3 模型进行深度优化，最终在“速度-精度”方面达到了业界领先的水平。具体地，优化的策略如下。 - -- 更优的骨干网络: ResNet50vd-DCN -- 更大的训练 batch size: 8 GPUs，每 GPU batch_size=24，对应调整学习率和迭代轮数 -- [Drop Block](https://arxiv.org/abs/1810.12890) -- [Exponential Moving Average](https://www.investopedia.com/terms/e/ema.asp) -- [IoU Loss](https://arxiv.org/pdf/1902.09630.pdf) -- [Grid Sensitive](https://arxiv.org/abs/2004.10934) -- [Matrix NMS](https://arxiv.org/pdf/2003.10152.pdf) -- [CoordConv](https://arxiv.org/abs/1807.03247) -- [Spatial Pyramid Pooling](https://arxiv.org/abs/1406.4729) -- 更优的预训练模型 - -更多关于 PP-YOLO 的详细介绍可以参考：[PP-YOLO 模型](https://github.com/PaddlePaddle/PaddleDetection/blob/release%2F2.1/configs/ppyolo/README_cn.md)。 - -在服务端主体检测任务中，为了保证检测效果，我们使用 ResNet50vd-DCN 作为检测模型的骨干网络，使用配置文件 [ppyolov2_r50vd_dcn_365e_coco.yml](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.1/configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml)，更换为自定义的主体检测数据集，进行训练，最终得到检测模型。 +在轻量级主体检测任务中，为了更好地兼顾检测速度与效果，我们使用 PPLCNet_x2_5 作为主体检测模型的骨干网络，同时将训练与预测的图像尺度修改为了 640x640，其余配置与 [picodet_lcnet_1_5x_416_coco.yml](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.5/configs/picodet/picodet_l_416_coco_lcnet.yml) 完全一致。将数据集更换为自定义的主体检测数据集，进行训练，最终得到检测模型。 @@ -118,13 +95,13 @@ cd PaddleDetection pip install -r requirements.txt ``` -更多安装教程，请参考: [安装文档](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.1/docs/tutorials/INSTALL_cn.md) +更多安装教程，请参考: [安装文档](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.5/docs/tutorials/INSTALL_cn.md) ### 3.2 数据准备 -对于自定义数据集，首先需要将自己的数据集修改为 COCO 格式，可以参考[自定义检测数据集教程](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.1/static/docs/tutorials/Custom_DataSet.md)制作 COCO 格式的数据集。 +对于自定义数据集，首先需要将自己的数据集修改为 COCO 格式，可以参考[自定义检测数据集教程](https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.5/docs/tutorials/data)制作 COCO 格式的数据集。 主体检测任务中，所有的检测框均属于前景，在这里需要将标注文件中，检测框的 `category_id` 修改为 1，同时将整个标注文件中的 `categories` 映射表修改为下面的格式，即整个类别映射表中只包含`前景`类别。 @@ -136,22 +113,20 @@ pip install -r requirements.txt ### 3.3 配置文件改动和说明 -我们使用 `configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml` 配置进行训练，配置文件摘要如下： +我们使用 [mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.5/configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml) 配置进行训练，配置文件摘要如下： ![](../../images/det/PaddleDetection_config.png) -从上图看到 `ppyolov2_r50vd_dcn_365e_coco.yml` 配置需要依赖其他的配置文件，这些配置文件的含义如下: +从上图看到 `mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml` 配置需要依赖其他的配置文件，这些配置文件的含义如下: ``` -coco_detection.yml：主要说明了训练数据和验证数据的路径 - runtime.yml：主要说明了公共的运行参数，比如是否使用 GPU、每多少个 epoch 存储 checkpoint 等 -optimizer_365e.yml：主要说明了学习率和优化器的配置 +optimizer_100e.yml：主要说明了学习率和优化器的配置 -ppyolov2_r50vd_dcn.yml：主要说明模型和主干网络的情况 +picodet_esnet.yml：主要说明模型和主干网络的情况 -ppyolov2_reader.yml：主要说明数据读取器配置，如 batch size，并发加载子进程数等，同时包含读取后预处理操作，如 resize、数据增强等等 +picodet_640_reader.yml：主要说明数据读取器配置，如 batch size，并发加载子进程数等，同时包含读取后预处理操作，如 resize、数据增强等等 ``` 在主体检测任务中，需要将 `datasets/coco_detection.yml` 中的 `num_classes` 参数修改为 1（只有 1 个前景类别），同时将训练集和测试集的路径修改为自定义数据集的路径。 @@ -169,14 +144,14 @@ PaddleDetection 提供了单卡/多卡训练模式，满足用户多种训练需 ```bash # windows 和 Mac 下不需要执行该命令 export CUDA_VISIBLE_DEVICES=0 -python tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml +python tools/train.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml ``` * GPU 多卡训练 ```bash export CUDA_VISIBLE_DEVICES=0,1,2,3 -python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --eval +python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml --eval ``` --eval：表示边训练边验证。 @@ -188,7 +163,7 @@ python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/ppy ```bash export CUDA_VISIBLE_DEVICES=0 # 指定 pretrain_weights 参数，加载通用的主体检测预训练模型 -python tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml -o pretrain_weights=https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/pretrain/ppyolov2_r50vd_dcn_mainbody_v1.0_pretrained.pdparams +python tools/train.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml -o pretrain_weights=https://paddledet.bj.bcebos.com/models/picodet_lcnet_x2_5_640_mainbody.pdparams ``` * 模型恢复训练 @@ -197,10 +172,14 @@ python tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml -o pret ```bash export CUDA_VISIBLE_DEVICES=0,1,2,3 -python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --eval -r output/ppyolov2_r50vd_dcn_365e_coco/10000 +python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml --eval -r output/picodet_lcnet_x2_5_640_mainbody/20 ``` -注意：如果遇到 "`Out of memory error`" 问题, 尝试在 `ppyolov2_reader.yml` 文件中调小 `batch_size`，同时等比例调小学习率。 +注意： + +- `-r`命令中最后`20`表示从第20个epoch保存的权重开始训练，使用时确保`20.pdparams 20.pdopt`文件存在。请根据实际自行修改 + +- 如果遇到 "`Out of memory error`" 问题, 尝试在 `picodet_640_reader.yml` 文件中调小 `batch_size`，同时等比例调小学习率。 @@ -210,12 +189,13 @@ python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/ppy ```bash export CUDA_VISIBLE_DEVICES=0 -python tools/infer.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --infer_img=your_image_path.jpg --output_dir=infer_output/ --draw_threshold=0.5 -o weights=output/ppyolov2_r50vd_dcn_365e_coco/model_final +python tools/infer.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml --infer_img=your_image_path.jpg --output_dir=infer_output/ --draw_threshold=0.5 -o weights=output/picodet_lcnet_x2_5_640_mainbody/model_final ``` `--draw_threshold` 是个可选参数. 根据 [NMS](https://ieeexplore.ieee.org/document/1699659) 的计算，不同阈值会产生不同的结果 `keep_top_k` 表示设置输出目标的最大数量，默认值为 100，用户可以根据自己的实际情况进行设定。 + ## 4. 模型推理部署 @@ -224,16 +204,16 @@ python tools/infer.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --infer 执行导出模型脚本： ```bash -python tools/export_model.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --output_dir=./inference -o weights=output/ppyolov2_r50vd_dcn_365e_coco/model_final.pdparams +python tools/export_model.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml --output_dir=./inference -o weights=output/picodet_lcnet_x2_5_640_mainbody/model_final.pdparams ``` -预测模型会导出到 `inference/ppyolov2_r50vd_dcn_365e_coco` 目录下，分别为 `infer_cfg.yml` (预测不需要), `model.pdiparams`, `model.pdiparams.info`, `model.pdmodel` 。 +预测模型会导出到 `inference/picodet_lcnet_x2_5_640_mainbody` 目录下，分别为 `infer_cfg.yml` (预测不需要), `model.pdiparams`, `model.pdiparams.info`, `model.pdmodel` 。 注意： `PaddleDetection` 导出的 inference 模型的文件格式为 `model.xxx`，这里如果希望与 PaddleClas 的 inference 模型文件格式保持一致，需要将其 `model.xxx` 文件修改为 `inference.xxx` 文件，用于后续主体检测的预测部署。 -更多模型导出教程，请参考： [EXPORT_MODEL](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.4/deploy/EXPORT_MODEL.md) +更多模型导出教程，请参考： [EXPORT_MODEL](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.5/deploy/EXPORT_MODEL.md) -最终，目录 `inference/ppyolov2_r50vd_dcn_365e_coco` 中包含 `inference.pdiparams`, `inference.pdiparams.info` 以及 `inference.pdmodel` 文件，其中 `inference.pdiparams` 为保存的 inference 模型权重文件，`inference.pdmodel` 为保存的 inference 模型结构文件。 +最终，目录 `inference/picodet_lcnet_x2_5_640_mainbody` 中包含 `inference.pdiparams`, `inference.pdiparams.info` 以及 `inference.pdmodel` 文件，其中 `inference.pdiparams` 为保存的 inference 模型权重文件，`inference.pdmodel` 为保存的 inference 模型结构文件。 ### 4.2 基于python预测引擎推理 @@ -244,7 +224,7 @@ python tools/export_model.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml ### 4.3 其他推理方式 -其他推理方法，如C++推理部署、PaddleServing部署等请参考[检测模型推理部署](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.4/deploy/README.md)。 +其他推理方法，如C++推理部署、PaddleServing部署等请参考[检测模型推理部署](https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.5/deploy/README.md)。 ### FAQ diff --git a/docs/zh_CN/inference_deployment/lite_shitu.md b/docs/zh_CN/inference_deployment/lite_shitu.md new file mode 100644 index 0000000000000000000000000000000000000000..c9c1ca4d3c11316cb5684944f9f3c6dcf4474ca0 --- /dev/null +++ b/docs/zh_CN/inference_deployment/lite_shitu.md @@ -0,0 +1,412 @@ +# PP-ShiTu在Paddle-Lite端侧部署 + +本教程将介绍基于[Paddle Lite](https://github.com/PaddlePaddle/Paddle-Lite) 在移动端部署PaddleClas PP-ShiTu模型的详细步骤。 + +Paddle Lite是飞桨轻量化推理引擎，为手机、IoT端提供高效推理能力，并广泛整合跨平台硬件，为端侧部署及应用落地问题提供轻量化的部署方案。 + +## 目录 + +- [1. 环境准备](#1) + - [1.1 准备交叉编译环境](#1.1) + - [1.2 准备预测库](#1.2) + +- [2. 编译流程](#2) + - [2.1 模型准备](#2.1) + - [2.1.1 使用PaddleClase提供的推理模型](#2.1.1) + - [2.1.2 使用其他模型](#2.1.2) + - [2.1.2.1 安装paddle_lite_opt工具](#2.1.2.1) + - [2.1.2.2 转换示例](#2.1.2.2) + - [2.2 生成新的索引库](#2.2) + - [2.2.1 数据集环境配置](#2.2.1) + - [2.2.2 生成新的index文件](#2.2.2) + - [2.3 将yaml文件转换成json文件](#2.3) + - [2.4 index字典转换](#2.4) + - [2.5 与手机联调](#2.5) +- [FAQ](#FAQ) + + + +## 1. 环境准备 + +### 运行准备 +- 电脑（编译Paddle Lite） +- 安卓手机（armv7或armv8） + + + +### 1.1 准备交叉编译环境 +交叉编译环境用于编译 Paddle Lite 和 PaddleClas 的PP-ShiTu Lite demo。 +支持多种开发环境，不同开发环境的编译流程请参考对应文档，请确保安装完成Java jdk、Android NDK(R17以上)。 + +1. [Docker](https://paddle-lite.readthedocs.io/zh/latest/source_compile/compile_env.html#docker) +2. [Linux](https://paddle-lite.readthedocs.io/zh/latest/source_compile/compile_env.html#linux) +3. [MAC OS](https://paddle-lite.readthedocs.io/zh/latest/source_compile/compile_env.html#mac-os) + +```shell +# 配置完成交叉编译环境后，更新环境变量 +# for docker、Linux +source ~/.bashrc +# for Mac OS +source ~/.bash_profile +``` + + + +### 1.2 准备预测库 + +预测库有两种获取方式： +1. [**建议**]直接下载，预测库下载链接如下： + |平台| 架构 | 预测库下载链接| + |-|-|-| + |Android| arm7 | [inference_lite_lib](https://github.com/PaddlePaddle/Paddle-Lite/releases/download/v2.10-rc/inference_lite_lib.android.armv7.clang.c++_static.with_extra.with_cv.tar.gz) | + | Android | arm8 | [inference_lite_lib](https://github.com/PaddlePaddle/Paddle-Lite/releases/download/v2.10-rc/inference_lite_lib.android.armv8.clang.c++_static.with_extra.with_cv.tar.gz) | + | Android | arm8(FP16) | [inference_lite_lib](https://github.com/PaddlePaddle/Paddle-Lite/releases/download/v2.10-rc/inference_lite_lib.android.armv8_clang_c++_static_with_extra_with_cv_with_fp16.tiny_publish_427e46.zip) | + +**注意**：1. 如果是从 Paddle-Lite [官方文档](https://paddle-lite.readthedocs.io/zh/latest/quick_start/release_lib.html#android-toolchain-gcc)下载的预测库，注意选择`with_extra=ON，with_cv=ON`的下载链接。2. 目前只提供Android端demo，IOS端demo可以参考[Paddle-Lite IOS demo](https://github.com/PaddlePaddle/Paddle-Lite-Demo/tree/master/PaddleLite-ios-demo) + + +2. 编译Paddle-Lite得到预测库，Paddle-Lite的编译方式如下： +```shell +git clone https://github.com/PaddlePaddle/Paddle-Lite.git +cd Paddle-Lite +# 如果使用编译方式，建议使用develop分支编译预测库 +git checkout develop +# FP32 +./lite/tools/build_android.sh --arch=armv8 --toolchain=clang --with_cv=ON --with_extra=ON +# FP16 +./lite/tools/build_android.sh --arch=armv8 --toolchain=clang --with_cv=ON --with_extra=ON --with_arm82_fp16=ON +``` + +**注意**：编译Paddle-Lite获得预测库时，需要打开`--with_cv=ON --with_extra=ON`两个选项，`--arch`表示`arm`版本，这里指定为armv8，更多编译命令介绍请参考[链接](https://paddle-lite.readthedocs.io/zh/latest/demo_guides/arm_cpu.html)。 + +直接下载预测库并解压后，可以得到`inference_lite_lib.android.armv8.clang.c++_static.with_extra.with_cv/`文件夹，通过编译Paddle-Lite得到的预测库位于`Paddle-Lite/build.lite.android.armv8.gcc/inference_lite_lib.android.armv8/`文件夹下。 +预测库的文件目录如下： + +``` +inference_lite_lib.android.armv8/ +|-- cxx C++ 预测库和头文件 +| |-- include C++ 头文件 +| | |-- paddle_api.h +| | |-- paddle_image_preprocess.h +| | |-- paddle_lite_factory_helper.h +| | |-- paddle_place.h +| | |-- paddle_use_kernels.h +| | |-- paddle_use_ops.h +| | `-- paddle_use_passes.h +| `-- lib C++预测库 +| |-- libpaddle_api_light_bundled.a C++静态库 +| `-- libpaddle_light_api_shared.so C++动态库 +|-- java Java预测库 +| |-- jar +| | `-- PaddlePredictor.jar +| |-- so +| | `-- libpaddle_lite_jni.so +| `-- src +|-- demo C++和Java示例代码 +| |-- cxx C++ 预测库demo +| `-- java Java 预测库demo +``` + + + +## 2 编译流程 + + + +### 2.1 模型准备 + +PaddleClas 提供了转换并优化后的推理模型，可以直接参考下方 2.1.1 小节进行下载。如果需要使用其他模型，请参考后续 2.1.2 小节自行转换并优化模型。 + + + +#### 2.1.1 使用PaddleClas提供的推理模型 + +```shell +# 进入lite_ppshitu目录 +cd $PaddleClas/deploy/lite_shitu +wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/lite/ppshitu_lite_models_v1.2.tar +tar -xf ppshitu_lite_models_v1.2.tar +rm -f ppshitu_lite_models_v1.2.tar +``` + + + +#### 2.1.2 使用其他模型 + +Paddle-Lite 提供了多种策略来自动优化原始的模型，其中包括量化、子图融合、混合调度、Kernel优选等方法，使用Paddle-Lite的`opt`工具可以自动对inference模型进行优化，目前支持两种优化方式，优化后的模型更轻量，模型运行速度更快。 + +**注意**：如果已经准备好了 `.nb` 结尾的模型文件，可以跳过此步骤。 + + + +##### 2.1.2.1 安装paddle_lite_opt工具 + +安装`paddle_lite_opt`工具有如下两种方法： + +1. [**建议**]pip安装paddlelite并进行转换 + ```shell + pip install paddlelite==2.10rc + ``` + +2. 源码编译Paddle-Lite生成`paddle_lite_opt`工具 + + 模型优化需要Paddle-Lite的`opt`可执行文件，可以通过编译Paddle-Lite源码获得，编译步骤如下： + ```shell + # 如果准备环境时已经clone了Paddle-Lite，则不用重新clone Paddle-Lite + git clone https://github.com/PaddlePaddle/Paddle-Lite.git + cd Paddle-Lite + git checkout develop + # 启动编译 + ./lite/tools/build.sh build_optimize_tool + ``` + + 编译完成后，`opt`文件位于`build.opt/lite/api/`下，可通过如下方式查看`opt`的运行选项和使用方式； + ```shell + cd build.opt/lite/api/ + ./opt + ``` + + `opt`的使用方式与参数与上面的`paddle_lite_opt`完全一致。 + +之后使用`paddle_lite_opt`工具可以进行inference模型的转换。`paddle_lite_opt`的部分参数如下： + +|选项|说明| +|-|-| +|--model_file|待优化的PaddlePaddle模型（combined形式）的网络结构文件路径| +|--param_file|待优化的PaddlePaddle模型（combined形式）的权重文件路径| +|--optimize_out_type|输出模型类型，目前支持两种类型：protobuf和naive_buffer，其中naive_buffer是一种更轻量级的序列化/反序列化实现，默认为naive_buffer| +|--optimize_out|优化模型的输出路径| +|--valid_targets|指定模型可执行的backend，默认为arm。目前可支持x86、arm、opencl、npu、xpu，可以同时指定多个backend(以空格分隔)，Model Optimize Tool将会自动选择最佳方式。如果需要支持华为NPU（Kirin 810/990 Soc搭载的达芬奇架构NPU），应当设置为npu, arm| + +更详细的`paddle_lite_opt`工具使用说明请参考[使用opt转化模型文档](https://paddle-lite.readthedocs.io/zh/latest/user_guides/opt/opt_bin.html) + +`--model_file`表示inference模型的model文件地址，`--param_file`表示inference模型的param文件地址；`optimize_out`用于指定输出文件的名称（不需要添加`.nb`的后缀）。直接在命令行中运行`paddle_lite_opt`，也可以查看所有参数及其说明。 + + + +##### 2.1.2.2 转换示例 + +下面介绍使用`paddle_lite_opt`完成主体检测模型和识别模型的预训练模型，转成inference模型，最终转换成Paddle-Lite的优化模型的过程。 + +1. 转换主体检测模型 + +```shell +# 当前目录为 $PaddleClas/deploy/lite_shitu +# $code_path需替换成相应的运行目录,可以根据需要，将$code_path设置成需要的目录 +export code_path=~ +cd $code_path +git clone https://github.com/PaddlePaddle/PaddleDetection.git +# 进入PaddleDetection根目录 +cd PaddleDetection +# 将预训练模型导出为inference模型 +python tools/export_model.py -c configs/picodet/legacy_model/application/mainbody_detection/picodet_lcnet_x2_5_640_mainbody.yml -o weights=https://paddledet.bj.bcebos.com/models/picodet_lcnet_x2_5_640_mainbody.pdparams export_post_process=False --output_dir=inference +# 将inference模型转化为Paddle-Lite优化模型 +paddle_lite_opt --model_file=inference/picodet_lcnet_x2_5_640_mainbody/model.pdmodel --param_file=inference/picodet_lcnet_x2_5_640_mainbody/model.pdiparams --optimize_out=inference/picodet_lcnet_x2_5_640_mainbody/mainbody_det +# 将转好的模型复制到lite_shitu目录下 +cd $PaddleClas/deploy/lite_shitu +mkdir models +cp $code_path/PaddleDetection/inference/picodet_lcnet_x2_5_640_mainbody/mainbody_det.nb $PaddleClas/deploy/lite_shitu/models +``` + +2. 转换识别模型 + +```shell +# 识别模型下载 +wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/general_PPLCNet_x2_5_lite_v1.0_infer.tar +# 解压模型 +tar -xf general_PPLCNet_x2_5_lite_v1.0_infer.tar +# 转换为Paddle-Lite模型 +paddle_lite_opt --model_file=general_PPLCNet_x2_5_lite_v1.0_infer/inference.pdmodel --param_file=general_PPLCNet_x2_5_lite_v1.0_infer/inference.pdiparams --optimize_out=general_PPLCNet_x2_5_lite_v1.0_infer/rec +# 将模型文件拷贝到lite_shitu下 +cp general_PPLCNet_x2_5_lite_v1.0_infer/rec.nb deploy/lite_shitu/models/ +``` + +**注意**：`--optimize_out` 参数为优化后模型的保存路径，无需加后缀`.nb`；`--model_file` 参数为模型结构信息文件的路径，`--param_file` 参数为模型权重信息文件的路径，请注意文件名。 + + + +### 2.2 生成新的检索库 + +由于lite 版本的检索库用的是`faiss1.5.3`版本，与新版本不兼容，因此需要重新生成index库 + + + +#### 2.2.1 数据及环境配置 + +```shell +# 进入PaddleClas根目录 +cd $PaddleClas +# 安装PaddleClas +python setup.py install +cd deploy +# 下载瓶装饮料数据集 +wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/data/drink_dataset_v1.0.tar && tar -xf drink_dataset_v1.0.tar +rm -rf drink_dataset_v1.0.tar +rm -rf drink_dataset_v1.0/index + +# 安装1.5.3版本的faiss +pip install faiss-cpu==1.5.3 + +# 下载通用识别模型，可替换成自己的inference model +wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/general_PPLCNet_x2_5_lite_v1.0_infer.tar +tar -xf general_PPLCNet_x2_5_lite_v1.0_infer.tar +rm -rf general_PPLCNet_x2_5_lite_v1.0_infer.tar +``` + + + +#### 2.2.2 生成新的index文件 + +```shell +# 生成新的index库，注意指定好识别模型的路径，同时将index_mothod修改成Flat，HNSW32和IVF在此版本中可能存在bug，请慎重使用。 +# 如果使用自己的识别模型，对应的修改inference model的目录 +python python/build_gallery.py -c configs/inference_drink.yaml -o Global.rec_inference_model_dir=general_PPLCNet_x2_5_lite_v1.0_infer -o IndexProcess.index_method=Flat + +# 进入到lite_shitu目录 +cd lite_shitu +mv ../drink_dataset_v1.0 . +``` + + + +### 2.3 将yaml文件转换成json文件 + +```shell +# 如果测试单张图像，路径使用相对路径 +python generate_json_config.py --det_model_path ppshitu_lite_models_v1.2/mainbody_PPLCNet_x2_5_640_v1.2_lite.nb --rec_model_path ppshitu_lite_models_v1.2/general_PPLCNet_x2_5_lite_v1.2_infer.nb --img_path images/demo.jpeg +# or +# 如果测试多张图像 +python generate_json_config.py --det_model_path ppshitu_lite_models_v1.2/mainbody_PPLCNet_x2_5_640_v1.2_lite.nb --rec_model_path ppshitu_lite_models_v1.2/general_PPLCNet_x2_5_lite_v1.2_infer.nb --img_dir images +# 执行完成后，会在lit_shitu下生成shitu_config.json配置文件 +``` + + + +### 2.4 index字典转换 + +由于python的检索库字典，使用`pickle`进行的序列化存储，导致C++不方便读取，因此需要进行转换 + +```shell + +# 转化id_map.pkl为id_map.txt +python transform_id_map.py -c ../configs/inference_drink.yaml +``` +转换成功后，会在`IndexProcess.index_dir`目录下生成`id_map.txt`。 + + + +### 2.5 与手机联调 + +首先需要进行一些准备工作。 +1. 准备一台arm8的安卓手机，如果编译的预测库是armv7，则需要arm7的手机，并修改Makefile中`ARM_ABI=arm7`。 +2. 电脑上安装ADB工具，用于调试。 ADB安装方式如下： + + 2.1. MAC电脑安装ADB: + + ```shell + brew cask install android-platform-tools + ``` + 2.2. Linux安装ADB + ```shell + sudo apt update + sudo apt install -y wget adb + ``` + 2.3. Window安装ADB + + win上安装需要去谷歌的安卓平台下载ADB软件包进行安装：[链接](https://developer.android.com/studio) + +3. 手机连接电脑后，开启手机`USB调试`选项，选择`文件传输`模式，在电脑终端中输入： + +```shell +adb devices +``` +如果有device输出，则表示安装成功，如下所示： +``` +List of devices attached +744be294 device +``` + +4. 编译lite部署代码生成移动端可执行文件 + +```shell +cd $PaddleClas/deploy/lite_shitu +# ${lite prediction library path}下载的Paddle-Lite库路径 +inference_lite_path=${lite prediction library path}/inference_lite_lib.android.armv8.gcc.c++_static.with_extra.with_cv/ +mkdir $inference_lite_path/demo/cxx/ppshitu_lite + +cp -r * $inference_lite_path/demo/cxx/ppshitu_lite +cd $inference_lite_path/demo/cxx/ppshitu_lite + +# 执行编译，等待完成后得到可执行文件main +make ARM_ABI=arm8 +#如果是arm7，则执行 make ARM_ABI = arm7 (或者在Makefile中修改该项) +``` + +5. 准备优化后的模型、预测库文件、测试图像。 + +```shell +mkdir deploy +# 移动的模型路径要和之前生成的json文件中模型路径一致 +mv ppshitu_lite_models_v1.2 deploy/ +mv drink_dataset_v1.0 deploy/ +mv images deploy/ +mv shitu_config.json deploy/ +cp pp_shitu deploy/ + +# 将C++预测动态库so文件复制到deploy文件夹中 +cp ../../../cxx/lib/libpaddle_light_api_shared.so deploy/ +``` + +执行完成后，deploy文件夹下将有如下文件格式： + +```shell +deploy/ +|-- ppshitu_lite_models_v1.1/ +| |--mainbody_PPLCNet_x2_5_640_quant_v1.1_lite.nb 优化后的主体检测模型文件 +| |--general_PPLCNet_x2_5_lite_v1.1_infer.nb 优化后的识别模型文件 +|-- images/ +| |--demo.jpg 图片文件 +|-- drink_dataset_v1.0/ 瓶装饮料demo数据 +| |--index 检索index目录 +|-- pp_shitu 生成的移动端执行文件 +|-- shitu_config.json 执行时参数配置文件 +|-- libpaddle_light_api_shared.so Paddle-Lite库文件 +``` + +**注意：** +* `shitu_config.json` 包含了目标检测的超参数，请按需进行修改 + +6. 启动调试，上述步骤完成后就可以使用ADB将文件夹 `deploy/` push到手机上运行，步骤如下： + +```shell +# 将上述deploy文件夹push到手机上 +adb push deploy /data/local/tmp/ + +adb shell +cd /data/local/tmp/deploy +export LD_LIBRARY_PATH=/data/local/tmp/deploy:$LD_LIBRARY_PATH + +# 修改权限为可执行 +chmod 777 pp_shitu +# 执行程序 +./pp_shitu shitu_config.json +``` + +如果对代码做了修改，则需要重新编译并push到手机上。 + +运行效果如下： +``` +images/demo.jpeg: + result0: bbox[344, 98, 527, 593], score: 0.811656, label: 红牛-强化型 + result1: bbox[0, 0, 600, 600], score: 0.729664, label: 红牛-强化型 +``` + + + +## FAQ + +Q1：如果想更换模型怎么办，需要重新按照流程走一遍吗？ +A1：如果已经走通了上述步骤，更换模型只需要替换 `.nb` 模型文件即可，同时要注意修改下配置文件中的 `.nb` 文件路径以及类别映射文件（如有必要）。 + +Q2：换一个图测试怎么做？ +A2：替换 deploy 下的测试图像为你想要测试的图像，并重新生成json配置文件（或者直接修改图像路径），使用 ADB 再次 push 到手机上即可。 diff --git a/docs/zh_CN/inference_deployment/shitu_gallery_manager.md b/docs/zh_CN/inference_deployment/shitu_gallery_manager.md new file mode 100644 index 0000000000000000000000000000000000000000..55525bbc1b7c7759d7fccb9d392ed74c4d002261 --- /dev/null +++ b/docs/zh_CN/inference_deployment/shitu_gallery_manager.md @@ -0,0 +1,184 @@ +# PP-ShiTu 库管理工具 + +本工具是PP-ShiTu的离线库管理工具，主要功能包括：新建图像库、更改图像库、建立索引库、更新索引库等功能。此工具是为了用户能够可视化的管理图像及对应的index库，用户可根据实际情况，灵活的增删改查相应的gallery图像库及索引文件，在提升用户体验的同时，辅助PP-ShiTu在实际应用的过程中达到更好的效果。 + +## 目录 + +- [1. 功能介绍](#1) + + - [1.1 新建图像库](#1.1) + - [1.2 打开图像库](#1.2) + - [1.3 导入图像](#1.3) + - [1.4 图像操作](#1.3) + + - [1.5 其他功能](#1.5) + +- [2. 使用说明](#2) + + - [2.1 环境安装](#2.1) + - [2.2 模型准备](#2.2) + - [2.3运行使用](#2.3) + +- [3.生成文件介绍](#3) + +- [致谢](#4) + +- [FAQ](#FAQ) + + + +## 1. 功能介绍 + +此工具主要功能包括： + +- 构建`PP-ShiTu`中索引库对应的`gallery`图像库 +- 根据构建的`gallery`图像库，生成索引库 +- 对`gallery`图像库进行操作，如增删改查等操作，并更新对应的索引库 + +其中主界面的按钮如下图所示 + +
+ +

界面按钮展示

+
+ +上图中第一行包括：`主要功能按钮`、`保存按钮`、`新增类别按钮`、`删减类别按钮`。 + +第二行包括：`搜索框`、`搜索确定键`、`新加图像按钮`、`删除图像按钮`。 + +下面将进行具体功能介绍，其操作入口，可以点击`主要功能按钮`下拉菜单查看 + + + +### 1.1 新建图像库 + +点击新建库功能后，会选择一个**空的存储目录**或者**新建目录**，此时所有的图片及对应的索引库都会存放在此目录下。完成操作后，如下图所示 + +
+ +

新建库

+
+ +此时，用户可以新建类别具体可以点击`新增类别按钮`、`删减类别按钮`。选中类别后，可以进行添加图像及相关操作，具体可以点击及`新加图像按钮`、`删除图像按钮`。完成操作后，**注意保存**。 + + + +### 1.2 打开图像库 + +此功能是，用此工具存储好的库，进行打开编辑。注意，**打开库时，请选择打开的是新建库时文件夹路径**。打开库后，示例如下 + +
+ +

打开库

+
+ + + +### 1.3 导入图像 + +在打开图像库或者新建图像库完成后，可以使用导入图像功能，即导入用户自己生成好的图像库。具体有支持两种导入格式 + +- image_list格式：打开具体的`.txt`文件。`.txt`文件中每一行格式： `image_path label`。跟据文件路径及label导入 +- 多文件夹格式：打开`具体文件夹`，此文件夹下存储多个子文件夹，每个子文件夹名字为`label_name`，每个子文件夹中存储对应的图像数据。 + + + +### 1.4 图像操作 + +选择图像后，鼠标右击可以进行如下操作，可以根据需求，选择具体的操作，**注意修改完成图像后，请点击保存按钮，进行保存** + +
+ +

图像操作

+
+ + + +### 1.5 生成、更新index库 + +在用户完成图像库的新建、打开或者修改，并完成保存操作后。可以点击`主要功能按钮`中`新建/重建索引库`、`更新索引库`等功能，进行索引库的新建或者更新，生成`PP-ShiTu`使用的Index库 + + + +## 2. 使用说明 + + + +### 2.1 环境安装 + +安装好`PaddleClas`后 + +```shell +pip install fastapi +pip install uvicorn +pip install pyqt5 +``` + + + +### 2.2 模型准备 + +请按照[PP-ShiTu快速体验](../quick_start/quick_start_recognition.md#2.2.1)中下载及准备inference model model + + + +### 2.3 运行使用 + +运行方式如下 + +```shell +cd ${PaddleClas}/deploy/ +python shitu_index_manager/start.py -c inference_drink.yaml +``` + + + +## 3. 生成文件介绍 + +使用此工具后，会生成如下格式的文件 + +```shell +index_root/ # 库存储目录 +|-- image_list.txt # 图像列表，每行：image_path label。由前端生成及修改，后端只读 +|-- images # 图像存储目录，由前端生成及增删查等操作。后端只读 +| |-- md5.jpg +| |-- md5.jpg +| |-- …… +|-- features.pkl # 建库之后，保存的embedding向量，后端生成，前端无需操作 +|-- index # 真正的生成的index库存储目录，后端生成及操作，前端无需操作。 +| |-- vector.index # faiss生成的索引库 +| |-- id_map.pkl # 索引文件 +``` + +其中`index_root`是使用此工具时，用户选择的存储目录，库的索引文件存储在`index`文件夹中。 + +使用`PP-ShiTu`时，索引文件目录需换成`index`文件夹的地址。 + + + +## 致谢 + +此工具的前端主要由[国内qt论坛](http://www.qtcn.org/)总坛主[小熊宝宝](https://github.com/cnhemiya)完成，感谢**小熊宝宝**的大力支持~~ + +此工具前端原项目地址：https://github.com/cnhemiya/shitu-manager + + + +## FAQ + +- 问题1: 点击新建索引库后，程序假死 + + 答：生成索引库比较耗时，耐心等待一段时间就好 + +- 问题2: 导入图像是什么格式？ + + 答： 目前支持两种格式 1）image_list 格式，list中每行格式：path label。2）文件夹格式：类似`ImageNet`存储方式 + +- 问题3: 生成 index库报错 + + 答：在修改图像后，必须点击保存按钮，保存完成后，再继续生成index库。 + +- 问题4: 报错 图像与index库不一致 + + 答：可能用户自己修改了image_list.txt，修改完成后，请及时更新index库，保证其一致。 + diff --git a/docs/zh_CN/others/update_history.md b/docs/zh_CN/others/update_history.md index 5ea649e52a9d53eb3aab5b8b9322d1a87920fefa..0e88a51362d7d04db960c966db72a5ec3a0ee787 100644 --- a/docs/zh_CN/others/update_history.md +++ b/docs/zh_CN/others/update_history.md @@ -1,5 +1,6 @@ # 更新日志 +- 2022.4.21 新增 CVPR2022 oral论文 [MixFormer](https://arxiv.org/pdf/2204.02557.pdf) 相关[代码](https://github.com/PaddlePaddle/PaddleClas/pull/1820/files)。 - 2021.11.1 发布[PP-ShiTu技术报告](https://arxiv.org/pdf/2111.00775.pdf)，新增饮料识别demo。 - 2021.10.23 发布轻量级图像识别系统PP-ShiTu，CPU上0.2s即可完成在10w+库的图像识别。[点击这里](../quick_start/quick_start_recognition.md)立即体验。 - 2021.09.17 发布PP-LCNet系列超轻量骨干网络模型, 在Intel CPU上，单张图像预测速度约5ms，ImageNet-1K数据集上Top1识别准确率达到80.82%，超越ResNet152的模型效果。PP-LCNet的介绍可以参考[论文](https://arxiv.org/pdf/2109.15099.pdf), 或者[PP-LCNet模型介绍](../models/PP-LCNet.md)，相关指标和预训练权重可以从 [这里](../algorithm_introduction/ImageNet_models.md)下载。 diff --git a/docs/zh_CN/quick_start/quick_start_recognition.md b/docs/zh_CN/quick_start/quick_start_recognition.md index 1cc1b8d1602e25a97d1406cf6178dd3fd84f9faa..183582f1d865e2a661e119b0809e4dea2f22f7f1 100644 --- a/docs/zh_CN/quick_start/quick_start_recognition.md +++ b/docs/zh_CN/quick_start/quick_start_recognition.md @@ -45,7 +45,7 @@ **注：** 华为鸿蒙OS 3.0的系统可能会出现无法调用摄像头的情况，建议更换低版本系统或者使用其它安卓机型进行快速体验。 -
+