Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleClas
提交
3bb65b5e
P
PaddleClas
项目概览
PaddlePaddle
/
PaddleClas
大约 1 年 前同步成功
通知
115
Star
4999
Fork
1114
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
19
列表
看板
标记
里程碑
合并请求
6
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleClas
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
19
Issue
19
列表
看板
标记
里程碑
合并请求
6
合并请求
6
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
3bb65b5e
编写于
9月 15, 2022
作者:
H
HydrogenSulfate
提交者:
GitHub
9月 15, 2022
浏览文件
操作
浏览文件
下载
差异文件
Merge pull request #2304 from RainFrost1/release/2.5
update lite_shitu doc
上级
3a040587
a33706ff
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
10 addition
and
9 deletion
+10
-9
docs/zh_CN/inference_deployment/lite_shitu.md
docs/zh_CN/inference_deployment/lite_shitu.md
+10
-9
未找到文件。
docs/zh_CN/inference_deployment/lite_shitu.md
浏览文件 @
3bb65b5e
...
...
@@ -129,7 +129,9 @@ tar -xf ppshituv2_lite_models_v1.0.tar
rm
-f
ppshituv2_lite_models_v1.0.tar
```
此模型是PP-ShiTu V2的检测和特征模型的量化模型,存储大小约为14M,相对于非量化模型,模型加速一倍左右,精度降低不到一个点。如果想用非量化模型,可以参考
[
使用其他模型
](
#2.1.2
)
解压后的文件夹中包含PP-ShiTu V2的检测和特征模型的量化模型,即解压后的两个
`.nb`
模型。 存储大小约为14M,相对于非量化模型,模型加速一倍左右,精度降低不到一个点。如果想用非量化模型,可以参考
[
使用其他模型
](
#2.1.2
)
同时,文件中存在
`general_PPLCNetV2_base_quant_v1.0_lite_inference_model`
子文件夹,子文件夹中存储的是
`general_PPLCNetV2_base_quant_v1.0_lite.nb`
对应的
`inference model`
,在实际部署前,先需要用此
`inference model`
生成好对应的
`index`
库。实际推理时,只需要生成好的
`index`
库和两个量化模型来完成部署。
<a
name=
"2.1.2"
></a>
...
...
@@ -190,6 +192,8 @@ Paddle-Lite 提供了多种策略来自动优化原始的模型,其中包括
下面介绍使用
`paddle_lite_opt`
完成主体检测模型和识别模型的预训练模型,转成inference模型,最终转换成Paddle-Lite的优化模型的过程。
此示例是使用
`fp32`
的模型直接生成
`.nb`
模型,相对于量化模型,精度会更高,但是速度会降低。
1.
转换主体检测模型
```
shell
...
...
@@ -250,11 +254,6 @@ rm -rf drink_dataset_v2.0/index
# 安装1.5.3版本的faiss
pip
install
faiss-cpu
==
1.5.3
# 下载通用识别模型,可替换成自己的inference model
wget https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/inference/PP-ShiTuV2/general_PPLCNetV2_base_pretrained_v1.0_infer.tar
tar
-xf
general_PPLCNetV2_base_pretrained_v1.0_infer.tar
rm
-rf
general_PPLCNetV2_base_pretrained_v1.0_infer.tar
```
<a
name=
"2.2.2"
></a>
...
...
@@ -264,7 +263,7 @@ rm -rf general_PPLCNetV2_base_pretrained_v1.0_infer.tar
```
shell
# 生成新的index库,注意指定好识别模型的路径,同时将index_mothod修改成Flat,HNSW32和IVF在此版本中可能存在bug,请慎重使用。
# 如果使用自己的识别模型,对应的修改inference model的目录
python python/build_gallery.py
-c
configs/inference_drink.yaml
-o
Global.rec_inference_model_dir
=
general_PPLCNetV2_base_pretrained_v1.0_infer
-o
IndexProcess.index_method
=
Flat
python python/build_gallery.py
-c
configs/inference_drink.yaml
-o
Global.rec_inference_model_dir
=
lite_shitu/ppshituv2_lite_models_v1.0/general_PPLCNetV2_base_quant_v1.0_lite_inference_model
-o
IndexProcess.index_method
=
Flat
# 进入到lite_shitu目录
cd
lite_shitu
...
...
@@ -276,6 +275,7 @@ mv ../drink_dataset_v2.0 .
### 2.3 将yaml文件转换成json文件
```
shell
# 如果是使用自己生成的.nb模型,请修改好对应的det_model_path和rec_model_path的路径
# 如果测试单张图像,路径使用相对路径
python generate_json_config.py
--det_model_path
ppshituv2_lite_models_v1.0/mainbody_PPLCNet_x2_5_640_quant_v1.0_lite.nb
--rec_model_path
ppshituv2_lite_models_v1.0/general_PPLCNetV2_base_quant_v1.0_lite.nb
--img_path
images/demo.jpeg
# or
...
...
@@ -367,8 +367,9 @@ cp ../../../cxx/lib/libpaddle_light_api_shared.so deploy/
```
shell
deploy/
|-- ppshituv2_lite_models_v1.0/
| |--mainbody_PPLCNet_x2_5_640_quant_v1.0_lite.nb 优化后的主体检测模型文件
| |--general_PPLCNetV2_base_quant_v1.0_lite.nb 优化后的识别模型文件
| |--mainbody_PPLCNet_x2_5_640_quant_v1.0_lite.nb 主体检测lite模型文件
| |--general_PPLCNetV2_base_quant_v1.0_lite.nb 识别lite模型文件
| |--general_PPLCNetV2_base_quant_v1.0_lite_inference_model 识别对应的inference model文件夹
|-- images/
| |--demo.jpg 图片文件
|-- drink_dataset_v2.0/ 瓶装饮料demo数据
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录